OpenAI обнаружила новый тип атак на ИИ-агентов — вредоносные промпты научились «размножаться»
🦠 OpenAI обнаружила новый тип атак на ИИ-агентов — вредоносные промпты научились «размножаться» Атака получила название self-replicating prompt injection. Скрытая инструкция заставляет агента не только выполнить действия злоумышленника, но и скопировать саму себя в другие…
- 01.🦠 OpenAI обнаружила новый тип атак на ИИ-агентов — вредоносные промпты научились «размножаться» Атака получила название self-replicating prompt injection
- 02.Скрытая инструкция заставляет агента не только выполнить действия злоумышленника, но и скопировать саму себя в другие…
🦠 OpenAI обнаружила новый тип атак на ИИ-агентов — вредоносные промпты научились «размножаться» Атака получила название self-replicating prompt injection. Скрытая инструкция заставляет агента не только выполнить действия злоумышленника, но и скопировать саму себя в другие письма, файлы или сообщения, откуда её может подхватить следующий ИИ. Например, вредоносный промпт в электронном письме может заставить ассистента процитировать его целиком в ответе. Если новое письмо обработает другой агент, инструкция распространится дальше — почти как компьютерный вирус. OpenAI обнаружила такие сценарии во время тестирования моделей с помощью GPT-Red. Подтверждений реальных атак пока нет, но теперь компания использует подобные инъекции при обучении будущих моделей. Источник
Связанные материалы
Все материалы →OpenAI представила GPT-6.1 Terra, причём стоимость новой модели оказалась значительно ниже ожидаемой.
OpenAI представила GPT-6.1 Terra, причём стоимость новой модели оказалась значительно ниже ожидаемой. Стоимость использования через API: > $1 за миллион входных токенов. > $5 за миллион выходных токенов. > $0,05 за миллион кэшированных входных токенов. Таким образом, GPT-6.1…
Как OpenAI превратило свои инструменты для кодирования в dots — всегда доступного личного ассистента
Александр Эмбирикос, руководитель OpenAI, отвечающий за dots, никогда не хочет проводить встречу с чужым ИИ-агентом.
It's happening...
One of the most controversial companies in history just filed to go public. And yes, we're talking about Anthropic. The same company that says there's a greater than 10% chance AI kills all of humanity is also simultaneously one of the best built businesses of all time. And in…