Красная команда «черного ящика» агентного искусственного интеллекта: таксономическая система для автоматического обнаружения рисков
arXiv:2609.09647v1 Объявление Тип: новое Аннотация: Агентские системы быстро переходят в рабочую среду, где они считывают ненадежные входные данные, вызывают инструменты с реальными разрешениями и действуют автономно, расширяя поверхность безопасности за пределы моделей, предназначенных только для чата. Однако стандартные оценки остаются…
- 01.arXiv:2609.09647v1 Объявление Тип: новое Аннотация: Агентские системы быстро переходят в рабочую среду, где они считывают ненадежные входные данные, вызывают инструменты с реальными разрешениями и действуют автономно, расширяя поверхность безопасности за пределы моделей, предназначенных только для чата
- 02.Однако стандартные оценки остаются…
Материал представлен в формате расширенного аналитического дайджеста.
Читать полную версию в первоисточникеСвязанные материалы
Все материалы →По данным Wired, я протестировал главные ИИ-агенты за день
Wired рассказывает о тестировании шести ИИ-агентов и их сравнении.
Тед Сандерс из OpenAI делится правилом выбора подходящей GPT-модели
Тед Сандерс из OpenAI объясняет, где GPT-6.1 Terra находится в линейке GPT компании. Меньшая модель превосходит более крупную Astra в технической коммуникации и стоит гораздо дешевле, но уступает ей в большинстве других аспектов. Сандерс говорит о размере модели, усилиях рассуждения и многоагентных системах…
Data center backlash is uniting America
If there's one issue that seems to activate all kinds of voters in 2026, it's data centers. The rapid buildout of these massive server storage facilities - and the infrastructure construction and expenses that come with them - has sparked local opposition in communities across…