Заголовок на английскомDo Frontier Models Seek Safety Evidence Before Acting?
Frontier models are often evaluated on how they respond to safety information once it is already in context. We study an earlier decision point: whether models choose to acquire safety-relevant evidence before acting. We introduce SAFE, a controlled benchmark in which models…
Кратко от AI: Главные тезисы
- Frontier models are often evaluated on how they respond to safety information once it is already in context
- We study an earlier decision point: whether models choose to acquire safety-relevant evidence before acting
- We introduce SAFE, a controlled benchmark in which models…
Do Frontier Models Seek Safety Evidence Before Acting?
Похожие материалы
Каждому пользователю Claude Code обязательно стоит установить /stack.
Каждому пользователю Claude Code обязательно стоит установить /stack. Мод /stack показывает ВСЁ, что установлено и доступно в Claude Code: Скиллы, субагенты, команды, хуки, MCP-серверы, плагины, настройки и стили вывода. Всё сгруппировано по уровням конфигурации: Enterprise,…
Школьники из Казахстана стали лучшими на престижном конкурсе на Бали с проектом, который проверяет ошибки ИИ
Два школьника из Алматы получили серебро на IRCYS 2026 на Бали. Их система PlanLens находит ошибки в планах ИИ-агентов.
Claude теперь сам предлагает, что сделать: Anthropic запустила проактивного ИИ-агента
📎 Claude теперь сам предлагает, что сделать: Anthropic запустила проактивного ИИ-агента Компания запустила тестовую версию Claude Duet — проактивного ИИ-агента на базе модели Claude Opus 5.5. В отличие от обычного чат-бота, он не ждет постоянных команд, а самостоятельно…
Anthropic представила Claude Duet, автономного ИИ-агента
Anthropic представила нового ИИ-агента под названием Claude Duet. Он призван облегчить повседневную работу профессионалов и владельцев малого бизнеса: они смогут планировать встречи, делать финансовые прогнозы и разрабатывать веб-приложения, сообщает Tech-news. Главный…