Do Frontier Models Seek Safety Evidence Before Acting?
Frontier models are often evaluated on how they respond to safety information once it is already in context. We study an earlier decision point: whether models choose to acquire safety-relevant evidence before acting. We introduce SAFE, a controlled benchmark in which models…
- 01.Frontier models are often evaluated on how they respond to safety information once it is already in context
- 02.We study an earlier decision point: whether models choose to acquire safety-relevant evidence before acting
- 03.We introduce SAFE, a controlled benchmark in which models…
Материал представлен в формате расширенного аналитического дайджеста.
Читать полную версию в первоисточникеСвязанные материалы
Все материалы →Я только что взялся за сложный проект, и каждый раз, когда прошу Claude Code немного изменить какую-нибудь функцию, е...
Я только что взялся за сложный проект, и каждый раз, когда прошу Claude Code немного изменить какую-нибудь функцию, ему приходится заново разбирать почти весь код проекта. К середине диалога контекст уже переполняется, и структуру проекта приходится объяснять заново. Команда…
Разработчик решил заняться реверс-инжинирингом собственного телевизора Samsung стоимостью $3000, заподозрив, что тот ...
Разработчик решил заняться реверс-инжинирингом собственного телевизора Samsung стоимостью $3000, заподозрив, что тот неспроста показывает ему таргетированную рекламу. 🙅 По его словам, в ходе исследования он обнаружил множество механизмов слежения и сбора телеметрии, включая…
NVIDIA наградила три команды на HackAlem AI за разработки в области искусственного интеллекта
В рамках AI Month в Астане состоялась церемония награждения победителей крупнейшего AI-хакатона HackAlem AI. Мероприятие вошло в программу визита основателя и CEO NVIDIA Дженсена Хуанга в Казахстан. Победители хакатона получили возможность лично встретиться с Хуангом и сделать…