Нейронкам устроили проверку на человечность — и ответы сильно разошлись
☢️ Нейронкам устроили проверку на человечность — и ответы сильно разошлись Исследователи протестировали 10 ИИ-моделей на моральной дилемме: допустимо ли применить насилие к одному человеку, если это необходимо, чтобы предотвратить ядерный апокалипсис. Единственной моделью,…
- 01.☢️ Нейронкам устроили проверку на человечность — и ответы сильно разошлись Исследователи протестировали 10 ИИ-моделей на моральной дилемме: допустимо ли применить насилие к одному человеку, если это необходимо, чтобы предотвратить ядерный апокалипсис
- 02.Единственной моделью,…
☢️ Нейронкам устроили проверку на человечность — и ответы сильно разошлись Исследователи протестировали 10 ИИ-моделей на моральной дилемме: допустимо ли применить насилие к одному человеку, если это необходимо, чтобы предотвратить ядерный апокалипсис. Единственной моделью, которая была готова спасти человечество любой ценой, оказался DeepSeek — он допускал насилие независимо от пола человека. На другом полюсе оказались Llama и Copilot: они отказались применять насилие при любом из предложенных сценариев. Остальные модели заняли промежуточную позицию — то есть даже при угрозе ядерного апокалипсиса единого ответа на вопрос «можно ли пожертвовать одним ради всех» у ИИ не оказалось. Источник
Связанные материалы
Все материалы →Как OpenAI превратило свои инструменты для кодирования в dots — всегда доступного личного ассистента
Александр Эмбирикос, руководитель OpenAI, отвечающий за dots, никогда не хочет проводить встречу с чужым ИИ-агентом.
It's happening...
One of the most controversial companies in history just filed to go public. And yes, we're talking about Anthropic. The same company that says there's a greater than 10% chance AI kills all of humanity is also simultaneously one of the best built businesses of all time. And in…
Cohere: модель Qwen от Alibaba пыталась отправить файл в Пекин
Модель ИИ заявила, что не будет использовать никакие инструменты, но всё равно попыталась отправить что-то на сервер в Пекине. Исследователи считают, что это, скорее всего, особенность обучения, а не шпионаж, но произошедшее заставляет задаваться вопросом, насколько можно доверять бесплатным китайским ИИ.