“AI can kill us all”: how fear around AI reached a new level in a week

😈 «ИИ может убить нас всех»: как за неделю страх вокруг AI вышел на новый уровень За последние несколько дней дискуссия о безопасности ИИ резко вышла за пределы экспертного сообщества. Time даже разместил эту тему на обложку. Исследователи ведущих AI-лабораторий начали публично предупреждать о риске потери контроля над будущими системами, главы крупнейших компаний заговорили о замедлении разработок, а тема дошла до политиков. Восстановим и обобщим всю цепочку событий 👇 ➡️ Все началось с увольнения исследователя Anthropic. Джейкоб Коксон, ранее также работавший в OpenAI, объявил об уходе из Anthropic и заявил, что обе компании «несутся прямо к самоулучшающемуся сверхинтеллекту» и рискуют жизнями людей. Его публикация стала вирусной и собрала более 100 млн просмотров. ➡️ Коллеги Коксона публично поддержали его опасения. Руководитель направления alignment science в Anthropic Хубингер заявил, что действительно считает возможным сценарий, при котором ИИ приведет к гибели человечества. Похожие опасения высказали и другие специалисты отрасли. ➡️ Тема быстро дошла до Конгресса США. Американские политики заговорили о необходимости ограничений для наиболее мощных ИИ. В Конгрессе вновь подняли вопрос о законопроекте AI Kill Switch Act, предусматривающем возможность экстренного отключения определенных AI-систем. ➡️ Глава Anthropic Дарио Амодей выпустил эссе, в котором призвал замедлить разработку наиболее мощных ИИ-моделей, чтобы меры безопасности успевали за ростом их возможностей. ➡️ Его поддержали прямые конкуренты — Сэм Альтман, Илон Маск и глава Google DeepMind Демис Хассабис также согласились с необходимостью замедления развития ИИ. ➡️ Но власти США тормозить AI-гонку не хотят. Дональд Трамп выступил против замедления, заявив, что США должны сохранить лидерство в конкуренции с Китаем. ➡️ Китай, в свою очередь, назвал американские предупреждения «нагнетанием страха» и выступил против попыток сдерживать развитие китайского ИИ. ➡️ К волне предупреждений присоединился и бывший исследователь безопасности Google DeepMind Билал Чугтай. Он заявил, что нынешняя траектория развития ИИ крайне опасна и потенциально может привести к гибели человечества. ➡️Билл Гейтс выступил за создание международной организации по контролю за ИИ. Вопрос уже не только в том, опасен ли будущий сверхинтеллект, а в том, возможно ли вообще договориться о замедлении AI-гонки, когда компании конкурируют друг с другом, США — с Китаем, а единых международных правил пока нет. 📷 BlueScreen | Digital Kazakhstan