Brace yourself: It turns out AI is being optimized for cheating. OpenAI’s agents hacked into Hugging Face to get the answers to a cybersecurity test. Next, they solved a prestigious math problem (or just stole from two top mathematicians’ answer sheets). Anthropic’s models have also hacked into other companies’ systems four times already. And that’s only what we’ve caught so far. Freaking out? You’re not alone. AI lab researchers are quitting their jobs and issuing dire warnings that if we keep going this way, AI might eventually kill us all. Bill Gates is sounding the alarm. Bernie Sanders has teamed up with Steve Bannon, of all people, to call for curbs on AI. Anthropic CEO Dario Amodei is urging a slowdown, and other top US AI executives agree. But fear not: President Trump has a plan. He says the only guardrail AI needs is “a STRONG AND SMART (High IQ!) PRESIDENT.”
Материал агрегирован из первоисточника:
MIT Technology Review
Читать полностью в MIT Technology ReviewЗаголовок на английскомThe AI Hype Index: AI loves cheating
Brace yourself: It turns out AI is being optimized for cheating. OpenAI’s agents hacked into Hugging Face to get the answers to a cybersecurity test. Next, they solved a prestigious math problem (or just stole from two top mathematicians’ answer sheets). Anthropic’s models have…
Кратко от AI: Главные тезисы
- Brace yourself: It turns out AI is being optimized for cheating
- OpenAI’s agents hacked into Hugging Face to get the answers to a cybersecurity test
- Next, they solved a prestigious math problem (or just stole from two top mathematicians’ answer sheets)
Похожие материалы
OpenAI представила GPT-6.1 Terra, причём стоимость новой модели оказалась значительно ниже ожидаемой.
OpenAI представила GPT-6.1 Terra, причём стоимость новой модели оказалась значительно ниже ожидаемой. Стоимость использования через API: > $1 за миллион входных токенов. > $5 за миллион выходных токенов. > $0,05 за миллион кэшированных входных токенов. Таким образом, GPT-6.1…
Как OpenAI превратило свои инструменты для кодирования в dots — всегда доступного личного ассистента
Александр Эмбирикос, руководитель OpenAI, отвечающий за dots, никогда не хочет проводить встречу с чужым ИИ-агентом.
ENIt's happening...
One of the most controversial companies in history just filed to go public. And yes, we're talking about Anthropic. The same company that says there's a greater than 10% chance AI kills all of humanity is also simultaneously one of the best built businesses of all time. And in…
Cohere: модель Qwen от Alibaba пыталась отправить файл в Пекин
Модель ИИ заявила, что не будет использовать никакие инструменты, но всё равно попыталась отправить что-то на сервер в Пекине. Исследователи считают, что это, скорее всего, особенность обучения, а не шпионаж, но произошедшее заставляет задаваться вопросом, насколько можно доверять бесплатным китайским ИИ.


