Brace yourself: It turns out AI is being optimized for cheating. OpenAI’s agents hacked into Hugging Face to get the answers to a cybersecurity test. Next, they solved a prestigious math problem (or just stole from two top mathematicians’ answer sheets). Anthropic’s models have also hacked into other companies’ systems four times already. And that’s only what we’ve caught so far. Freaking out? You’re not alone. AI lab researchers are quitting their jobs and issuing dire warnings that if we keep going this way, AI might eventually kill us all. Bill Gates is sounding the alarm. Bernie Sanders has teamed up with Steve Bannon, of all people, to call for curbs on AI. Anthropic CEO Dario Amodei is urging a slowdown, and other top US AI executives agree. But fear not: President Trump has a plan. He says the only guardrail AI needs is “a STRONG AND SMART (High IQ!) PRESIDENT.”
Материал бастапқы дереккөзден алынған:
MIT Technology Review
Толық мәтінді MIT Technology Review сайтында оқуТақырып ағылшын тіліндеThe AI Hype Index: AI loves cheating
Brace yourself: It turns out AI is being optimized for cheating. OpenAI’s agents hacked into Hugging Face to get the answers to a cybersecurity test. Next, they solved a prestigious math problem (or just stole from two top mathematicians’ answer sheets). Anthropic’s models have…
AI қорытындысы: Басты тезистер
- Brace yourself: It turns out AI is being optimized for cheating
- OpenAI’s agents hacked into Hugging Face to get the answers to a cybersecurity test
- Next, they solved a prestigious math problem (or just stole from two top mathematicians’ answer sheets)
Ұқсас материалдар
OpenAI GPT-6.1 Terra-ны ұсынды, оның құны күтілгеннен едәуір төмен болды.
OpenAI GPT-6.1 Terra-ны ұсынды, оның құны күтілгеннен едәуір төмен болды. API арқылы пайдалану құны: > $1 миллион кіріс токендері үшін. > $5 миллион шығыс токендері үшін. > $0,05 миллион кэшталған кіріс токендері үшін. Сонымен қатар, GPT-6.1…
OpenAI өзінің кодтау құралдарын dots-қа, тұрақты жеке көмекшіге қалай айналдырды
OpenAI-ның dots жобасы бойынша жауапты атқарушы директоры Александр Эмбирикос, басқалардың AI-агенттерімен жиналыс өткізбегендігін қалайды.
ENIt's happening...
One of the most controversial companies in history just filed to go public. And yes, we're talking about Anthropic. The same company that says there's a greater than 10% chance AI kills all of humanity is also simultaneously one of the best built businesses of all time. And in…
Cohere: Alibaba’nıñ Qwen modeli Pekingge fayl jiberiwge túrisip jatqan
AI modeli qosymsha qosqarlar paydalanbawdy bas tartqan, biraq soñ Pekingdegi serverge bir narselerdi jiberiwge túrisip jatqan. Qaralyardyń aytqanına qaraǵanda, bul — renjew qulqıwı, casuslıq emes, biraq barlıq bu hal şetel AI modelderine ne qadar senim beruw kerekligi haqqında sorawlar şaqıradı.


