«AI бәрімізді өлтіруі мүмкін»: AI айналасындағы қорқыныш бір аптада қалай жаңа деңгейге жетті

😈 «AI бәрімізді өлтіруі мүмкін»: AI айналасындағы қорқыныш бір аптада қалай жаңа деңгейге жетті Соңғы бірнеше күнде AI қауіпсіздігі туралы пікірталас сарапшылар қауымдастығынан да күрт кеңейді. Уақыт бұл мәселені мұқабаға да қойды. Жетекші AI зертханаларының зерттеушілері болашақ жүйелерді бақылауды жоғалту қаупі туралы ашық түрде ескерте бастады, ірі компаниялардың басшылары оқиғалардың баяулауы туралы айта бастады және тақырып саясаткерлерге жетті. Оқиғалардың барлық тізбегін қалпына келтіріп, қорытындылайық 👇 ➡️ Барлығы антропологты жұмыстан шығарудан басталды. Бұған дейін OpenAI-де жұмыс істеген Джейкоб Коксон Anthropic-тен кететінін жариялады және екі компания да «өзін-өзі жетілдіретін супер интеллектке бағыт алып» және адамдардың өміріне қауіп төндіретінін айтты. Оның жазбасы желіге тарап, 100 миллионнан астам қаралым жинады. ➡️ Коксонның әріптестері оның алаңдаушылығын көпшілік алдында қолдады. Anthropic компаниясының теңестіру ғылымының жетекшісі Хубингер AI адамзаттың өліміне әкелетін сценарий болуы мүмкін деп санайтынын айтты. Басқа сарапшылар да осындай алаңдаушылық білдірді.

сала мамандары. ➡️ Тақырып АҚШ Конгресіне тез жетті. Американдық саясаткерлер ең қуатты AI-ға шектеу қою қажеттілігі туралы айта бастады. Конгресс кейбір AI жүйелерін шұғыл өшіру мүмкіндігін қарастыратын AI Kill Switch Act туралы мәселені тағы да көтерді. ➡️ Anthropic компаниясының бас директоры Дарио Амодей эссе шығарды, онда ол ең қуатты AI үлгілерінің дамуын бәсеңдетуге шақырды, осылайша қауіпсіздік шаралары олардың мүмкіндіктерінің өсуіне ілесе алады. ➡️ Оны тікелей бәсекелестер қолдады - Сэм Альтман, Илон Маск және Google DeepMind басшысы Демис Хассабис те AI дамуын бәсеңдету қажеттілігі туралы келісті. ➡️ Бірақ АҚШ билігі AI жарысын бәсеңдетуді қаламайды. Дональд Трамп АҚШ Қытаймен бәсекелестікте көшбасшылығын сақтап қалуы керек деп, бәсеңдетуге қарсы болды. ➡️ Қытай, өз кезегінде, американдық ескертулерді «қорқынышты» деп атады және қытайлық AI дамуын тежеу ​​әрекеттеріне қарсы болды. ➡️ Ескерту толқынына бұрынғы Google DeepMind қауіпсіздік зерттеушісі Біләл Чугтай да қосылды. Ол AI дамуының қазіргі траекториясы өте қауіпті және адамзаттың өліміне әкелуі мүмкін екенін айтты. ➡️Билл Гейтс халықаралық ұйым құруды жақтады

AI бақылау туралы. Мәселе тек болашақ супербарлау қауіпті ме, жоқ па, бірақ компаниялар бір-бірімен бәсекелескенде, АҚШ Қытаймен бәсекелескенде, AI жарысын бәсеңдетуге келісу мүмкін бе және әлі бірыңғай халықаралық ережелер жоқ. 📷 Көк экран | Цифрлы Қазақстан