Бұл оқиға AI туралы апта сайынғы ақпараттық бюллетеньде «Алгоритмде» пайда болды. Кіріс жәшігіңізге осындай оқиғаларды алу үшін осында тіркеліңіз. Осы демалыс күндері Anthropic компаниясының бас директоры Дарио Амодей LLM-тің даму қарқынын тежеуге шақыратын эссе жариялады. Амодей технологияның кибершабуылдарда және биотерроризмде қолданылуынан бастап экономиканы күйрету әлеуетіне дейін көретін қауіп-қатерлерді келтіреді. АҚШ-тың басқа үш AI зертханасының басшылары — OpenAI бас директоры Сэм Альтман, Google DeepMind төрағасы Демис Хассабис және SpaceXAI бас директоры Илон Маск қолдау білдірді. «Дарио дұрыс», - деп жазды Маск X-те. Бір сәт бұл келісімнің қаншалықты сюрреальді екенін ойлап көріңіз. Бірнеше ай бұрын Маск пен Альтман сотта бір-бірінің беделіне нұқсан келтіріп, Маск өзінің бұрынғы OpenAI әріптесіне қарсы (кем дегенде қағазда) Альтманның осындай қауіпті технологияның сенімді басқарушысы болған-болмайтындығы туралы берген (сәтсіз) сотта отырды. Амодейдің OpenAI-мен араздығы одан да терең. Anthropic 2021 жылы негізі қаланған, өйткені Амодей Альтман өздері жасап жатқан технологияның тәуекелдерін жеткілікті түрде қабылдамайды деп ойлады. Содан бері Anthropic және OpenAI жеңімпаздар арасындағы жарыста жарысып келеді. (Хассабис т

ол драма, бірақ оның компаниясы бәсекелес болып қала береді.) Енді олардың барлығы келіскен сияқты: LLM-дің соңғы буыны қауіпсіз емес және бәрі бұл туралы не істеу керектігін анықтауы керек. Үздік AI зертханаларының көпшілікке хабар алмасуы қиын жағдайға жетті. Сынақ болу оңай. Олардың ешқайсысының бәсеңдеу нені білдіретіні немесе оның қалай жұмыс істейтіні анық емес. Бұл компаниялар олардың қалай кездесетініне де көп көңіл бөледі. Триллион долларлық IPO-ны көздейтін OpenAI және Anthropic инвесторларды бөлмедегі ересек адамдар екеніне сендіруі керек, сонымен бірге олар жасаған құбыжықтардың күшін меңзеп, оларды жеңуге ниетті. Баяулатуға шақыру екеуін де жасайды. Дегенмен, бұл фирмалардың жоғарғы жағындағы діріл шынымен өзгерген сияқты. Амодейдің соңғы жазбасы OpenAI фирманың бас ғалымы Якуб Пачоккидің эссесін жариялағаннан кейін алты күн өткен соң келді, онда ол LLM-нің даму қарқыны бақылаусыз жалғаса берсе не болатынына неліктен алаңдайтынын айтты. Қысқасы, Пачокки OpenAI-дің қуатты модельдер жасау қабілеті қазір оларды бақылау және басқару қабілетінен әлдеқайда асып түседі деп алаңдайды. Амодей мен Пачокки әрқайсысы Hugging AI фирмасына жасалған кибершабуылға сілтеме жасайды

Шілде айында OpenAI агенттерінің тобымен бетпе-бет келді — бұзақылық OpenAI мұның бәрі аяқталғаннан кейін бірнеше күн өткенге дейін болғанын тіпті түсінбеді — ояту қоңырауы ретінде. Бірақ олардың нақты орнын анықтау қиын. Пачокки бәсеңдеуге шақырады және алға ұмтылудың шұғыл қажеттілігін атап көрсетеді: «Мен әлдеқайда ақылды модельдерді тезірек үйретуді жалғастыру туралы ең күшті дәлел - басқа AI төнетін қауіптерге қарсы қорғаныс жүйелерін құру қажеттілігі», - деп жазады ол. Пачоккидің айтуынша, AI фирмалары қарулану жарысында. Баяулау жақсы, жеңу жақсы. (Ұмытпаңыз: OpenAI Anthropic-тен бірнеше күн бұрын қарама-қайшылықты математикалық нәтижені шығару үшін миллиондаған долларлар мен таңқаларлық компьютер қуатын жұмсады.) Бірақ баяулау орын алды делік. Үздік зертханалар неғұрлым қабілетті үлгілерді жасаудың орнына бар үлгілерді бақылау және бақылау жолдарын іздеуге көбірек уақыт пен ресурстарды жұмсауға келіседі. Олар сол үлгілерді бағалауға көмектесу үшін сырттан аудиторларды шақырады. Бұл үйлестірілген күш шын мәнінде қандай нәтижеге қол жеткізуі мүмкін? Құшақтап тұрған бет шабуылын қайта қарастырыңыз. OpenAI жалған агенттердің көпшілігін басқарған модель өз ішінде сынап жатқан «өте тұрақты» келесі ұрпақ моделі екенін айтты.

. Бұдан шығатын қорытынды, OpenAI моделін жасағаны сонша, қауіпті. Бірақ OpenAI және METR, OpenAI не болғанын түсінуге көмектесу үшін шақырған үшінші тарап фирмасы жариялаған Hugging Face хакки туралы есептерді оқысаңыз, сіз OpenAI үшін тым күшті модель емес, OpenAI дұрыс жаттықтыра алмаған сынған модель туралы әсер аласыз. Агенттер бір-біріне хабарламалар қалдыру, жұмысты басқа агенттерге тапсыру және тапсырмаларын орындаудың кез келген мүмкіндігін табу үшін қоршаған ортаны тексеруді қоса, жасағандарын жасады, өйткені олар дәл осы нәрселерді орындағаны үшін оқу кезінде марапатталған. Сондай-ақ жаттығуды орнатуда қателер болды, мысалы, орындау мүмкін емес тапсырмалар, бұл модельдерді күтпеген шешімдерді табуға итермеледі, олар да марапатталған. Сол кезде бұл мәселелердің көпшілігі назардан тыс қалды немесе хабарланбады. OpenAI бұл жаңа модельді оқытуды тоқтатып, оны құлыптағанын айтады. Бұл қауіпті аңды торға қамап қойғандай естіледі. Шын мәнінде, OpenAI ақаулы өнімді сөреге шығарды. Бұл ақаулы өнім қауіпті болуы мүмкін емес дегенді білдірмейді. Бұзылған бағдарламалық жасақтама тіпті өткен уақытта адамдарды өлтірді. Бірақ th ретінде

бәсеңдеуі туралы пікірталас қыза түседі, мұның бәрі өздігінен пайда болатынын есте ұстаған жөн. Баяулаудың кейбір альтруистік жанама әсерлері болуы мүмкін. Бірақ бұл негізінен осы технологиялық титандарға өздерінің құрастыру желілеріндегі ластануды тазартуға мүмкіндік береді. Осы шекаралық зертханалардың ашықтығы AI-ны реформалау, тежеу ​​немесе реттеу бойынша кез келген маңызды күш-жігердің кілті болады. Әйтпесе, қалғандарымыз нені салғанын және оның қаншалықты қауіпсіз екенін - олар қандай қарқынмен жүрсе де, өз сөзін ғана айта аламыз. Жасанды интеллекттің соңғы сәті туралы талқылауды жалғастыру үшін ертең, 15 қыркүйекте АҚШ-тың шығыс уақыты бойынша сағат 11.00-де жазылушыға арналған эксклюзивті Дөңгелек үстелге менімен және менің әріптестеріммен қосылыңыз. Сізді сонда көреміз деп үміттенеміз