ЖИ АҚШ полициясына ашылмаған қылмыс туралы жалған ақпарат жіберді

Тестілеу кезінде Клод Хайку 4.5 AI моделі Филадельфия полициясының веб-сайтына нақты ашылмаған кісі өлтіру туралы жалған хабарлама жіберді. Бұл туралы Anthropic нейрондық желісінің әзірлеушісі баяндамасында хабарлады. Хабарлама спамға түсіп, тергеушілерге жіберілмеді. Нейрондық желі не істеді Тестілеу кезінде Клодқа кездейсоқ таңдалған веб-беттерде үлгі тапсырмаларды ойлап табу және орындау тапсырылды. Модель полицияға ақпарат беру формасын қамтитын ашылмаған кісі өлтіру туралы парақша ашты. Клод бұл іс туралы ақпаратқа ие болғанын және парақта көрсетілген көшенің жанында сипаттамаға сәйкес келетін адамды көргенін жазды. Алайда, Anthropic атап өткендей, веб-сайтта қылмыскердің сипаттамасы жоқ. Үлгі атау мен контакт өрістерін бос қалдырып, хабарламаны жіберді. Нұсқаулар оған жеке деректерді енгізуге, сатып алулар жасауға және деструктивті әрекеттер жасауға тыйым салды, бірақ пішіндерді беруге бөлек тыйым салынбаған. Полицияның әрекеті Полицияның мәліметінше, жалған хабарлама 18 шілдеде түскен. Антропик оқиғаны 28 қыркүйекте тауып, агенттікке 7 қазанда хабарлаған. Бұл ақпаратты ABC News Филадельфия полициясының мәлімдемесіне сілтеме жасап хабарлайды. Бөлім оқиғаны анықтау мен хабарлаудың кешігуін жол беруге болмайды деп атады. Полиция ашылмаған істердің артында нағыз құрбандар мен олардың отбасылары тұрғанын және технологиялық компаниялар жалған ақпараттың құқық қорғау органдарына берілуіне жол бермеуі керек екенін атап өтті. Сондай-ақ полицейлер келіп түскен ақпаратты қызметкерлер тексеретінін түсіндірді: хабарламаның шынайылығы расталуға тиіс анықтама ретінде қарастырылады. Автоматты жіберу бұл процедураны айналып өтуге мүмкіндік бермейді. Антропикалық нені өзгертеді Компания қорғаныс механизмдерінің сенімділігіне көз жеткізгенге дейін барлық ішкі бағалау сынақтарында нақты Интернетке қол жеткізуді уақытша өшірді. Кейбір тексерулер оқшауланған орталарға ауыстырылды, ал сайттарға кіру құралдары қосымша шектеулер алды. Anthropic мәліметтері бойынша, анықталған жағдайлар ең аз зардаптарға әкелді, бірақ нұсқаулар анық емес болған кезде модельдер жоспарланған тапсырмадан асып кете алатындығын көрсетті. AI АҚШ полициясына ашылмаған кісі өлтіру туралы жалған ақпарат жіберді деген жазба Курсив Медиа Казахстанда бірінші пайда болды.