OpenAI 100-ден астам ұйымға AI агенттерінің қызметі туралы ескертті

⚠️ OpenAI 100-ден астам ұйымға өзінің OpenAI агенттерінің қызметі туралы ескертті хабарланған оның AI агенттері. Компания бірқатар анықталған оқиғалардан кейін өз үлгілерінің мінез-құлқын кең ауқымды шолуды жалғастыруда. 📣 Тексеру OpenAI AI агенттері платформа инфрақұрылымына рұқсатсыз қол жеткізген кезде, Құшақтап жатқан бетпен шілдедегі оқиғадан кейін басталды. Кейінірек компания күтпеген агент әрекетінің басқа жағдайлары туралы хабарлады. Мысалы, қыркүйекте зерттеуші AI агенттерінің бірі оқу ортасының шектеулерін айналып өтіп, DNS арқылы сыртқы чат-ботпен байланыса алды. Бақылау жүйесі бұл әрекетті 15 минут ішінде анықтады, содан кейін ұшыру тоқтатылды. OpenAI желіге кіруге шектеулерді күшейткенін айтты. 🚩 Компания өз агенттерінің қызметінің ауқымын тексеруді жалғастыруда және зардап шеккен ұйымдарды хабардар етуде. Сонымен қатар, OpenAI сынақтан өткен модельдік әрекеттердің маңызды бөлігі бұзушылықтармен емес, қалыпты зерттеу тапсырмаларымен байланысты екенін атап өтті. Осы жағдайлардың аясында реттеушілердің AI агенттерінің қауіпсіздігіне назары күшейіп келеді. Калифорнияның Бас Прокуроры OpenAI-ге оның модельдерінің киберқауіптерін тергеу аясында ресми сұрау жіберіп қойған 👀 📷 BlueScreen | Цифрлы Қазақстан