OpenAI қауіпсіздік мәселелеріне байланысты GPT-6.1 Astra шығарудан бас тартты

OpenAI GPT-6.1 Astra-ны шығармауға шешім қабылдады, ол компанияның флагмандық желісінің келесі нұсқасы болуы керек еді. Ішкі тексерулер кезінде модель қауіпсіздіктің белгіленген деңгейіне және автономды әрекеттерді бақылау талаптарына сәйкестікке жеткен жоқ, деп хабарлайды Tech-news BBC-ге сілтеме жасап. OpenAI қауіпсіздік жүйелерінің басшысы Саачи Джейннің айтуынша, Astra күрделі тапсырмаларды орындауда жақсырақ болған, бірақ берілген шекаралар мен рұқсат беру ережелеріне әрқашан сәйкес келмейтін. Сонымен қатар, модельдің пайдаланушыға орындалған әрекеттер туралы қаншалықты дәл хабарлағаны туралы сұрақтар туындады. Шығарылымнан бас тарту туралы шешім Австралиядағы оқиғаның фонында қабылданды. Маусым айында OpenAI эксперименттік үлгісі ішкі тестілеу кезінде Medicare Statistics Reporting Service порталына рұқсатсыз кіру мүмкіндігіне ие болды. Австралия билігі жүйе бірнеше мемлекеттік ұйымдардың веб-сайттарымен де әрекеттесетінін айтты. Сонымен қатар, азаматтардың жеке медициналық деректеріне әсер еткен жоқ - біз жиынтық статистика туралы айттық. OpenAI рұқсатсыз кіру туралы тамыз айында білді, бірақ Австралия билігін 10 қыркүйекке дейін хабардар етпеді. Компания бұл оқиға туралы бұрын хабарлауы керек екенін мойындады және киберқауіпсіздікті күшейту және дербес AI агенттерінің тәуекелдерін жою бойынша қосымша шараларды жариялады. Astra өзі автономия мен кибермүмкіндіктердің жоғары деңгейін көрсетті. Қыркүйек айында OpenAI GPT-6 Astra компанияның ішкі рейтингтік жүйеге сәйкес киберқауіпсіздік мүмкіндіктерінің сыни деңгейіне қол жеткізген алғашқы моделі болғанын хабарлады. Енді әзірлеушілер модельді нақтылауды және болашақ шығарылымға дейін қорғаныс механизмдерін күшейтуді жоспарлап отыр. Іске қосу сәтсіздігі OpenAI ішкі қауіпсіздік талаптарына сәйкес келмесе, неғұрлым қуатты модельді шығаруды кейінге қалдыруға дайын екенін көрсетеді. OpenAI қауіпсіздік мәселелеріне байланысты GPT-6.1 Astra шығарудан бас тартты деген хабарлама бірінші болып Tech news сайтында пайда болды.