Microsoft корпорациясы өзінің жасанды интеллект жүйелері үшін мінез-құлық кодексінің жобасын ұсынды. Компания болашақ қуатты модельдердің ережелерін алдын ала анықтап, негізгі принципті күшейткісі келеді: AI адам бақылауында болуы керек, деп хабарлайды Tengri Life. Құжат әлі пысықталған жоқ. Майкрософт оны алты апта бойы көпшіліктің пікірі үшін ашты, содан кейін ол алынған кері байланысты жаңа үлгілерді әзірлеу және оқыту үшін пайдалануды жоспарлап отыр. Компанияның веб-сайтында айтылғандай, компания жобада шамамен бес-алты ай жұмыс істеді. Құжаттың негізгі қағидаларының бірі – адам жүйені басқару мүмкіндігін сақтап қалуы керек. AI адамдарға оның параметрлерін өзгертуге немесе модельді толығымен өшіруге кедергі болмауы керек. Сонымен қатар, жүйе пайдаланушымен нақты өзара әрекеттесуі керек және белгіленген ережелердің бұзылуы түзетуді қажет ететін қате ретінде қабылдануы керек. Майкрософт мұндай шектеулер тапсырманы орындауға тырысатын AI адамға зиян тигізетіндей әрекет ете бастаған жағдайдың қаупін азайтуға көмектеседі деп санайды. "AI адамның бақылауынан шықпауы керек. Модельдер адамзатқа бағынып, бақылауда жұмыс істеуі керек".
«Адамдық бақылау және бақылау», - деп атап өтті компания. "AI адам бақылауынан қашпауы керек. Модельдер адамзатқа бағынып, нақты адамның бақылауы мен бақылауында жұмыс істеуі керек", - деп атап өтті компания. Сондай-ақ компания AI адамдардың жеке шекараларын және осал пайдаланушылармен қарым-қатынас ерекшеліктерін қаншалықты ескеруі керек екенін талқылауды ұсынады. Қоғамдық талқылау аяқталғаннан кейін Microsoft ережелерді пысықтап, оларды AI бойынша одан әрі жұмыста пайдалануды жоспарлап отыр. Майкрософттың көзқарасы бұрын Клод үшін мінез-құлық қағидалары бар өз құжатын әзірлеген Anthropic ұстанымынан ерекшеленеді. Антропик болашақта AI санаға ие болуы және белгілі бір моральдық мәртебеге ие болуы мүмкін екенін мойындайды. Microsoft басқа позицияны ұстанады: компания қазіргі заманғы AI модельдерінің санасы жоқ және заңды құқықтарды немесе өз мүдделерін қорғауды талап ету мүмкіндігін алмау керек деп санайды. Microsoft корпорациясының AI бөлімінің басшысы Мұстафа Сүлейман да әзірлеушілерді технологияны дамытуға асықпауға шақырды. «Біз AI-ға құқықтық мәртебе беру идеясын, сондай-ақ модельдер кез келген құқықтарға ие болуы мүмкін деген идеяны қабылдамаймыз.
ва. Бұл ескерту белгісі. Әлбетте, AI зертханалары осы технологияны бақылауды сақтай алуымыз үшін күш-жігерін үйлестіруі керек», - деді Microsoft корпорациясының AI бөлімінің басшысы Мұстафа Сүлейман. «Біз AI-ға заңды мәртебе беру идеясын және модельдердің кез келген құқықтары болуы мүмкін деген идеяны қабылдамаймыз. Бұл ескерту белгісі. Microsoft корпорациясының AI бизнесінің басшысы Мұстафа Сүлейман: «Біз бұл технологияны бақылауда ұстау үшін AI зертханалары өз күштерін үйлестіруі керек екені анық», - деді. Оның айтуынша, компаниялар қауіпсіздік пен үйлестіруге көбірек көңіл бөлуі керек, әсіресе AI мүмкіндіктері өскен сайын. Майкрософт жобасы жасанды интеллекттің қаншалықты жылдам дамуы керектігі туралы салада пікірталас кезінде пайда болды. Бұған дейін Anthropic бас директоры Дарио Амодей X туралы эсседе алаңдаушылық жағдайында модель мүмкіндіктерін кеңейтуді бәсеңдетуге шақырды. AI-ны теріс пайдалану. Оған Илон Маск (xAI) және Сэм Альтман (OpenAI) қолдау көрсетті. Жақында OpenAI-де жұмыс істеген зерттеуші биыл OpenAI IPO болмайтынын айтты.
және Anthropic, Джейкоб Коксон ең ірі AI компаниялары технологияны тым тез дамытып жатқанын және онымен байланысты тәуекелдерді жете бағаламауы мүмкін екенін айтты, өйткені «AI бәрімізді жоя алады». Осыдан кейін жасанды интеллект дамытатын жаһандық компаниялардың акциялары күрт төмендеді. Сондай-ақ оқыңыз: Клодты жасаушылар қытайлық AI компанияларын жауаптарды ұрлады деп айыптады
