Олар биологиялық қаруға қатысты зерттеулер үшін Клодты қолдануға тырысты

Anthropic өзінің жасанды интеллект үлгілерін биологиялық қару жасауға әкеп соғуы мүмкін зерттеулер үшін пайдаланбақ болған аты аталмаған қолданушылардың әрекеттеріне тосқауыл қойғанын мәлімдеді, деп хабарлайды ҚазАқпарат ВВС-ге сілтеме жасап.

Бұл Клодтың AI үлгілерін зиянды пайдаланудың анықталған жағдайларының бірі ғана.

«Біз сипаттайтын мысалдар [үлгілерді] теріс пайдаланудың әдеттегі жағдайлары емес, біз осы уақытқа дейін анықтаған ең көрнекті және жаңа қауіп әрекетінің мысалдары», - деді Anthropic 10 қыркүйекте жарияланған AI теріс пайдалану туралы есебінде.

«Біз сипаттайтын мысалдар [үлгілерді] теріс пайдаланудың әдеттегі жағдайлары емес, біз осы уақытқа дейін анықтаған ең көрнекті және жаңа қауіп әрекетінің мысалдары», - деді Anthropic 10 қыркүйекте жарияланған AI теріс пайдалану туралы есебінде.

Компанияның есебінде қауіп төндіруі мүмкін кодтар мен AI сұрауларының мысалдары берілген. Anthropic үкіметтерді және AI дамытатын басқа компанияларды модельдерді мұндай теріс пайдалануды табуға және болдырмауға шақырды.

«Біз бұл есепті жариялап отырмыз, өйткені біз қызметтерімізді зиянды теріс пайдалануды ашуға жауаптымыз», - деп түсіндірді компания.

«Біз бұл есепті жариялап отырмыз, өйткені біз қызметтерімізді зиянды теріс пайдалануды ашуға жауаптымыз», - деп түсіндірді компания.

Антрополог зерттеушілер 2025 жылдың желтоқсаны мен 2026 жылдың тамызы аралығында шпиондық бағдарламаларды әзірлеушілер, «саяси астары бар адамдар» және мемлекет демеушілік ететін үгіт-насихат топтары модельдерді теріс пайдаланғанын анықтады.

Есептегі бес мысал биологиялық қарудың әлеуетті дамуына қатысты. Олардың ішінде ғылыми грантқа өтінім жазуға көмек көрсету туралы өтініш бар.

Онда, хабарда айтылғандай, Клод қолданушысы чикунгунья вирусын генетикалық түрлендіретін зерттеулерге жүгінгісі келген. Вирустың жұқпалылығы мен иммундық жүйені айналып өту қабілеті сияқты қасиеттерін өзгерту ұсынылды. Антропик мұндай зерттеулер вакциналар мен препараттарды жасауға көмектессе де, «оны патогенді қауіптірек ету үшін де қолдануға болады» деп атап өтеді.

Компания есебіндегі бір ғана мысал олардың соңғы үлгілеріне қатысты. Anthropic оны «модельдің қабілеттерін анықтауға және оларды рұқсатсыз көшіруге арналған өнеркәсіптік ауқымдағы жасырын науқан» деп атайды. Ескі модельдер, компанияның айтуынша, пайдаланушыға «қауіпті биологиялық зерттеулер жүргізуге» айтарлықтай көмектесе алмады, сондықтан қауіпсіздік шаралары азырақ болды.

Бұған дейін антрополог сарапшы AI салдарынан алдағы 10 жылда апат болу ықтималдығын атаған болатын.