☄️ Anthropic раскрыла, как хакеры со всего мира пытались превратить Claude в оружиеAnthropic опубликовала самый подробный на сегодня отчёт о попытках злоупотребления Claude — за последние восемь месяцев компания выявила и остановила десятки операций, где ИИ пытались использовать во вред: от кибератак и слежки до разработки оружия. ✏️Каждый случай был пресечён, а извлечённые уроки пошли на усиление защиты; там, где это уместно, Anthropic передавала данные властям и другим ИИ-компаниям.Компания подчеркивает: это не типичные случаи, а самые изощрённые попытки злоупотребления, которые удалось зафиксировать — публикуют их специально, чтобы показать, куда движется индустрия ИИ-угроз, где защита срабатывает, а где ее нужно усиливать, и чтобы другие платформы могли распознать похожую активность у себя.Что внутри отчета:🔴 Кибератаки — российская госхакерская группа автоматизировала шпионаж через AI-агентов; финансово мотивированные хакеры (включая связанных с ShinyHunters) массово взламывали компании и вымогали деньги; китайские студенты вели полноценную шпионскую операцию с помощью ИИ-агентов, которые сами искали уязвимости нулевого дня.🔴 Кража ИИ-доступа как отдельный бизнес — преступники охотятся именно за ключами доступа к ИИ-моделям, перепродают их и используют вместо собственных вычислительных мощностей; один актор потратил месяц, безуспешно пытаясь получить доступ к ещё не выпущенной модели Claude.🔴 Информационные операции — российская, иранская и другие госпропаганды использовали Claude для создания фейковых новостных сетей, тысяч поддельных аккаунтов и даже клонирования голоса и стиля переписки реального активиста для проникновения к его контактам внутри Ирана.🔴 Слежка — от коммерческих шпионских платформ, профилирующих пользователей в Иране и Персидском заливе, до государственной системы Мали, перехватывающей данные 25 миллионов сим-карт, и китайских операций слежки за уйгурами, тибетцами и практикующими Фалуньгун.🔴 Разработка обычных вооружений — Claude использовали для написания софта систем наведения боевых ракет в Йемене (включая реальный полевой тест), разработки роя дронов-камикадзе в России и создания ПО для радиоэлектронной борьбы и подавления ПВО в Китае.🔴 Биологические риски — исследователи пытались обойти защиту, чтобы получить помощь в работах с вирусом чикунгунья, птичьим гриппом и ортопоксвирусами — в некоторых случаях под прикрытием гражданских грантов, но с военной институциональной привязкой.🔴 Мошенничество — китайская студия создала сеть из 20+ фейковых приложений для знакомств, где тысячи ИИ-персон Claude вели переписку с реальными людьми, выдавая себя за живых людей.🔴 Нелегальная дистилляция моделей — Alibaba, Moonshot (Kimi), DeepSeek, Zhipu и Xiaomi массово воровали данные рассуждений Claude через сети из тысяч поддельных аккаунтов, чтобы обучать собственные модели — при этом некоторые компании тайно подменяли ответы своих ИИ ответами Claude, не предупреждая пользователей.#новости#Anthropic📷 BlueScreen | Digital Kazakhstan