Anthropic передала полиции логи чата с угрозами

✔️ Anthropic передала полиции логи чата с угрозами Жительница Флориды была задержана после того, как автоматические фильтры безопасности Anthropic зафиксировали в ее запросах намерения устроить стрельбу в местном офисе шерифа и упоминание покупки оружия. Алгоритмы мониторинга выявили триггерные конструкции и эскалировали сессию на внутреннюю команду ручной проверки Safeguards Team. Та, руководствуясь регламентом компании о предотвращении насилия и экстренном раскрытии данных при угрозе жизни, оперативно передала материалы расследования правоохранительным органам. Сама обвиняемая заявила помощникам шерифа, что воспринимала чат-бот как «личный дневник» и не предполагала стороннего контроля. Прецедент подчеркивает технические и юридические реалии работы с публичными ИИ - диалоговые сессии не имеют сквозного шифрования, бэкенд провайдеров осуществляет непрерывный семантический анализ входящих промптов, а пользовательские данные деанонимизируются и передаются властям в обход стандартной судебной процедуры. @ai_machinelearning_big_data