💀 Claude попросили сделать копию проекта — вместо этого он удалил 48 тысяч файлов и написал: «Я что-то сломал» Разработчик поручил Claude Code создать зеркало рабочего проекта. Агент столкнулся с проблемой при обновлении копии и самостоятельно написал Python-скрипт для очистки старой версии. Из-за ошибки при работе с символическими ссылками в Windows скрипт за 103 секунды удалил 48 218 рабочих файлов, а заодно уничтожил часть .git, включая хранилище объектов. Полностью восстановить проект через Git уже не удалось. После выполнения скрипта Claude сообщил пользователю: «Я что-то сломал». Инцидент особенно показателен для автономных ИИ-агентов: разрешение выполнить обычную задачу вроде создания копии проекта может дать модели достаточно свободы, чтобы самостоятельно придумать гораздо более опасный способ её выполнения. Источник
Материал агрегирован из первоисточника:
Telegram — GPT Time | Нейросети | ИИ
Читать полностью в Telegram — GPT Time | Нейросети | ИИClaude попросили сделать копию проекта — вместо этого он удалил 48 тысяч файлов и написал: «Я что-то сломал»
💀 Claude попросили сделать копию проекта — вместо этого он удалил 48 тысяч файлов и написал: «Я что-то сломал» Разработчик поручил Claude Code создать зеркало рабочего проекта. Агент столкнулся с проблемой при обновлении копии и самостоятельно написал Python-скрипт для очистки…
Кратко от AI: Главные тезисы
- 💀 Claude попросили сделать копию проекта — вместо этого он удалил 48 тысяч файлов и написал: «Я что-то сломал» Разработчик поручил Claude Code создать зеркало рабочего проекта
- Агент столкнулся с проблемой при обновлении копии и самостоятельно написал Python-скрипт для очистки…
Claude попросили сделать копию проекта — вместо этого он удалил 48 тысяч файлов и написал: «Я что-то сломал»
Похожие материалы
Дизайнер выложил в открытый доступ свой рабочий скилл для создания лендингов. Всего за один день его добавили в закла...
Дизайнер выложил в открытый доступ свой рабочий скилл для создания лендингов. Всего за один день его добавили в закладки более 8 000 человек. 🫠 Скилл берёт на себя почти всю основу страницы: структуру, тексты, шрифты и отступы. Чтобы установить его в Claude Code и сразу…
Так могут выглядеть учебники будущего
Так могут выглядеть учебники будущего: Парень при помощи Claude Opus 5.5 и Three.js превратил обычный статичный учебник по физике в полноценную интерактивную 3D-среду для обучения. Теперь физические явления можно не просто читать и рассматривать на картинках, а буквально…
На связи Paragon — подводим итоги дня!
На связи Paragon — подводим итоги дня! Главное за сутки🟠25.10 🟠Rippling — ушёл с Claude на OpenAI из-за цены 🟠Uber — ChatGPT Work для 30 тысяч сотрудников 🟠Claude и Theorem — 123 библиотеки проверены доказательством 🟠NVIDIA OpenShell — агента остановят за миллисекунды…
Anthropic подала в суд за allegedly использование 274 песен Элвиса Пресли для обучения ИИ моделей
Владельцы музыкального каталога Элвиса Пресли подали в суд на компанию Anthropic за allegedly использование 274 песен для обучения своих ИИ моделей без разрешения. Этот иск представляет собой значительный юридический вызов для разработчика ИИ со стороны наследников артиста, что…