ИИ-слоп добрался до баг-баунти — Google пришлось заморозить программу поиска уязвимостей
🐛 ИИ-слоп добрался до баг-баунти — Google пришлось заморозить программу поиска уязвимостей С 1 октября Google приостановила программу вознаграждений за обнаружение уязвимостей в своём open-source ПО. Причина — резкий рост автоматически сгенерированных ИИ-отчётов. По словам…
- 01.🐛 ИИ-слоп добрался до баг-баунти — Google пришлось заморозить программу поиска уязвимостей С 1 октября Google приостановила программу вознаграждений за обнаружение уязвимостей в своём open-source ПО
- 02.Причина — резкий рост автоматически сгенерированных ИИ-отчётов
🐛 ИИ-слоп добрался до баг-баунти — Google пришлось заморозить программу поиска уязвимостей С 1 октября Google приостановила программу вознаграждений за обнаружение уязвимостей в своём open-source ПО. Причина — резкий рост автоматически сгенерированных ИИ-отчётов. По словам компании, подавляющее большинство таких заявок оказались невалидными. В отчётах встречались галлюцинации и несуществующие уязвимости, а инженерам и мейнтейнерам приходилось тратить время на их проверку. Программу поставили на паузу как минимум до первого квартала 2027 года, когда Google обещает рассказать о дальнейших планах. Источник
Связанные материалы
Все материалы →Cohere: модель Qwen от Alibaba пыталась отправить файл в Пекин
Модель ИИ заявила, что не будет использовать никакие инструменты, но всё равно попыталась отправить что-то на сервер в Пекине. Исследователи считают, что это, скорее всего, особенность обучения, а не шпионаж, но произошедшее заставляет задаваться вопросом, насколько можно доверять бесплатным китайским ИИ.
Meta планирует размещение акций на сумму 95 миллиардов долларов для финансирования расширения ИИ
Meta планирует привлечь 95 миллиардов долларов для финансирования своего расширения в области ИИ, несмотря на предупреждения Илона Маска о финансовых проблемах для мелких компаний в этой сфере. Привлечение средств будет осуществляться в два этапа, включая публичное размещение…
Почему в проспекте IPO Anthropic отсутствует так много ключевых цифр
Документ Anthropic S-1 занимает сотни страниц, и в нем не учитывается немало финансовых подробностей. «Anthropic должна инвесторам больше информации», — сообщил WIRED один аналитик.