ИИ-агенты могут передавать вредоносные команды друг другу и открывать доступ к данным

Злоумышленники могут использовать доверие между ИИ-агентами, чтобы распространять вредоносные инструкции и заставлять системы обращаться к закрытым сервисам. Такой сценарий описал независимый исследователь безопасности Сайед Анас Мохиуддин, сообщает Ars Technica. ИИ-агенты — это программы, которые могут выполнять задачи с помощью внешних инструментов: например, искать информацию или работать с базами данных. Для подключения таких инструментов используют протокол MCP. Атака может начаться с вредоносной инструкции, спрятанной в документе или другом материале. Один агент читает ее и передает другому как обычное рабочее задание. Второй доверяет первому и выполняет команду злоумышленника. Если подключенный инструмент плохо защищен, это может заставить сервер обратиться к закрытым ресурсам компании. В результате возникает риск доступа к внутренним сервисам и конфиденциальным данным. По словам Мохиуддина, похожие уязвимости подтвердили и исправили в проектах Google, JPMorgan Chase, Weaviate, французской цифровой службы DINUM и администрации индонезийского города Тангеранг. Исследователь также сообщил о возможных проблемах в пяти системах для федеральных ведомств США. На момент публикации его отчета эти сообщения еще проверялись. Одну из наиболее серьезных ошибок нашли в инструменте Google для работы с базами данных. Ее опасность оценили в 8 из 10. Сервер мог переходить по подставленным адресам и отправлять запросы к внутренним ресурсам. Google исправила проблему, добавив проверки адресов и ограничения доступа. В инструменте компании Rapid7 обнаружили другую ошибку: непроверенные данные позволяли менять запросы к сервису. Ее оценили в 2,7 из 10 и также исправили. При этом ошибка не давала доступа за пределами прав используемого аккаунта. Исследователь рекомендует проверять запросы ИИ-агентов и ограничивать доступ инструментов к внутренним ресурсам. Даже если команду передает другая программа внутри компании, это еще не означает, что она безопасна.The post ИИ-агенты могут передавать вредоносные команды друг другу и открывать доступ к данным appeared first on Kursiv Media Казахстан.