Nvidia представила открытую платформу безопасности для агентов

✔️ Nvidia представила открытую платформу безопасности для агентов Open Agent Safety Platform – открытый набор средств для запуска автономных агентов в изолированной среде. Основа платформы – OpenShell, среда, которую компания развивает около года. Второй, необязательный уровень контроля даёт Nvidia Sentry. Это ПО работает на отдельном процессоре обработки данных BlueField вне досягаемости агента, а программная платформа DOCA связывает его с политиками OpenShell. OpenShell запускает агента в песочнице, где оператор заранее перечисляет доступные файлы, сетевые адреса, инструменты, процессы и ключи. Из коробки поддерживаются Claude Code, Codex, OpenCode и GitHub Copilot CLI, через шаблоны NemoClaw – OpenClaw и Hermes Agent. Зачем агенту такая изоляция, в Nvidia объясняют дрейфом - при долгой работе, неоднозначных инструкциях или упоре в запрет агент уходит от исходной задачи, и рассчитывать, что он сам удержит себя в рамках, нельзя. Поэтому контроль вынесен за пределы агента, и знать о наблюдении ему не обязательно. Каждая песочница – отдельный контейнер или Docker, Podman или Kubernetes. Шлюз управляет их жизненным циклом, а движок политик перехватывает каждое исходящее соединение и либо пропускает его, либо подставляет ключи провайдера для разрешённого адреса, либо блокирует и пишет в журнал. Ключи не попадают в файловую систему песочницы, их передают переменными окружения во время работы. Политики задаются в YAML и охватывают четыре области: файлы, сеть, процессы и провайдеров. Доступ к файлам и системным вызовам фиксируется при создании песочницы, сетевые правила меняются онлайн с точностью до HTTP-метода и пути, так что агенту можно разрешить чтение API GitHub и запретить запись. По словам Nvidia, OpenShell проверяет ограничения ещё до запуска агента. Главная площадка для Sentry – системы Vera Rubin POD, где процессор BlueField-4 стоит в каждом вычислительном модуле на единственном пути от узла к модели. Там Sentry изолирован от хоста, следит за поведением агента и применяет политику OpenShell на скорости линии, а шлюз DOCA проверяет, кто такой агент и какие полномочия ему выданы. Владельцам систем Vera достаточно обновить ПО, всем остальным установка доступна одним скриптом на Linux, macOS с Apple Silicon и Windows через WSL 2, последний вариант экспериментальный. Проект в статусе альфа, версия 0.1.0 ещё готовится, развёртывание в Kubernetes и проброс видеокарт в песочницу тоже помечены как экспериментальные. @ai_machinelearning_big_data