Как сообщает NVIDIA Developer, агенты искусственного интеллекта становятся стандартной частью рабочих процессов разработки, однако универсальные агенты не были созданы с учётом специализированного программного обеспечения, такого как NVIDIA DOCA. Без специфических знаний агенты могут полагаться на догадки, что является проблемой в разработке инфраструктуры, так как каждый цикл исправления отнимает время от развертывания. DOCA представляет собой унифицированную программную платформу, которая раскрывает полный потенциал процессоров обработки данных NVIDIA BlueField для инфраструктуры агентного ИИ. Она охватывает ускорённую сеть, хранение данных, ориентированное на ИИ, безопасность на уровне кремния, телеметрию и управление жизненным циклом. Это платформа разработки для команд, работающих с NVIDIA BlueField. Навыки DOCA AI Agent теперь доступны на GitHub. Эти навыки предоставляют структурированную и проверенную основу для решения проблем, с которыми сталкиваются универсальные агенты ИИ при разработке на DOCA. Они обеспечивают агентов проверенными API-подписями, требованиями к аппаратным возможностям и ограничениями сборки. В этой статье объясняется, что такое навыки DOCA AI Agent и как они работают в четырёх значительных сценариях разработки DOCA. Включён демонстрационный пример и информация о том, как начать использовать навыки DOCA для более быстрой разработки и более стабильного кода на инфраструктуре BlueField. Навыки DOCA AI Agent представляют собой стандартизированный способ предоставления агентам ИИ новых возможностей и экспертизы. Лёгкий открытый формат построен вокруг файла SKILL.md, содержащего реальные API-подписи, требования к аппаратным возможностям и ограничения сборки. Вместе навыки предоставляют агентам логическую и операционную структуру для DOCA. Навыки охватывают всю библиотеку DOCA, включая Flow, GPUNetIO, PCC и другие. Они не заменяют агента, но дают ему знания в области, позволяя рассуждать как опытный разработчик DOCA. Каждый навык охватывает конкретный компонент или рабочий процесс DOCA. Например, когда агент загружает навык для DOCA Flow, он получает реальные подписи функций, правильные имена модулей pkg-config, ограничения сборки и общие режимы отказа с их смягчениями. Навыки представляют собой не просто резюме документации, а спецификацию, которую агент может использовать для логического рассуждения. Почему агентам ИИ нужна основа для разработки DOCA? Когда вы просите универсального агента ИИ настроить DOCA Comch (канал связи), сконфигурировать контекст RDMA или отладить сбой связи в программе DOCA Flow, агент работает на основе сопоставления шаблонов с использованием общих данных для обучения, а не на основе проверенных контрактов API DOCA, манифестов аппаратных возможностей или спецификаций сборочной системы. Поверхность библиотеки DOCA большая, быстро меняющаяся и специфичная для аппаратного обеспечения, что не охватывается общими данными для обучения. Нет машинно-читаемого контракта, от которого агенты могли бы рассуждать, нет гарантированного стабильного интерфейса между тем, что агент знает, и тем, что на самом деле поддерживает аппаратное и программное обеспечение. Чтобы оценить разрыв, команда NVIDIA провела 65 реальных запросов от разработчиков DOCA, сравнивая производительность агентов с навыками и без них. Эти запросы варьировались от однострочных вопросов до детализированных многообязательных запросов, оцененных по контрольному списку необходимых ответов (конкретный набор критериев для выполнения каждой задачи). Без навыков агенты последовательно допускали одни и те же ошибки, включая: неправильное использование API и флагов: 59 из 65 запросов, неподтверждённые аппаратные возможности: 46 из 65 запросов, неправильная маршрутизация инструментов: 39 из 65 запросов, пропуск дымовых тестов: 34 из 65 запросов, угаданные версии: 30 из 65 запросов. Это последовательные ошибки. Без навыков агенты удовлетворяли лишь 19% оцененных элементов контрольного списка по реальным задачам DOCA. С навыками они удовлетворяли 100% по всем 65 запросам. Без навыков каждая ошибка агента становится сессией отладки для разработчика и более длительным путём к рабочему коду. Каковы преимущества навыков DOCA для разработчиков? Навыки DOCA позволяют вам наделить агентов специфическими знаниями в области. Это означает, что вы можете быстрее разрабатывать, поставлять более стабильный код и развертывать с меньшим количеством неизвестных. Быстрее разрабатывать: навыки предоставляют агенту проверенные вызовы API с самого начала, так что вы можете сосредоточиться на написании кода, а не на исправлениях. Поставлять более стабильный код: с навыками агент проверяет, что устройство действительно поддерживает, прежде чем написать хотя бы одну строку, а не после выполнения на реальном оборудовании. Развёртывать с меньшим количеством неизвестных: агент применяет предварительные проверки, планы отката и осведомлённость о холодном цикле питания перед тем, как взаимодействовать с аппаратным обеспечением, а не после того, как что-то пойдёт не так. Совокупный эффект — меньше циклов исправлений между задачей и рабочим кодом. Для команд, использующих агентов ИИ в приложениях DOCA в большом масштабе, это сокращение накапливается для каждого разработчика, задачи и развертывания. Используйте навыки агентов для ускорения разработки DOCA. Каждая из четырёх возможностей подробно описана в следующих разделах. Каждая возможность проиллюстрирована реальным запросом из нашей оценки из 65 запросов и преимуществами использования навыка. Быстрее разрабатывать с реальными API. Что решают навыки DOCA AI Agent: неправильное использование API: агенты изобретают функции, флаги и теги изображений, которые не существуют. Это был самый частый режим отказа в нашей оценке, затрагивающий 59 из 65 запросов. Без навыков агенты генерируют код, ссылаясь на функции DOCA, которые не существуют в библиотеке, флаги с неправильными именами и теги изображений, которые не работают во время выполнения. В качестве разработчика вы в конечном итоге отлаживаете ошибку, которую не вводили (изобретение агента). Запрос: «У меня есть хост с DPU BlueField-3 и установленным DOCA. Я хочу настроить DOCA Comch (канал связи) между процессом на стороне хоста и агентом на стороне DPU, чтобы они могли обмениваться небольшими контрольными сообщениями (менее 4 КиБ каждое, несколько раз в секунду).» Агент ИИ с навыками использует только реальные вызовы API DOCA Comch: правильный порядок аргументов, проверенные флаги и последовательность жизненного цикла, ничего не изобретая. Когда первый ответ агента использует правильную поверхность API, вы можете перейти непосредственно к интеграции, а не начинать с сессии отладки. По всем 63 запросам, которые тестировали точность API, результат с навыками был лучше каждый раз. Проверка аппаратных возможностей перед написанием кода. Что решают навыки DOCA AI Agent: агенты пишут код для функций, которые устройство не поддерживает. Проверка аппаратных возможностей была пропущена в 46 из 65 запросов без навыков. Модель отказа последовательна: агент предполагает, что возможность присутствует, генерирует код на её основе, и разработчик обнаруживает несоответствие только при выполнении на реальном оборудовании. В этот момент исправление требует понимания, какая проверка возможности была пропущена, переработки пути кода и повторного тестирования. Запрос: «У меня есть два хоста, соединённых высокоскоростной сетью InfiniBand. Каждый хост имеет одну NVIDIA GPU и один ConnectX NIC, и DOCA установлена на обоих. Я хочу измерить задержку запроса на запись RDMA, когда WR (запрос на выполнение) отправляется из ядра CUDA на GPU (а не из потока CPU хоста), чтобы я мог решить, стоит ли мне привязывать своё приложение к интерфейсу GPUNetIO Verbs.» Агент ИИ с навыками проверяет, что устройство действительно поддерживает, прежде чем писать любой код. Он проверяет топологию PCIe GPU-NIC, подтверждает поддержку GPUNetIO перед тем, как привязаться, и называет альтернативные поверхности API и когда каждая из них применяется. Агент ИИ с навыками валидирует предварительные условия для ответа против фактического используемого оборудования, прежде чем будет написан любой код. Отправка кода, который компилируется и связывается. Что решают навыки DOCA AI Agent: агенты производят код, который не компилируется или не связывается в контейнере DOCA. Корректность сборки была протестирована на 10 из 65 запросов. Это меньшая подгруппа, но когда это применимо, разработка не может продолжаться. Запрос: «Я пытаюсь построить программу DOCA Flow из одного из отправленных примеров. Шаг компиляции проходит, но связывание завершается неудачей: неопределённая ссылка на doca_flow_init. Как мне это отладить?» Агент ИИ с навыками определяет неопределённую ссылку как ошибку на этапе связывания, использует инструмент сборки (pkg-config), чтобы найти правильные флаги связывания для doca-flow. Агент, который генерирует неправильный флаг связывания, отправляет разработчика по пути, который не разрешится. Агент с навыками немедленно называет правильный диагностический подход и правильный инструмент для получения правильных флагов. Выполнение изменений, которые влияют на оборудование, безопасно. Что решают навыки DOCA AI Agent: агенты применяют изменения на уровне прошивки на работающем оборудовании без предварительных проверок, планов отката или знания требований холодного цикла питания. Чем сложнее задача, тем больше важны навыки. В нашей оценке из 65 запросов наибольший разрыв в производительности наблюдался в сценарии с самой высокой сложностью: изменения на уровне прошивки на работающем оборудовании. Запрос: «У меня есть производственный DPU BlueField-3, работающий с рабочей нагрузкой DOCA. Я загрузил навык DOCA AI Agent для своей службы, и следующий шаг — написать параметр на уровне прошивки класса mlxconfig.» Агент ИИ с навыками применяет всю дисциплину, необходимую для изменений на уровне прошивки, чтобы выполнить каждое требование. Это включает предварительную инвентаризацию, предполагая наличие внебандового (OOB) пути как предварительного условия, явное окно обслуживания, план отката и примечания о том, что записи класса mlxconfig вступают в силу только при холодном цикле питания, а не при теплом перезагрузке. Агент с навыками выполнил каждое требование. Агент без навыков не выполнил ни одного. На работающем производственном DPU ни один из этих пропусков не является восстановимыми шагами отладки. Навыки несут знания о том, что может пойти не так и почему, превращая рискованное изменение прошивки в дисциплинированную, безопасную процедуру. По всем 65 запросам агенты ИИ с навыками DOCA каждый раз достигали правильного ответа. Это означает меньшее количество циклов исправлений и более быстрое время до рабочего кода. Демонстрация в Видео 1 наглядно показывает прирост эффективности. Два агента получили одну и ту же задачу: создать программу с использованием NVIDIA DOCA для отправки реального трафика RDMA на BlueField-3. Оба успешно справились, но агент с навыками использовал на 73% меньше написанного кода (189 строк против 695) и примерно на половину меньше команд для оборудования (20 против 37, сокращение на 46%). Это разница между агентом, который заново открывает API DOCA и требования к сборке методом проб и ошибок, и тем, который уже знает их, прежде чем написать хотя бы одну строку. Начните работу с навыками DOCA AI Agent от NVIDIA. Навыки DOCA AI Agent дают вашему агенту знания в области, необходимые для успеха, чтобы вы могли разрабатывать с большей эффективностью и точностью. Чтобы начать, посетите репозиторий NVIDIA/skills на GitHub. Ознакомьтесь с общими навыками для быстрого начала и специализированными навыками для DOCA Flow, GPUNetIO, RDMA и других. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.