Building an agent AI platform on Amazon Bedrock AgentCore

{{opener}} основным препятствием для внедрения агентов в производство является не сам инструмент или модель, а окружение, в котором они функционируют. Важными факторами являются количество команд, способных работать в безопасной среде, определение владельцев каждой модели и инструмента, а также управление ошибками и процессами в заранее определённых рамках. Для команды платформы, стремящейся поддерживать множество сценариев использования агентов, необходимо проектировать и управлять продуктами платформы. В данной статье мы будем называть команду, управляющую платформой, командой платформы, а команды, строящие на ней, — командами рабочих потоков. Каждой команде рабочего потока необходима подготовленная инфраструктура с одобренными моделями и инструментами, временной идентичностью рабочих нагрузок, изолированной средой выполнения и памятью, автоматизированной оценкой, откатом, телеметрией и атрибуцией затрат. Эти меры контроля должны оставаться последовательными, даже когда команды рабочего потока настраивают подсказки, инструменты, доступ к данным и поведение приложений. Когда каждая команда собирает свои компоненты, контроль может рассеиваться, общие услуги становятся узким местом, а аудит собственности становится сложным. В этой статье мы рассмотрим архитектуру и эталонную реализацию корпоративной платформы агентного ИИ на Amazon Bedrock и Amazon Bedrock AgentCore. Мы охватим многоаккаунтную модель работы, контрольную плоскость платформы, повторяемую модель развертывания для каждой команды рабочего потока, отдельные шлюзы для вывода и инструментов, а также оценочный конвейер, который проверяет каждого агента перед его продвижением в производство. К концу статьи вы сможете развернуть управляемый рабочий поток из сопутствующего шаблона, подтвердить его безопасность и контракты жизненного цикла и использовать его в качестве основы для своей платформы агентного ИИ в организации. Amazon Bedrock AgentCore предоставляет модульные услуги для создания, развертывания и эксплуатации агентов в больших масштабах, включая среду выполнения, шлюз, идентичность, память, политику, реестр и оценки. Перед тем как углубиться в детали решения, полезно понять организационные потребности, которые определяют архитектуру платформы. Общие проблемы, с которыми сталкиваются клиенты при создании платформы для агентов, можно разделить на пять категорий: управляемый доступ к моделям, управляемый доступ к инструментам, делегированная доставка, операции флота и затраты, а также ограниченные доказательства и жизненный цикл. Каждый запрос на вывод от ненадёжного источника должен проходить через одобренный шлюз вывода. Шлюз применяет защитные меры организации, ограничивает, какие модели и регионы AWS могут использовать команды рабочего потока, и обеспечивает выполнение лимитов по скорости, квотам токенов и бюджетам, чтобы ни одна команда не могла исчерпать общую ёмкость. Кроме того, он несёт идентичность рабочей нагрузки и предоставляет данные об атрибуции. Агенты должны находить и вызывать только одобренные инструменты через аутентифицированный шлюз модели контекста (MCP), с точными целями, ролями выполнения с минимальными привилегиями, политическими решениями и подлежащим аудиту владельцем. Команды рабочего потока должны иметь возможность самостоятельно разрабатывать и откатывать свои приложения в рамках заранее одобренных границ, не дожидаясь развертывания платформенной командой или предоставления разработчикам прямого доступа к инфраструктуре. Несколько ролей должны иметь возможность видеть данные по всем аккаунтам, не получая при этом доступа к записям команд. Инженеры операций агентов нуждаются в логах, метриках, трассировках и квотах. Владельцы рабочих потоков должны видеть стоимость каждого агента в рамках своих бюджетов. Команды финансового контроля и финансовые группы должны иметь возможность проводить расчёты по командам или бизнес-единицам через AWS Cost Explorer и отчёт о затратах и использовании AWS (CUR). Руководители по безопасности и управлению должны иметь доказательства того, какая рабочая нагрузка вызвала какую модель и инструмент. Каждый выпуск агента должен иметь доказательства на каждом этапе: вызов модели должен быть одобрен, а вызов не одобренной модели или региона должен быть отклонён. Вызов инструмента должен быть успешным, а вызов инструмента вне подписки агента должен быть отклонён с ожидаемой ошибкой. Запрос из аккаунта или идентичности другого рабочего потока должен быть отклонён. Предыдущая версия среды выполнения агента может быть восстановлена. Уничтожение удаляет среду выполнения агента, память, шлюз инструмента и разрешения на инструменты в порядке зависимости и подтверждает, что ничего не осталось. Шаблон решает эти потребности через четыре взаимосвязанные плоскости: опыт разработчика, контроль платформы, выполнение рабочего потока и гарантии и операции. Единицей масштаба является ячейка рабочего потока, а не вручную настроенный агент или одна общая учётная запись рабочей нагрузки. README шаблона подробно описывает обязанности каждой плоскости. В дальнейшем вы прочитаете о главных плоскостях: контрольной плоскости агентного ИИ и повторяемой ячейке рабочего потока. Корпорации обычно принимают одну из трёх моделей работы для агентного ИИ: централизованную, децентрализованную и федеративную. Централизованная модель подразумевает, что одна команда по искусственному интеллекту и машинному обучению строит и управляет каждым агентом. Управление остаётся последовательным, но такая команда быстро становится узким местом по мере роста числа сценариев использования. В децентрализованной модели каждая бизнес-единица строит и управляет своими собственными агентами. Команды могут действовать быстро, но без общих стандартов контроль может рассеиваться, усилия дублироваться, а видимость затрат страдать. Федеративная модель предполагает, что центральная команда платформы предоставляет общие, управляемые услуги, в то время как команды доменов сохраняют право собственности на своих агентов, инструменты и данные. Эта модель балансирует автономию команды с последовательными защитными мерами и является той, к которой стремятся большинство корпораций. Следуя наблюдаемым паттернам в взаимодействии с клиентами, шаблон реализует федеративную модель. Команда платформы является центром, обычно состоящим из менеджера продукта платформы, архитектора, инженеров платформы, инженеров операций агентов и руководителя по безопасности и управлению. Команды рабочего потока являются спицами, состоящими из разработчиков агентов, технического руководителя домена и инженеров ИИ/МО. Исполнительный спонсор и CISO находятся над обеими командами. В этом шаблоне команда платформы отвечает за определение каждого компонента: шаблоны, версии, политики и допуск. Каждая учётная запись рабочего потока запускает свой собственный экземпляр компонентов на команду (среда выполнения, память, шлюз инструмента), так что сбой или откат остаются в пределах одной команды. Это решение обеспечивает управляемую многоаккаунтную платформу агентного ИИ, которую команды платформы эксплуатируют, а команды рабочих потоков, такие как внутренние продуктовые и инженерные команды, используют через версии, предоставленные интерфейсы самообслуживания. В корпоративном масштабе плоскость опыта разработчика представляет собой каталог одобренных версий шаблонов агентов. Шаблон включает эталонные шаблоны для Strands, LangGraph и CrewAI, но вы можете использовать любой выбранный вами фреймворк, при условии, что шаблон сохраняет тот же шлюз вывода, шлюз инструмента, идентичность, политику, оценку и контракты доставки. Команды приложений отвечают за подсказки, логику агентов, инструменты и случаи оценки. Команда платформы отвечает за общие меры контроля и требования к выпуску. Из четырёх плоскостей две несут основную архитектуру: контрольная плоскость платформы агентного ИИ и повторяемая ячейка рабочего потока. Контрольная плоскость платформы: учётная запись платформы публикует версии шаблонов и интерфейсов, управляет записями управления AWS Agent Registry и общими шлюзами вывода, принимает модели и защитные меры, организует проверенные выпуски и агрегирует сигналы флота. Команды используют эти возможности через код, дескрипторы и конвейеры, а не через административные сессии или заявки на развертывание. Повторяемая ячейка рабочего потока: каждая продукция или домен получает изолированную границу с собственным репозиторием исходного кода, конвейером рабочих нагрузок и тремя возможностями Amazon Bedrock AgentCore: среда выполнения AgentCore, память AgentCore с ограничением по актёрам и шлюз AgentCore, который использует авторизацию AWS_IAM и открывает только одобренные целевые инструменты. Ячейка также содержит локально управляемые ключи AWS KMS, теги, тревоги, бюджеты и ссылку на менеджер доступа к наблюдаемости CloudWatch (OAM). Одна ячейка может развертываться, терпеть неудачу, откатываться или уничтожаться без координации с выпуском другой команды. Ключевые компоненты архитектуры включают следующие уровни учётных записей: основа управления и управления, слой безопасности и наблюдаемости, платформа агентного ИИ, слой флота рабочего потока. Эта топология интегрируется в существующую базу, предварительно настроенную, безопасную и масштабируемую многоаккаунтную среду AWS, где метки управления, платформы и рабочего потока описывают обязанности, а не фиксированную трёхаккаунтную структуру. Организация может управлять несколькими проверенными средами платформы и многими парами учётных записей рабочего потока. Шаблон определяет логические роли учётных записей, которые разделяют управление предприятием, общие услуги платформы и выполнение, принадлежащее командам. Политики управления услугами ограничивают максимальные разрешения, доступные для учётных записей платформы и рабочего потока. Они дополняют, а не заменяют IAM, авторизацию шлюза, защитные меры, политики ресурсов, сетевые управления и доказательства конвейера. Шаблон рендерит и проверяет эффективные политики для конкретной учётной записи и региона, а не полагается только на намерения исходного кода. В заключение, в этой статье мы рассмотрели корпоративную платформу агентного ИИ, построенную на Amazon Bedrock AgentCore. Архитектура отделяет централизованную контрольную плоскость платформы от повторяемых ячеек рабочего потока, с отдельными шлюзами для вывода и инструментов, а также продвижением в производство, контролируемым оценкой развернутой среды выполнения. Сопутствующий репозиторий включает шаблон, который проверяет эти меры контроля от начала до конца, от ворот конвейера и тестов границ до уничтожения с нулевым остатком. Чтобы начать, разверните одну представительную ячейку рабочего потока из сопутствующего репозитория, подтвердите её полный жизненный цикл, а затем автоматизируйте дополнительные ячейки из того же версионного шаблона. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.