Amazon Bedrock запускает глобальный кросс-регионный доступ к моделям OpenAI GPT-6

Как сообщает издание AWS Machine Learning, Amazon Bedrock предоставляет доступ к новым моделям OpenAI GPT-6 Sol и GPT-6 Luna через глобальный кросс-регионный доступ для команд в Таиланде, Малайзии, Сингапуре, Индонезии и Тайване. Это решение позволяет обойти ограничения, возникающие при однорегионных запросах, когда спрос превышает местные мощности. С помощью кросс-регионного доступа команды могут использовать GPT-6 Astra из Азиатско-Тихоокеанского региона (Сингапур). В публикации описывается, как настроить вызов, установить разрешения и контролировать запросы из вашего региона. Модели GPT-6 Sol, GPT-6 Luna и GPT-6 Astra доступны через глобальный кросс-регионный доступ с соответствующих регионов, используя конечную точку bedrock-runtime. Для успешного использования кросс-регионного доступа необходимо настроить профиль доступа и использовать API Converse, совместимые с OpenAI API, а также клиенты для программирования. Также рассматриваются настройки AWS Identity and Access Management (IAM) и управление квотами. Семейство GPT-6 включает три модели, каждая из которых доступна через глобальный кросс-регионный доступ. GPT-6 Sol предлагает мощные возможности для решения сложных задач, GPT-6 Luna позволяет эффективно выполнять повторяющиеся задачи, а GPT-6 Astra справляется со сложным анализом и работой с длинными документами. Запросы обрабатываются в зависимости от региона, выбранного для вызова API, а выставление счетов, отслеживание квот и мониторинг остаются в вашем исходном регионе. В публикации также приводится таблица с идентификаторами профилей кросс-регионного доступа и поддерживаемыми регионами. Для начала работы с моделями OpenAI на Amazon Bedrock необходимо выполнить несколько условий, включая наличие IAM-идентификатора с разрешениями на вызов профиля и активированный исходный регион. Статья описывает, как использовать API Converse и OpenAI Chat Completions API, а также рассматривает вопросы безопасности и управления квотами. В заключение, публикация демонстрирует, как вызвать GPT-6 Sol и GPT-6 Luna из пяти регионов Азиатско-Тихоокеанского региона и GPT-6 Astra из Сингапура через глобальный кросс-регионный доступ на bedrock-runtime. Для начала работы необходимо прикрепить IAM-политику и отправить первый запрос через глобальный профиль. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.