По данным AWS Machine Learning, канадские организации, создающие приложения генеративного ИИ на платформе Amazon Bedrock, теперь могут получить доступ к последним основным моделям, таким как OpenAI GPT-6.1, GPT-6 и GPT-5.6, из канадских регионов AWS. С помощью кросс-регионного вывода (CRIS) Amazon Bedrock эти модели стали доступны из Канады. Модели OpenAI GPT-5.6 (Sol, Terra и Luna), GPT-6 (Astra, Sol и Luna) и GPT-6.1 Sol можно использовать из регионов Канада (Центральный) и Канада Запад (Калгари). Обработка вывода осуществляется в Северной Америке, с контролем за местоположением данных, описанным далее в статье. Кросс-регионный вывод представляет собой механизм мощности. Ваше приложение вызывает конечную точку Amazon Bedrock Runtime в вашем исходном регионе, после чего Amazon Bedrock перенаправляет запрос в поддерживаемый регион назначения для обработки. Такой подход предоставляет доступ к более широкому пулу мощностей, что помогает вашему приложению поддерживать производительность во время пиковых нагрузок. Не требуется управлять маршрутизацией региона назначения в вашем приложении. В данной статье рассматриваются модели GPT-5.6, GPT-6 и GPT-6.1, доступные из Канады, а также профили кросс-регионного вывода, которые их обслуживают. Мы также покажем, как настроить разрешения и вызвать модели с помощью API OpenAI Responses, API Chat Completions и API Amazon Bedrock Converse. Для API Responses мы включаем примеры потоковой передачи и использования инструментов. Наконец, мы расскажем, как запросить увеличение квоты, просмотреть доступные сигналы наблюдаемости в вашем исходном регионе и очистить ресурсы после завершения. С помощью Amazon Bedrock можно получить доступ к трем семействам моделей OpenAI в Канаде через кросс-регионный вывод. В следующей таблице обобщены каждая модель и ее назначение. GPT-6.1 Sol — сильное рассуждение и кодирование для задач, где важны как производительность, так и стоимость. GPT-6 Astra — сложное полное рассуждение и агентные задачи. GPT-6 Sol — сильное рассуждение и кодирование для повторяющихся задач с экономикой, подходящей для регулярного использования. GPT-6 Luna — быстрый, недорогой вывод для высокообъемных повторяющихся задач с регулируемыми усилиями рассуждения для каждого запроса. GPT-5.6 Sol — высокое рассуждение, кодирование и агентные нагрузки. GPT-5.6 Terra — сбалансированная производительность и стоимость для повседневного использования. GPT-5.6 Luna — быстрый и доступный для высокообъемных приложений с чувствительностью к задержкам. Эти модели принимают текстовые и графические входные данные, возвращают текст и поддерживают контекстное окно в 1 миллион токенов, режим рассуждения и вызов инструментов. GPT-6.1 Sol поддерживает то же контекстное окно и вызов инструментов, с дополнительными входными и выходными модальностями, описанными в его карточке модели. Модели GPT-5.6, GPT-6 и GPT-6.1 также поддерживают кэширование подсказок на Amazon Bedrock. Профили вывода Amazon Bedrock являются логическими идентификаторами, которые вы передаете вместо сырого идентификатора модели. Каждый профиль определяет модель и набор регионов, к которым Amazon Bedrock может перенаправить запрос. Два типа профилей доступны из Канады: географический профиль США (с префиксом us.) перенаправляет запросы в ваш канадский исходный регион и регионы США. Выберите этот профиль, когда ваша рабочая нагрузка требует, чтобы обработка вывода оставалась в пределах Северной Америки (Канада и США). Глобальный профиль (с префиксом global.) перенаправляет запросы в поддерживаемые коммерческие регионы AWS, где развернута модель. Это позволяет использовать более широкий пул мощностей в момент запроса. Доступность конечных точек различается по моделям и исходным регионам. Для начала работы мы рассмотрим настройку и код, необходимые для вызова этих моделей из вашего канадского исходного региона. Прежде чем начать, убедитесь, что у вас есть учетная запись AWS с включенным регионом Канада (Центральный) ca-central-1 или Канада Запад (Калгари) ca-west-1 в качестве вашего исходного региона. Также необходима роль или пользователь IAM с разрешениями для вызова профилей вывода. Для быстрого изучения прикрепите управляемую политику AWS AmazonBedrockLimitedAccess. Для развернутых рабочих нагрузок с более строгими контролями доступа используйте политику наименьших привилегий. В данной статье мы показали, как получить доступ к моделям OpenAI GPT-5.6 (Sol, Terra и Luna), GPT-6 (Astra, Sol и Luna) и GPT-6.1 Sol из Канады. Эти модели доступны из регионов Канада (Центральный) и Канада Запад (Калгари) с использованием кросс-регионного вывода на платформе Amazon Bedrock. Мы рассмотрели доступные профили вывода, как настроить разрешения и пример SCP, а также как вызвать модели с помощью API Responses, Chat Completions и Converse. Мы также показали, как запросить увеличение квоты, просмотреть использование и очистить тестовые ресурсы. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.
From the original source:
SMNTCN (Semanticon) — глобальные новости ИИ
Read full article at SMNTCN (Semanticon) — глобальные новости ИИTitle in RussianКанадские организации получают доступ к моделям OpenAI на Amazon Bedrock
Канадские организации теперь могут использовать модели OpenAI через Amazon Bedrock.
AI Summary & Key Takeaways
- Канадские организации теперь могут использовать модели OpenAI через Amazon Bedrock.
Канадские организации получают доступ к моделям OpenAI на Amazon Bedrock
Related stories
The scientific article is too long, so I just want to ask the AI to paraphrase it. But there is a fear that he will miss...
The scientific article is too long, so I just want to ask the AI to paraphrase it. But there is a fear that he will miss important mathematical calculations and conditions. And if you need to return to the original, you will have to look for the desired section again. The developers of TextFold have created quite…
Popular AI Wearables You Should Know
Browse popular AI wearables, including Bee, Friend, and Limitless.
Paragon: weekly digest
Paragon: weekly digest Our analyzes and materials: 🟠5 reasons that prevent you from making money with AI 🟠ElevenLabs: what is available for free, except for voice acting 🟠$300 for a YouTube cover: start plan in 5 days 🟠Poe: collecting your own AI from Claude, GPT and Gemini 🟠11 AI services where...
The hottest AI wearables and gadgets you should know about
We compiled a list of all the hottest AI wearables, including Muse Charm, Bee, Friend, Plaud, and more.
