{{opener}} Amazon Bedrock теперь поддерживает структурированные выводы для всех моделей Anthropic Claude на конечных точках bedrock-runtime и bedrock-mantle, где модель доступна. Теперь, независимо от того, вызываете ли вы Claude через Boto3 и API bedrock-runtime или через API сообщений и конечную точку bedrock-mantle, вы можете получать ответы в формате JSON, соответствующие заданной структуре. Больше не требуется индивидуальный парсинг, повторные попытки или постобработка. С помощью структурированных выводов для Claude на Amazon Bedrock вы можете автоматизировать надежные задачи, соответствующие схеме, в различных отраслях. Примеры включают извлечение всех необходимых полей из финансовых отчетов и документов по соблюдению норм, парсинг клинических заметок в электронные медицинские записи и обогащение каталогов продуктов с помощью последовательных, проверенных результатов. Вы также можете анализировать контракты на наличие ключевых условий, сторон и обязательств или управлять маршрутизацией умных служебных запросов, где намерения, настроения и сущности всегда соответствуют модели данных вашего приложения. Структурированные выводы используют ограниченное декодирование для обеспечения соответствия вашей JSON-схеме во время генерации токенов, а не после. Модель не производит токены, которые могли бы нарушить вашу схему. Это изменяет форматирование вывода с вероятностного на детерминированное. Теперь доступны два дополнительных механизма на обеих конечных точках Amazon Bedrock: формат вывода JSON Schema для контроля структуры ответа модели и строгое использование инструментов для проверки параметров инструментов на соответствие схемам. Каждый ответ является допустимым JSON, поэтому вы больше не столкнетесь с ошибками JSON.parse() или исключениями парсинга. Ответы также безопасны по типам: типы полей соблюдаются, и обязательные поля всегда присутствуют. Поскольку выводы всегда соответствуют вашей схеме, вам не нужны повторные попытки для обработки нарушений схемы, что делает вашу интеграцию более надежной. Структурированные выводы также ограничивают ответы только полями, которые определяет ваша схема, что снижает количество токенов вывода и может снизить затраты на вывод для высоких объемов нагрузки. Структурированные выводы работают с пакетным выводом, поэтому вы можете обрабатывать большие объемы запросов асинхронно, получая при этом соответствующие схеме выводы. На конечной точке bedrock-runtime это также работает с кросс-регионным выводом, позволяя использовать его через регионы AWS без дополнительной настройки. Если вам нужны ответы в реальном времени, вы можете передавать структурированные ответы в виде типизированных событий. Когда вы делаете запрос с JSON-схемой, Amazon Bedrock валидирует вашу JSON-схему в соответствии с поддерживаемым подмножеством JSON Schema Draft 2020-12. Для новых схем Amazon Bedrock компилирует грамматический артефакт. Скомпилированные грамматики кэшируются на 24 часа, что делает последующие запросы быстрее. Первоначальный запрос с новой схемой может занять больше времени, поскольку Amazon Bedrock компилирует грамматический артефакт перед началом генерации. После этого начального компилирования последующие запросы с той же схемой выполняются с минимальными затратами, поскольку скомпилированная грамматика кэшируется. Структурированные выводы для моделей Claude на Amazon Bedrock обеспечивают надежность, необходимую для производственных AI-приложений. Они доступны на конечных точках bedrock-runtime и bedrock-mantle. Объединив формат вывода JSON Schema и строгое использование инструментов, вы можете создать конвейеры данных, которые не требуют дополнительной валидации. Вы также можете создавать надежные агентные рабочие процессы и производственные AI-приложения без индивидуального парсинга или логики повторных попыток. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.
From the original source:
SMNTCN (Semanticon) — глобальные новости ИИ
Read full article at SMNTCN (Semanticon) — глобальные новости ИИAmazon Bedrock supports structured pins for Claude models
Amazon Bedrock now supports structured inferences for Claude models.
AI Summary & Key Takeaways
- Amazon Bedrock now supports structured inferences for Claude models.
Amazon Bedrock supports structured pins for Claude models
Related stories
More than 700 prompts for creating videos using Claude have been collected on GitHub
More than 700 prompts for creating videos using Claude have been collected on GitHub. Now you can create animations, motion graphics, 3D scenes and even interactive mini-games, simply by describing the desired result in ordinary language. The collection contains more than 700 ready-made examples. Every…
The results of the past week are what matters
The results of the past week are what matters Business of AI companies Trend 2027. The future of agent commerce. Payments for AI agents: what is the fight for now? Analysis here. New financial infrastructure for AI agents. Hidden tax on AI agents - who will make money from this? Analysis here...
The scientific article is too long, so I just want to ask the AI to paraphrase it. But there is a fear that he will miss...
The scientific article is too long, so I just want to ask the AI to paraphrase it. But there is a fear that he will miss important mathematical calculations and conditions. And if you need to return to the original, you will have to look for the desired section again. The developers of TextFold have created quite…
Popular AI Wearables You Should Know
Browse popular AI wearables, including Bee, Friend, and Limitless.