По данным VentureBeat, ИИ-агенты часто сталкиваются с трудностями в оценке своего прогресса и принятии решений о следующих действиях. Они могут тратить вычислительные ресурсы на неудачные подходы или упускать многообещающие результаты, останавливаясь до завершения задачи. Эти проблемы становятся более затратными по мере увеличения сложности и продолжительности рабочих процессов. Исследователи из Meta Superintelligence Labs разработали методику, называемую агентным мета-рассуждением, которая позволяет агенту иметь отдельный поток рассуждений о том, что делать дальше. Эта методика позволяет агентам оценивать свой прогресс, исследовать альтернативные подходы и направлять ресурсы на наиболее перспективные следующие шаги. На программном бенчмарке ProgramBench методика достигла 71,5% средней успешности скрытых тестов с использованием GPT-5.5, в то время как для Codex этот показатель составил 58,0% по оценке исследователей. В отличие от самооптимизирующих систем, которые настраивают программное обеспечение и конфигурации агентов между запусками, мета-рассуждение улучшает то, как агенты направляют свою работу во время выполнения задачи. Это дает разработчикам возможность улучшать производительность агентов без изменения или тонкой настройки базовых моделей. Проблема управления работой агентов заключается в том, что, например, кодирующий агент, реализующий программный компонент, может столкнуться с неразрешенными крайними случаями. Он должен решить, стоит ли исследовать неудачи, переписывать часть реализации, проводить дополнительные тесты или остановиться. Каждая из этих опций потребляет ресурсы, и неправильное решение может привести к потере оставшегося бюджета или ухудшению работоспособной реализации. Исследователи называют эту задачу метакогнитивным контролем, который они описывают как «оценку собственного прогресса и использование этой оценки для принятия решения о следующих действиях». Для ИИ-агента метакогнитивный контроль означает решение о том, каким промежуточным результатам доверять, на каком предыдущем результате строить свою работу и когда выделять больше вычислительных ресурсов. Плохое решение может продолжить тратить ресурсы на неудачный подход или заставить агента отказаться от правильного решения, которое он уже нашел. Существующие агенты часто совмещают эти решения с выполнением задач, что означает, что они выбирают следующее действие в одном шаге, основываясь на накопленной истории действий и взаимодействий с окружающей средой. По мере выполнения задачи соответствующая информация может теряться среди предыдущих попыток, результатов инструментов и ошибок. Традиционные методы масштабирования вычислений имеют свои ограничения. Такие подходы, как генерация нескольких кандидатов, циклы критики и пересмотра, а также заранее определенные деревья поиска, обычно определяют свою вычислительную структуру заранее. Они устанавливают количество попыток, шагов проверки или раундов уточнения до того, как проблема покажет, какие вычисления были бы наиболее ценными. Исследователи Meta утверждают, что решения о том, что вычислять дальше, «должны иметь собственный процесс агентного рассуждения». «Это размышление имеет свою структуру, консолидируя то, что было установлено в ходе работы, исследуя, что можно сделать дальше, и оценивая, что стоит каждая опция», — пишут они. Методика агентного мета-рассуждения, предложенная исследователями Meta, позволяет агенту рассуждать и действовать на основе собственного процесса вывода. Методика создает повторяющийся цикл: выполнение работы, оценка результатов, определение многообещающих следующих шагов и назначение дополнительных вычислений. Ранее полученные результаты остаются доступными на протяжении всего процесса, позволяя агенту опираться на предыдущие попытки без необходимости повторной обработки всей истории выполнения. Исследователи реализуют этот подход в системе под названием Meta-Reasoning Agent. Она разделяет две компоненты: «работники», которые выполняют фактические задачи, и контроллер, который решает, какая работа должна быть выполнена дальше. Работники могут быть отдельными вызовами больших языковых моделей или кодирующими агентами, использующими инструменты для проверки файлов, изменения кода и выполнения тестов. Контроллер может проверять их результаты, записывать свои собственные выводы, запускать новых работников с целевыми инструкциями и решать, когда остановиться. Контроллер следует четырехступенчатому циклу рассуждений: оценка, предложение, оценка и передача. На этапе оценки контроллер изучает новые результаты работников и обновляет свои представления о задаче. На этапе предложения он генерирует возможные следующие действия, такие как исследование неудачных тестов, реализация отсутствующей функциональности или независимая проверка существующего кода. На этапе оценки контроллер взвешивает предложенные действия в контексте доступного вычислительного бюджета. Наконец, на этапе передачи контроллер дает инструкции работникам и использует соответствующие выводы из предыдущих попыток для предоставления контекста работникам. Каждый этап может включать собственные вызовы моделей и операции памяти, позволяя контроллеру исследовать прежде, чем принять решение. Ключевым элементом этой архитектуры является постоянная память артефактов. Выходные данные работников и заметки контроллера хранятся в виде артефактов с уникальными идентификаторами. Контроллер поддерживает компактную оценку статуса задачи и извлекает подробные артефакты только по мере необходимости. Эти артефакты также формируют граф вычислений. Каждый раз, когда контроллер предоставляет ранее полученный артефакт в качестве контекста для новой работы, система записывает связь между ними. Например, отчет о тестировании может привести к целевому ремонту, который затем проверяется другим работником. Граф показывает, как агент исследует альтернативные подходы и строит на основе предыдущих результатов. Он также предоставляет способ анализа того, использует ли агент продуктивно свои вычисления, а не генерирует разрозненные попытки. Исследователи оценили методику на четырех бенчмарках: IMO ProofBench-Advanced для математических доказательств, ARC-AGI-2 для абстрактного визуального рассуждения, LongCoT-mini для долгосрочного рассуждения по нескольким областям и ProgramBench для реконструкции программ из документации и исполняемых ссылок. Они протестировали три передовые модели: Gemini 3.1 Pro, GPT-5.5 и Opus 4.8. Их основной базой сравнения был агент прямого контроля, вариант Meta-Reasoning Agent, который принимает решения о контроле в одном шаге, основываясь на накопленной истории, вместо того чтобы использовать отдельный контроллер. Они также сравнили методику с существующими системами и кодирующими агентами, включая Codex, Claude Code и рекурсивные языковые модели. При наибольших протестированных бюджетах мета-рассуждение показало более высокие результаты во всех 12 сопоставленных сравнениях. Одним из самых интересных выводов было то, как агенты реагировали на более крупные вычислительные бюджеты. Когда лимит на ProgramBench увеличился с 400 до 1200 вызовов модели, мета-рассуждение с использованием GPT-5.5 улучшилось с 64,1% до 71,5%, в то время как прямой контроль оставался около 64% и использовал только около 18% доступных вызовов при наивысшем значении. Компонент графа артефактов играет ключевую роль в обеспечении такого поведения. Мета-рассуждение генерировало больше промежуточных результатов и больше связей между ними. В одном из примеров ARC-AGI-2 прямой контроль произвел шесть независимых попыток и четыре поверхностных последующих, в то время как мета-рассуждение исследовало больше ветвей и связывало последующую работу с предыдущими результатами. Исследователи не предоставили официальной готовой реализации в материалах, сопровождающих исследование, но статья включает подробные спецификации подсказок контроллера, инструкций работников, интерфейсов памяти и инструментов. Разработчики могут использовать эти спецификации для экспериментов, добавляя отдельный цикл управления в существующие системы агентов, поддерживая постоянные записи промежуточной работы и явно оценивая затраты и выгоды предлагаемых действий. Реализация на ProgramBench предлагает практические уроки для кодирующих агентов. Работники фиксируют свои изменения в Git, и контроллер может проверять репозиторий через интерфейс только для чтения, чтобы подтвердить их утверждения. Его текущая оценка различает реализованную, сломанную, непроверенную и неизученную функциональность. Методика также ограничивает параллельные изменения кода в общем рабочем пространстве, чтобы предотвратить перезапись изменений работниками друг друга. Однако мета-рассуждение вводит дополнительные накладные расходы и вызовы LLM в процессе управления. При меньших бюджетах методика иногда показывала худшие результаты, чем прямой контроль, прежде чем обогнать его по мере увеличения вычислений. Для команд ИИ в бизнесе выводы предполагают, что способность управлять вычислениями должна стать явной частью оценки и оптимизации агентов. Поскольку агенты берут на себя более длинные рабочие процессы, они должны уметь приостанавливать свою работу и определять, как лучше всего распределить свои ресурсы. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.