🌟 VeriHarness: обвязка для проверки работы агентов той же моделью Google AI Research и Кембриджский университет открыли код VeriHarness, системы, которая проверяет результаты долгих агентных задач силами той же модели, что их сделала. Вместе с кодом выложены около 26 тысяч трейсов агентов Gemini 3.5 flash и Opus 4.8, на генерацию которых ушло больше 100 тысяч долларов. ИИ-агент решает одну и ту же задачу несколько раз, и каждая попытка даёт свой вариант отчёта, таблицы, документа или патча. VeriHarness сверяет все эти варианты с файлами и данными рабочего пространства и выдаёт лучший вариант, исправленный по найденным ошибкам, вместе с журналом проверок, но эталонных ответов и критериев оценки проверяющий не видит. Идею подсказали запуски Claude Opus 4.8 на бенчмарке APEX-Agents, где треть ответов, в которых сходились все десять попыток, оказалась ошибочной, а при расхождении верный вариант обычно был среди попыток, но голосование большинством выбирало его лишь примерно в половине случаев. 🟡 Механика Проверка идёт в двух отдельных контекстах модели. Первый разбирает утверждения, в которых прогоны расходятся, и подбирает проверку, которая лучше всего отделит верный вариант. Второй ищет ошибки там, где все прогоны согласны, например пересчитывает итоги или сверяет валюту с метаданными источника. Затем новый контекст сводит оба журнала, выбирает базовый прогон и план правок, а нерешённые вопросы помечает отдельно. Что именно проверять, подсказывают 18 навыков, коротких инструкций со скриптами для таблиц, PDF, документов, презентаций и патчей. Навыки умеют пополняться сами из разборов ошибок на отладочных задачах. Протокол работает внутри Gemini CLI, Claude Code и Codex. 🟡Тесты На пяти бенчмарках рабочих задач APEX-Agents, SpreadsheetBench 2 и JobBench, VeriHarness с правками поднял средний результат по сравнению с одиночным прогоном с 47,2 до 53,4 балла у Gemini 3.5 Flash и с 49,6 до 56,1 у Claude Opus 4.8. Сильнее всего вырос APEX-Agents у Opus, с 35,8 до 47,5. Без правок, в режиме выбора лучшего прогона, VeriHarness обошёл все сравниваемые методы, включая LLM-as-a-Verifier, на всех бенчмарках у обеих моделей.
From the original source:
Telegram — AI Machine Learning Big Data
Read full article at Telegram — AI Machine Learning Big DataTitle in RussianVeriHarness: обвязка для проверки работы агентов той же моделью
🌟 VeriHarness: обвязка для проверки работы агентов той же моделью Google AI Research и Кембриджский университет открыли код VeriHarness, системы, которая проверяет результаты долгих агентных задач силами той же модели, что их сделала. Вместе с кодом выложены около 26 тысяч…
AI Summary & Key Takeaways
- 🌟 VeriHarness: обвязка для проверки работы агентов той же моделью Google AI Research и Кембриджский университет открыли код VeriHarness, системы, которая проверяет результаты долгих агентных задач силами той же модели, что их сделала
- Вместе с кодом выложены около 26 тысяч…
VeriHarness: обвязка для проверки работы агентов той же моделью
Related stories
Ensemble forecasting with IBM Granite time-series models
A Blog post by IBM Research on Hugging Face
AI has learned to determine the shooting location from a photograph with an accuracy of 2 meters
📍 AI has learned to determine the shooting location from a photograph with an accuracy of up to 2 meters. A new skill has appeared for AI agents that allows you to search for geographic coordinates using a regular photo. The tool uses satellite maps, street views and terrain data to compare...
A Kazakh man sold pies and now runs a multimillion-dollar business using AI
Agadil Erzhanov closed his first business with a cash gap of 20 million tenge, sold sandwiches with his wife, and three years later he makes a platform for children with an AI assistant and a smartphone that has neither social networks nor a browser. "Cursive" tells the interesting story of a young...
RUNVIDIA трансформирует европейскую розницу с помощью ИИ и роботов
NVIDIA внедряет открытые модели и физический интеллект в европейскую розницу.
