Proxy Confidence: Auditing Black-Box LLM Agents with a Surrogate's Log-Probabilities
A deployed LLM agent emits tool calls, queries, and code that can be silently wrong -- by the time the error surfaces, the action has run. Frontier chat APIs hide the model's token probabilities; the agent's stated confidence barely beats chance on the mistakes that matter; and…
- 01.A deployed LLM agent emits tool calls, queries, and code that can be silently wrong -- by the time the error surfaces, the action has run
- 02.Frontier chat APIs hide the model's token probabilities; the agent's stated confidence barely beats chance on the mistakes that matter; and…
Материал представлен в формате расширенного аналитического дайджеста.
Читать полную версию в первоисточникеСвязанные материалы
Все материалы →GPT-6.1 Terra: OpenAI вдвое снизила цену на агентную модель среднего класса
🖥️ GPT-6.1 Terra: OpenAI вдвое снизила цену на агентную модель среднего класса OpenAI выпустила GPT-6.1 Terra для агентных сценариев, работы с компьютером и повседневного кодинга. Цена в API вдвое ниже, чем у GPT-5.6 Terra: $1 за миллион входных токенов вместо $2 и $6 за…
GPT-6.1 Terra сейчас на орбите
GPT-6.1 Terra: обеспечивает быстрое и эффективное использование компьютера по более низкой цене. GPT-6.1 Terra понимает, что происходит на экране, выполняет действия в приложениях, пишет естественно и является более эффективной моделью для всего вашего рабочего дня, способной выполнять больше задач. GPT-6.1 Терра продолжает…
Настоящий антропик, пожалуйста, встаньте.
Эта история впервые появилась в «Алгоритме», нашем еженедельном информационном бюллетене об искусственном интеллекте. Чтобы первыми получать подобные истории на свой почтовый ящик, зарегистрируйтесь здесь. После нескольких недель безумных спекуляций Anthropic подала проспект IPO. Документ на 335 страниц (около 100 страниц посвящены рискам)…