Cursor сократил расход токенов
✔️ Cursor сократил расход токенов Anysphere переработала обвязку своего агента и снизила траты пользователей на токены на 7% без потери качества. Системный промпт сократили примерно на 75%, так как современным моделям больше не нужны длинные списки запретов, достаточно описать,…
- 01.✔️ Cursor сократил расход токенов Anysphere переработала обвязку своего агента и снизила траты пользователей на токены на 7% без потери качества
- 02.Системный промпт сократили примерно на 75%, так как современным моделям больше не нужны длинные списки запретов, достаточно описать,…
✔️ Cursor сократил расход токенов Anysphere переработала обвязку своего агента и снизила траты пользователей на токены на 7% без потери качества. Системный промпт сократили примерно на 75%, так как современным моделям больше не нужны длинные списки запретов, достаточно описать, как работает инструмент. Встроенные инструменты, которые требуются меньше чем в 20% диалогов, убрали из постоянного контекста и подгружают по требованию, что на 60% уменьшило объём их описаний в статичной части запроса. На месте остались чтение, поиск, правка файлов и терминал, а также ask_question, вызов которого некоторые модели выдумывают при его отсутствии, и create_plan для режима планирования. Тем же способом раньше вынесли MCP-инструменты, и в сессиях с их вызовами общий расход токенов упал на 46,9%. Остальную экономию дали кэш и работа с контекстом. С выхода GPT-5.6 API OpenAI позволяет явно размечать границы кэша, и Cursor ставит их после стабильных слоёв запроса перед растущей перепиской, а меняющиеся данные (навыки, субагенты и инфа об окружении) вынес в служебное пользовательское сообщение за этими границами. Инструмент чтения файлов стал нумеровать каждую десятую строку вместо каждой - номер стоит три–пять токенов, а за сессию агент читает десятки тысяч строк, так что чтение из кэша сократилось на 1,6%. Ещё из промпта убрали настойчивые советы отдавать изучение кодовой базы субагентам, поскольку модели освоили этот приём, а другую модель для субагента агент теперь выбирает только по указанию пользователя или обвязки. Изменения уже действуют для пользователей Cursor, те же приёмы перенесут в Grok Bot. @ai_machinelearning_big_data
Related Intelligence
All stories →GPT-6.1 Terra:OpenAI 将中端代理模型的价格减半
🖥️ GPT-6.1 Terra:OpenAI 将中档代理模型的价格减半 OpenAI 发布了 GPT-6.1 Terra,用于基于代理的场景、计算机工作和日常编码。 API 价格是 GPT-5.6 Terra 的一半:每百万输入代币 1 美元,而不是每百万输入代币 2 美元和 6 美元……
GPT-6.1 Terra 现已进入轨道
GPT-6.1 Terra:以较低的价格提供快速且功能强大的计算机使用。 GPT-6.1 Terra 可以理解屏幕上的内容,跨应用程序执行操作,自然书写,并且是适合您整个工作日的更强大的模型,可以高效地处理更多工作。 GPT-6.1 Terra 继续……