✔️ Cursor сократил расход токенов Anysphere переработала обвязку своего агента и снизила траты пользователей на токены на 7% без потери качества. Системный промпт сократили примерно на 75%, так как современным моделям больше не нужны длинные списки запретов, достаточно описать, как работает инструмент. Встроенные инструменты, которые требуются меньше чем в 20% диалогов, убрали из постоянного контекста и подгружают по требованию, что на 60% уменьшило объём их описаний в статичной части запроса. На месте остались чтение, поиск, правка файлов и терминал, а также ask_question, вызов которого некоторые модели выдумывают при его отсутствии, и create_plan для режима планирования. Тем же способом раньше вынесли MCP-инструменты, и в сессиях с их вызовами общий расход токенов упал на 46,9%. Остальную экономию дали кэш и работа с контекстом. С выхода GPT-5.6 API OpenAI позволяет явно размечать границы кэша, и Cursor ставит их после стабильных слоёв запроса перед растущей перепиской, а меняющиеся данные (навыки, субагенты и инфа об окружении) вынес в служебное пользовательское сообщение за этими границами. Инструмент чтения файлов стал нумеровать каждую десятую строку вместо каждой - номер стоит три–пять токенов, а за сессию агент читает десятки тысяч строк, так что чтение из кэша сократилось на 1,6%. Ещё из промпта убрали настойчивые советы отдавать изучение кодовой базы субагентам, поскольку модели освоили этот приём, а другую модель для субагента агент теперь выбирает только по указанию пользователя или обвязки. Изменения уже действуют для пользователей Cursor, те же приёмы перенесут в Grok Bot. @ai_machinelearning_big_data
From the original source:
Telegram — AI Machine Learning Big Data
Read full article at Telegram — AI Machine Learning Big DataTitle in RussianCursor сократил расход токенов
✔️ Cursor сократил расход токенов Anysphere переработала обвязку своего агента и снизила траты пользователей на токены на 7% без потери качества. Системный промпт сократили примерно на 75%, так как современным моделям больше не нужны длинные списки запретов, достаточно описать,…
AI Summary & Key Takeaways
- ✔️ Cursor сократил расход токенов Anysphere переработала обвязку своего агента и снизила траты пользователей на токены на 7% без потери качества
- Системный промпт сократили примерно на 75%, так как современным моделям больше не нужны длинные списки запретов, достаточно описать,…
Cursor сократил расход токенов
Related stories
Perplexity taught the model to be its own teacher
📌 Perplexity taught the model to be its own teacher. The AI search engine proposed a training method called JOLT, in which the same model acts simultaneously as both student and teacher, with both roles learning at the same time. In reinforcement learning, the model receives a reward only for…
Elon Musk shows first 7 minutes of 'Odyssey', fully created by Grok neural network
🎬 Elon Musk shows first 7 minutes of 'Odyssey', fully created by Grok neural network. Three months ago Musk promised to release a feature-length film based on Homer's 'Odyssey', created by artificial intelligence. Now Grok Imagine has presented the first seven minutes of the project, though…
Startup analyzing donor kidney compatibility prepares to enter the Chinese market
Cortex AI founder Asylzhan Abdullaev discussed the features of the Chinese market and how the team increased model accuracy to 92%
Grok releases the first seven minutes of its AI-generated ‘Odyssey’
The footage looks okay, as long as you're not seeking artistry, inspiration, or human interest.
