Google выяснили, почему ИИ-агенты забывают старое, когда учатся новому, и предложили, как это можно исправить

Google выяснили, почему ИИ-агенты забывают старое, когда учатся новому, и предложили, как это можно исправить Исследователи из Google DeepMind прогнали 3 популярных метода самоэволюции (ReasoningBank, GEPA, Meta-Harness) через потоки задач, где тематика, формат работы или даже вся среда меняются по ходу дела. Оказалось, чем смелее метод переписывает общий промпт или рабочее пространство, тем лучше он учится здесь и сейчас и тем сильнее портит всё остальное. Даже память с поиском не спасает, если новая задача похожа по формулировке на старую, но требует противоположного поведения, агент достаёт не ту память и ошибается. А авторы другой работы, из Google Cloud AI, предлагают не чинить единый харнесс, а отказаться от идеи единого харнесса вообще. Это продолжение линии работ Google Cloud про эволюцию Harness² про рекурсивное улучшение харнесса агента. Вместо одной общей версии создаются специализированные подклассы, которые наследуют общее поведение и переопределяют только то, что нужно именно им. А роутер для каждой новой задачи решает, оставить базовую версию или передать её специализированной. В результате прирост точности увеличился до +15.8 п.п., а поиск решения в 4 раза быстрее, чем с единым харнессом.