Исследования в области памяти агентов ИИ: ошибки поиска сходства

Как сообщает издание Towards, в статье рассматривается, как векторный поиск может находить фразу «Я вегетарианец» по запросу «Предложи что-нибудь на ужин», и почему он не может отличить факт от его противоречия. В статье описывается, что в долгосрочной памяти агента хранится наиболее актуальная информация: «Приya вегетарианец». Эти два предложения не содержат общих слов, и ключевой поиск никогда не свяжет их. Если агент попытается вывести все сохраненные факты в подсказке, это сработает для десяти воспоминаний, но потерпит неудачу при тысячах. Статья объясняет основные механизмы памяти на основе встраивания для агентов ИИ: встраивания преобразуют текст в векторы, где семантически схожие элементы находятся близко друг к другу, а косинусное сходство является типичным способом ранжирования «близости». Однако это сходство отвечает лишь на вопрос «о чем это?», а не на вопрос о том, является ли извлеченный факт истинным. В статье выделяются четыре распространенные ошибки поиска по векторному сходству: тематическое сходство против актуальности задачи, проблемы с отрицанием и противоречиями, различия между запросом и встраиванием памяти, а также несовместимость между моделями встраивания. Далее рассматривается, что следует встраивать для эффективной памяти (сжатые, самодостаточные утверждения; ситуации/запросы эпизодов, а не результаты) и как включить семантический поиск в хранилище LangGraph с помощью индекса, который указывает, какие поля нужно встраивать. В заключение описывается процесс обновления предыдущего агента для использования индексированного поиска как фактов, так и эпизодов, подчеркивается практическая проблема, когда эпизоды не имеют индексированного поля, и приводятся ключевые выводы, а также задания для проверки того, как встраивания справляются с противоречиями, неаккуратным и сжатым текстом, а также с извлечением недавних и индексированных эпизодов. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.