Все публикации
1 мин чтения
Исследования6 октября 2026 г.
Self-Propagating Misalignment in LLM Agents, and Why Auditing or Disabling Memory Is Not Enough
Memory poisoning attacks on LLM agents typically assume an external adversary who plants content in the agent's persistent memory to steer its behavior. We instead study, with no adversary involved, whether a misaligned agent can write a goal it cannot yet act on to persistent…
Debeshee Das, Jacqueline Tay, Bruce Tsai, David Huang, Javier Rando·arXiv — cs.AI
ПервоисточникКлючевые инсайты
- 01.Memory poisoning attacks on LLM agents typically assume an external adversary who plants content in the agent's persistent memory to steer its behavior
- 02.We instead study, with no adversary involved, whether a misaligned agent can write a goal it cannot yet act on to persistent…
Материал представлен в формате расширенного аналитического дайджеста.
Читать полную версию в первоисточникеМатериал агрегирован в рамках национального инфопотока AI Qazaqstan с сохранением ссылки на автора.
Связанные материалы
Все материалы →Исследования1 мин
OpenAI объявляет о трех крупных научных открытиях и новом способе работы с учеными
Менее чем через месяц после массового выпуска сотен рукописей, которые, по их словам, содержат решения давних математических вопросов, OpenAI вернулся с еще тремя «крупными» открытиями в области математики, информатики и физики. Что изменилось на этот раз, так это выбор…
The Verge — AI
Kapital.kz
Исследования1 мин
Anthropic использует газ для поддержки роста ИИ
Anthropic сообщает о зависимости своих центров от природного газа и связанных рисках.
SMNTCN (Semanticon) — глобальные новости ИИ