За счет рефлексивного использования накапливаемого опыта долговременная память в LLM-ориентированных мультиагентных системах повышает качество принимаемых решений и устойчивость поведения. Однако совмещение инстукций, данных и извлеченных фрагментов памяти в одном контекстном окне создает уязвимую поверхность атаки: злоумышленник может спровоцировать раскрытие содержимого памяти (memory extraction), внедрить косвенные инструкции (prompt-injection) или отравить общий слой знаний, изменив тем самым поведение агентов в дальнейшем. На практике риск увеличивается в архитектурах, где агенты делят общий репозиторий, потому как даже единичная утечка или вредоносная запись может масштабироваться на всю систему.

Колбеев А.Р. (науч. рук. Петровский А.В.) Риск-ориентированное проектирование гибридной памяти llm-агентов с кристаллизацией: модель угроз и валидация контрмер // Сборник тезисов докладов конгресса молодых ученых. Электронное издание. – СПб: Университет ИТМО, [2026]. URL: https://kmu.itmo.ru/digests/article/16478