Практическое руководство по памяти для автономных агентов LLM

В последние годы я работал с распределенной системой многопользовательских агентов, используя OpenClaw и AWS AgentCore. В моем проекте OpenClaw есть исследовательский агент, писатель, симуляционный движок и несколько других компонентов. Они работают асинхронно, передают контекст через общие файлы и поддерживают состояние на протяжении дней и недель. Однако, когда я интегрирую другие системы, такие как Claude Code, управление, память и состояние становятся сложными задачами. Я пришел к выводу, что ключевым элементом работы этих агентов является не выбор модели, а архитектура памяти.

Недавно я наткнулся на статью «Память для автономных агентов LLM: механизмы, оценка и новые горизонты», которая подтвердила мои наблюдения. В ней утверждается, что разница между агентами с памятью и без нее гораздо значительнее, чем между разными моделями LLM. Это важное замечание, так как многие специалисты уделяют слишком много внимания выбору модели, забывая о памяти.

Статья описывает память агента в контексте частично наблюдаемого марковского процесса (POMDP), где память функционирует как состояние убеждений агента о частично наблюдаемом мире. Это означает, что агент не может видеть все, поэтому он создает и поддерживает внутреннюю модель реальности. Неправильное управление памятью приводит к ухудшению качества решений.

Память агента характеризуется циклом «запись-управление-чтение». Запись подразумевает введение новой информации, управление включает поддержание и упрощение памяти, а чтение — извлечение актуальной информации. Множество реализаций успешно справляются с записью и чтением, но забывают о управлении, что приводит к накоплению ненужной информации и ухудшению качества контекста.

Статья выделяет четыре временных аспекта памяти: рабочую память, эпизодическую память, семантическую память и процедурную память. Рабочая память — это контекстный окно, которое быстро заполняется, что может привести к игнорированию важной информации. Эпизодическая память фиксирует последовательность событий, что позволяет агентам анализировать прошлый опыт. Семантическая память отвечает за сохранение обобщенных знаний, а процедурная память — за навыки и поведенческие паттерны. Каждая из этих категорий играет важную роль в эффективности агентов.