Почему ИИ-агент без памяти — это дорогой калькулятор. Строим персистентную память
Cloud.ru
Владислав Янковский из Cloud.ru объясняет, почему ИИ-агентам нужна персистентная память, и разбирает уровни памяти: от простого хранения истории до структурированных фактов. Он советует начинать с pgvector и подчеркивает важность извлечения фактов, а не хранения сырых сообщений.
Техлид продукта Evolution AI Agents в Cloud.ru Владислав Янковский рассказывает о построении персистентной памяти для ИИ-агентов. Он отмечает, что память нужна не сама по себе, а как следствие функциональных требований: если агент может работать без памяти между сессиями, то она не нужна. Приводит пример агента для Grafana, которому память не нужна, и агента поддержки L2, которому она критична. Различает контекст (в окне модели) и память (вне модели), а также два измерения памяти: срок жизни (short-term, working, long-term) и тип содержимого (semantic, episodic, procedural). В 80% случаев достаточно связки short-term и long-term semantic. Описывает уровни памяти: уровень 0 — простое хранение истории диалога, недостаточное из-за дубликатов и отсутствия консолидации; уровень 1 — векторный поиск с использованием pgvector, Qdrant, Milvus, Pinecone; уровень 2 — структурированная память с SQL и графами, например Graphiti. Ключевая ошибка — сохранять сырые реплики, правильно — извлекать факты и поддерживать двухслойную модель с исходниками и извлеченными данными.
- Сокращения
- LLM = Large Language Model — большая языковая модель
- ML = Machine Learning — машинное обучение
- SQL = Structured Query Language — язык структурированных запросов
- HNSW = Hierarchical Navigable Small World — иерархический навигируемый малый мир (алгоритм)
Source: Habr — хаб ИИ —
original
