Vì sao tác nhân AI thiếu bộ nhớ chỉ là máy tính đắt tiền. Xây dựng bộ nhớ bền vững
Cloud.ru
Vladislav Yankovskiy từ Cloud.ru giải thích vì sao các tác nhân AI cần bộ nhớ bền vững và phân tích các cấp độ bộ nhớ: từ lưu trữ lịch sử đơn giản đến các sự kiện có cấu trúc. Ông khuyên nên bắt đầu với pgvector và nhấn mạnh tầm quan trọng của việc trích xuất sự kiện thay vì lưu trữ tin nhắn thô.
Техлид продукту Evolution AI Agents у Cloud.ru Владислав Янковський розповідає про побудову персистентної пам'яті для ІІ-агентів. Він зазначає, що пам'ять потрібна не сама по собі, а як наслідок функціональних вимог: якщо агент може працювати без пам'яті між сесіями, то вона не потрібна. Наводить приклад агента для Grafana, якому пам'ять не потрібна, і агента підтримки L2, якому вона критична. Розрізняє контекст (у вікні моделі) та пам'ять (поза моделлю), а також два виміри пам'яті: термін життя (короткострокова, робоча, довгострокова) та тип вмісту (семантична, епізодична, процедурна). У 80% випадків достатньо зв'язки короткострокової та довгострокової семантичної. Описує рівні пам'яті: рівень 0 — просте зберігання історії діалогу, недостатнє через дублікати та відсутність консолідації; рівень 1 — векторний пошук з використанням pgvector, Qdrant, Milvus, Pinecone; рівень 2 — структурована пам'ять з SQL та графами, наприклад Graphiti. Ключова помилка — зберігати сирі репліки, правильно — витягувати факти та підтримувати дворівневу модель з джерелами та витягнутими даними.
Nguồn: Habr — хаб ИИ —
bản gốc
