Почему ИИ-агент без памяти — это дорогой калькулятор. Строим персистентную память
Cloud.ru
Владислав Янковский из Cloud.ru объясняет, почему ИИ-агентам нужна персистентная память, и разбирает уровни памяти: от простого хранения истории до структурированных фактов. Он советует начинать с pgvector и подчеркивает важность извлечения фактов, а не хранения сырых сообщений.
क्लाउड.रु में इवोल्यूशन एआई एजेंट्स उत्पाद के तकनीकी प्रमुख व्लादिस्लाव यान्कोव्स्की एआई एजेंटों के लिए स्थायी मेमोरी बनाने के बारे में बताते हैं। वे नोट करते हैं कि मेमोरी अपने आप में ज़रूरी नहीं है, बल्कि कार्यात्मक आवश्यकताओं के परिणामस्वरूप होती है: यदि एजेंट सत्रों के बीच मेमोरी के बिना काम कर सकता है, तो उसकी ज़रूरत नहीं है। वे ग्राफ़ाना के लिए एजेंट का उदाहरण देते हैं, जिसे मेमोरी की ज़रूरत नहीं है, और L2 सपोर्ट एजेंट का, जिसके लिए यह महत्वपूर्ण है। वे संदर्भ (मॉडल विंडो में) और मेमोरी (मॉडल के बाहर) के बीच अंतर करते हैं, और मेमोरी के दो आयाम: जीवनकाल (अल्पकालिक, कार्यशील, दीर्घकालिक) और सामग्री प्रकार (सिमेंटिक, एपिसोडिक, प्रोसीजरल)। 80% मामलों में, अल्पकालिक और दीर्घकालिक सिमेंटिक का संयोजन पर्याप्त होता है। वे मेमोरी स्तरों का वर्णन करते हैं: स्तर 0 — संवाद इतिहास का सरल भंडारण, जो डुप्लिकेट और समेकन की कमी के कारण अपर्याप्त है; स्तर 1 — pgvector, Qdrant, Milvus, Pinecone का उपयोग करके वेक्टर खोज; स्तर 2 — SQL और ग्राफ़ के साथ संरचित मेमोरी, जैसे Graphiti। प्रमुख गलती कच्ची प्रतिक्रियाओं को सहेजना है, सही तरीका तथ्यों को निकालना और स्रोतों और निकाले गए डेटा के साथ दो-परत मॉडल बनाए रखना है।
स्रोत: Habr — хаб ИИ —
मूल