Neden hafızasız bir yapay zeka ajanı pahalı bir hesap makinesidir: kalıcı bellek inşa etmek

Cloud.ru'da Evolution AI Agents ürününün teknik lideri Vladislav Yankovsky, yapay zeka ajanları için kalıcı bellek oluşturma konusunu ele alıyor. Belleğin kendi başına değil, işlevsel gereksinimlerin bir sonucu olarak gerekli olduğunu belirtiyor: eğer bir ajan oturumlar arasında bellek olmadan çalışabiliyorsa, belleğe ihtiyaç yoktur. Grafana için bellek gerektirmeyen bir ajan ile bellek olmazsa olmaz olan L2 destek ajanını örnek veriyor. Model penceresindeki bağlam ile model dışındaki belleği birbirinden ayırıyor ve belleğin iki boyutunu tanımlıyor: yaşam süresi (kısa süreli, çalışan, uzun süreli) ve içerik türü (anlamsal, epizodik, prosedürel). Vakaların %80'inde kısa süreli ve uzun süreli anlamsal bellek kombinasyonu yeterlidir. Bellek seviyelerini açıklıyor: seviye 0 - konuşma geçmişinin basitçe saklanması; kopyalar ve birleştirme eksikliği nedeniyle yetersiz; seviye 1 - pgvector, Qdrant, Milvus, Pinecone kullanan vektör arama; seviye 2 - SQL ve grafiklerle yapılandırılmış bellek, örneğin Graphiti. Ana hata ham konuşmaları saklamaktır; doğru olan, gerçekleri çıkarmak ve kaynaklar ile çıkarılan verilerle iki katmanlı bir modeli desteklemektir.