Warum ein KI-Agent ohne Gedächtnis nur ein teurer Taschenrechner ist: Aufbau persistenter Speicherung

Владislav Jankowski, Technical Lead des Produkts Evolution AI Agents bei Cloud.ru, spricht über den Aufbau eines persistenten Gedächtnisses für KI-Agenten. Er betont, dass das Gedächtnis nicht an sich benötigt wird, sondern als Folge funktionaler Anforderungen: Wenn ein Agent ohne Gedächtnis zwischen den Sitzungen arbeiten kann, ist es nicht erforderlich. Er führt ein Beispiel für einen Agenten für Grafana an, dem kein Gedächtnis benötigt wird, und einen L2-Support-Agenten, für den es kritisch ist. Er unterscheidet zwischen Kontext (im Fenster des Modells) und Gedächtnis (außerhalb des Modells) sowie zwei Dimensionen des Gedächtnisses: Lebensdauer (short-term, working, long-term) und Art des Inhalts (semantic, episodic, procedural). In 80 % der Fälle reicht eine Kombination aus Short-term und Long-term Semantic aus. Er beschreibt die Ebenen des Gedächtnisses: Ebene 0 – einfache Speicherung des Dialogverlaufs, unzureichend aufgrund von Duplikaten und fehlender Konsolidierung; Ebene 1 – Vektorsuche mit pgvector, Qdrant, Milvus, Pinecone; Ebene 2 – strukturiertes Gedächtnis mit SQL und Graphen, zum Beispiel Graphiti. Der Hauptfehler ist, rohe Äußerungen zu speichern, richtig ist es, Fakten zu extrahieren und ein zweischichtiges Modell mit Quellen und extrahierten Daten zu pflegen.