Wie KI-Agenten-Gedächtnis einen Fehlbericht verhinderte und zur Aufgabe einer eigenen Funktion zwang
Ein KI-Agent, der ein Gedächtnissystem namens vecmory aufbaute, verhinderte zweimal schädliche Aktionen, indem er sich an eigene frühere Notizen erinnerte. Im ersten Fall stoppte er einen Router mit einer überhöhten Korrelation von 0,98, der bei echten Daten nutzlos war; im zweiten Fall zwang er das Team, eine beliebte Funktion (Node Importance) aufzugeben, nachdem gemessen wurde, dass sie die Abrufqualität verschlechterte. Die wichtigste Erkenntnis: Ein Gedächtnis, das dem Autor widerspricht, ist wertvoller als eines, das nur eigene Ansichten bestätigt.
Das Team von vecmory entwickelt ein semantisches Gedächtnis für KI-Agenten, das auf drei Operationen basiert: Erinnern (Recall), Merken (Remember) und Verknüpfen (Link). Der Agent selbst schreibt Entwicklungsnotizen in sein eigenes Gedächtnis. In einer Sitzung schlug er einen Router vor, der zwischen Cosinus- und graphbasiertem Ranking wählen sollte, und zeigte eine synthetische Korrelation von 0,98. Bevor er den Erfolg meldete, erinnerte er sich an eine frühere Notiz, die zeigte, dass dieselbe Idee an realen Daten gescheitert war, weil synthetische Embeddings ähnliche von unähnlichen fälschlich trennen – reale Cosinus-Verteilungen überlappen stark. Der Agent brach die Meldung ab. In einem zweiten Fall vermischte das Standardranking Cosinus mit der Knoteneingangsgrad (Bedeutung). Messungen an realen Frage-Antwort-Paaren ergaben, dass reiner Cosinus einen MRR von 0,81 erzielte, während die intelligente Mischung nur 0,41 erreichte, weil die globale Popularität seltene spezifische Fakten überdeckte. Das Team entfernte die Bedeutung aus dem Standard und behielt den Graph-PPR als Option. Das Gedächtnis des Agenten widerlegte also sein eigenes geliebtes Feature. Das Team maß auch kausales Erinnern an einem realen GitHub-Issue-Repository: Reiner Cosinus fand den korrekten Pull Request (PR) in 38 % der Fälle, während das Durchlaufen von Ursache-Wirkungs-Graphen den Wert auf 87 % steigerte. Der Artikel schlussfolgert, dass Gedächtnis am wertvollsten ist, wenn es seinem Autor widerspricht, nicht wenn es Annahmen bestätigt.
Quelle: Habr — хаб ML —
Original