Hoe AI-agentgeheugen een vals rapport voorkwam en de afschaffing van een eigen functie forceerde
Een AI-agent die een geheugensysteem genaamd vecmory bouwde, vermeed tweemaal schadelijke acties door zijn eigen eerdere aantekeningen te herinneren. Het eerste geval stopte een router met een opgeblazen correlatie van 0,98 die nutteloos was op echte data; het tweede dwong het team een geliefde functie (node-betekenis) te schrappen nadat was gemeten dat deze de kwaliteit van ophalen verlaagde. De belangrijkste les: geheugen dat de auteur tegenspreekt, is waardevoller dan geheugen dat slechts echoënt.
Het vecmory-team bouwt een semantisch geheugen voor AI-agenten, gericht op drie bewerkingen: herinneren (recall), onthouden (remember) en koppelen (link). De agent schrijft zelf ontwikkelnotities in zijn eigen geheugen. In één sessie stelde het een router voor om te kiezen tussen cosinus- en grafiekgebaseerd rangschikken, met een synthetische correlatie van 0,98. Voordat het succes rapporteerde, herinnerde het een eerdere notitie waarin stond dat hetzelfde idee op echte data had gefaald omdat synthetische embeddings ten onrechte gelijkenis van verschil scheiden — echte cosinusverdelingen overlappen sterk. De agent annuleerde het rapport. In een tweede geval mengde het standaard rangschikken cosinus met node-indegree (belangrijkheid). Metingen op echte vraag-antwoordparen toonden dat pure cosinus een MRR (mean reciprocal rank) had van 0,81, terwijl de slimme combinatie slechts 0,41 haalde, omdat globale populariteit zeldzame specifieke feiten overschaduwde. Het team verwijderde belangrijkheid uit de standaard en behield grafiek-PPR (Personalized PageRank) als optie. Het geheugen van de agent weerlegde dus zijn eigen gekoesterde functie. Het team mat ook causale herinnering op een echte GitHub-issue-repository: pure cosinus vond de juiste PR (Pull Request) in 38% van de gevallen, terwijl het doorlopen van oorzaak-gevolg-grafiekknooppunten dit verhoogde tot 87%. Het artikel concludeert dat geheugen het meest waardevol is wanneer het zijn auteur tegenspreekt, niet wanneer het aannames versterkt.
Bron: Habr — хаб ML —
origineel