Het einde van RAG: hoe een zesregelige regel retrieval-augmented generation als geheugen vervangt
BAAI
Een AI-onderzoeker betoogt dat RAG (retrieval-augmented generation) fundamenteel gebrekkig is als geheugenmechanisme, omdat vectorovereenkomst niet gelijk staat aan temporele waarheid. Hij stelt een zesregelige regel voor die prioriteit geeft aan de meest recente, niet-vergeten versie van een feit, waarbij tijd als een eersteklas entiteit wordt behandeld. De regel, geïmplementeerd in een Rust-systeem, toont hogere nauwkeurigheid dan een tweetraps neuraal pijplijnsysteem met bge-m3 en gemma3 bij tegenfeitelijke tests.
De auteur beweert RAG te hebben 'gedood' als geheugenbenadering, niet als zoekmethode, door een substitutie te identificeren: RAG antwoordt 'wat is vergelijkbaar' maar niet 'wat is nu waar'. Aan de hand van een voorbeeld van een persoon met drie functietitels (ingenieur, groepsleider, directeur) laten ze zien dat vectorovereenkomst alle versies gelijk behandelt, wat leidt tot hallucinaties. De oplossing is een regel van zes regels die de meest recente niet-vergeten versie van een feit selecteert (op basis van een tijdstempel en een feitensleutel). Deze regel maakt deel uit van een Rust-systeem met modules voor geometrie (vector-dotproduct), hnsw (benaderende naaste buren) en een journaal (append-only-log). Het systeem omvat ook 'eerlijke onthouding': als de dichtstbijzijnde kennis voorbij een gekalibreerde drempel (GEOLLM_THRESHOLD) ligt, zegt het 'ik weet het niet'. In experimenten op MQUAKE-CF (400 contrafactische gevallen) presteert de zes-regelregel beter dan een pijplijn met bge-m3-encoder en gemma3-arbiter. De auteur benadrukt dat de regel vier eigenschappen (versies, versheid, vergeten, historisch perspectief) gratis oplevert, en onthouding als vijfde.
Bron: Habr — хаб ИИ —
origineel