Tuer le RAG : comment une règle de six lignes remplace la génération augmentée par récupération comme mémoire
BAAI
Un chercheur en IA soutient que le RAG (génération augmentée par récupération) est fondamentalement défectueux en tant que mécanisme de mémoire, car la similarité vectorielle n'égale pas la vérité temporelle. Il propose une règle de six lignes qui privilégie la version la plus récente non oubliée d'un fait, traitant le temps comme une entité de première classe. La règle, implémentée dans un système Rust, démontre une précision supérieure à celle d'un pipeline neuronal à deux étages avec bge-m3 et gemma3 sur des tests contrefactuels.
L'auteur affirme avoir « tué » le RAG en tant qu'approche de mémoire, mais pas en tant que méthode de recherche, en identifiant une substitution : le RAG répond à « ce qui est similaire » mais pas à « ce qui est vrai maintenant ». En prenant l'exemple d'une personne ayant trois titres de poste (ingénieur, chef de groupe, directeur), il montre que la similarité vectorielle traite toutes les versions de manière égale, ce qui conduit à des hallucinations. La solution est une règle de six lignes qui sélectionne la version la plus récente non oubliée d'un fait (basée sur un horodatage et une clé de fait). Cette règle fait partie d'un système en Rust avec des modules pour la géométrie (produit scalaire vectoriel), hnsw (plus proche voisin approximatif) et un journal (journal d'ajouts uniquement). Le système inclut également une « abstention honnête » : si la connaissance la plus proche est au-delà d'un seuil calibré (GEOLLM_THRESHOLD), il dit « je ne sais pas ». Dans des expériences sur MQUAKE-CF (400 cas contrefactuels), la règle de six lignes surpasse un pipeline utilisant l'encodeur bge-m3 et l'arbitre gemma3. L'auteur souligne que la règle offre quatre propriétés (versions, fraîcheur, oubli, vue historique) gratuitement, et l'abstention comme cinquième.
Source: Habr — хаб ИИ —
original