Killt RAG: Wie eine Sechs-Zeilen-Regel Retrieval-Augmented Generation als Gedächtnis ersetzt
BAAI
Ein KI-Forscher argumentiert, dass RAG (Retrieval-Augmented Generation) als Gedächtnismechanismus grundlegend fehlerhaft ist, weil Vektorähnlichkeit nicht zeitlicher Wahrheit entspricht. Er schlägt eine Sechs-Zeilen-Regel vor, die die neueste, nicht vergessene Version einer Tatsache priorisiert und Zeit als erstklassige Entität behandelt. Die Regel, implementiert in einem Rust-System, zeigt auf kontrafaktischen Tests eine höhere Genauigkeit als eine zweistufige neuronale Pipeline mit bge-m3 und gemma3.
Der Autor behauptet, RAG als Gedächtnisansatz 'getötet' zu haben, nicht jedoch als Suchmethode, indem er eine Substitution identifizierte: RAG beantwortet, 'was ähnlich ist', aber nicht 'was jetzt wahr ist'. Anhand eines Beispiels einer Person mit drei Berufsbezeichnungen (Ingenieur, Gruppenleiter, Direktor) zeigt er, dass Vektorähnlichkeit alle Versionen gleich behandelt, was zu Halluzinationen führt. Die Lösung ist eine sechszeilige Regel, die die neueste nicht vergessene Version einer Tatsache auswählt (basierend auf einem Zeitstempel und einem fact_key). Diese Regel ist Teil eines Rust-Systems mit Modulen für Geometrie (Vektorpunktprodukt), hnsw (approximativer nächster Nachbar) und ein Journal (append-only Log). Das System enthält auch 'ehrliche Enthaltung': Wenn das nächste Wissen über einer kalibrierten Schwelle liegt (GEOLLM_THRESHOLD), sagt es 'Ich weiß es nicht'. In Experimenten auf MQUAKE-CF (400 kontrafaktische Fälle) übertrifft die sechszeilige Regel eine Pipeline mit bge-m3-Encoder und gemma3-Schiedsrichter. Der Autor betont, dass die Regel vier Eigenschaften (Versionen, Frische, Vergessen, historische Sicht) kostenlos liefert und Enthaltung als fünfte.
Quelle: Habr — хаб ИИ —
Original