Eliminando RAG: Cómo una regla de seis líneas reemplaza a la generación aumentada por recuperación como memoria
BAAI
Un investigador de IA argumenta que RAG (generación aumentada por recuperación) es fundamentalmente defectuoso como mecanismo de memoria porque la similitud vectorial no equivale a la verdad temporal. Propone una regla de seis líneas que prioriza la versión más reciente sin olvidar de un hecho, tratando el tiempo como una entidad de primera clase. La regla, implementada en un sistema Rust, demuestra una mayor precisión que un pipeline neuronal de dos etapas con bge-m3 y gemma3 en pruebas contrafactuales.
El autor afirma haber 'matado' a RAG como enfoque de memoria, no como método de búsqueda, al identificar una sustitución: RAG responde 'qué es similar' pero no 'qué es verdad ahora'. Usando el ejemplo de una persona con tres títulos laborales (ingeniero, jefe de grupo, director), demuestran que la similitud vectorial trata todas las versiones por igual, lo que lleva a alucinaciones. La solución es una regla de seis líneas que selecciona la versión más reciente no olvidada de un hecho (basada en una marca de tiempo y una clave de hecho). Esta regla forma parte de un sistema en Rust con módulos para geometría (producto punto de vectores), hnsw (vecino más cercano aproximado) y un diario (registro de solo añadir). El sistema también incluye 'abstención honesta': si el conocimiento más cercano está más allá de un umbral calibrado (GEOLLM_THRESHOLD), dice 'no sé'. En experimentos con MQUAKE-CF (400 casos contrafactuales), la regla de seis líneas supera a un pipeline que usa el codificador bge-m3 y el árbitro gemma3. El autor enfatiza que la regla produce cuatro propiedades (versiones, frescura, olvido, vista histórica) de forma gratuita, y la abstención como una quinta propiedad.
Fuente: Habr — хаб ИИ —
original