Убивая RAG: как правило из шести строк заменяет генерацию с дополненной выборкой в качестве памяти
Исследователь в области ИИ утверждает, что RAG (Retrieval-Augmented Generation) принципиально ошибочен как механизм памяти, потому что векторное сходство не равно временной истине. Они предлагают правило из шести строк, которое отдает приоритет самой последней незабытой версии факта, рассматривая время как сущность первого класса. Правило, реализованное в системе на Rust, демонстрирует более высокую точность, чем двухэтапный нейронный конвейер с bge-m3 и gemma3, на контрафактических тестах.
Автор утверждает, что «убил» RAG как подход к памяти, а не как метод поиска, выявив замену: RAG отвечает на вопрос «что похоже», но не на вопрос «что верно сейчас». На примере человека с тремя должностями (инженер, руководитель группы, директор) они показывают, что векторное сходство считает все версии одинаковыми, что приводит к галлюцинациям. Решение — правило из шести строк, которое выбирает
Показать ещё ↓
Источник: Habr — хаб ИИ —
оригинал