Killing RAG: Quy tắc sáu dòng thay thế Retrieval-Augmented Generation làm bộ nhớ
BAAI
Một nhà nghiên cứu AI lập luận rằng RAG (Retrieval-Augmented Generation) về cơ bản là sai lầm như một cơ chế bộ nhớ vì độ tương tự vector không tương đương với sự thật thời gian. Họ đề xuất một quy tắc sáu dòng ưu tiên phiên bản gần nhất chưa bị quên của một sự kiện, coi thời gian như một thực thể hạng nhất. Quy tắc này, được triển khai trong hệ thống Rust, cho thấy độ chính xác cao hơn so với pipeline thần kinh hai giai đoạn với bge-m3 và gemma3 trong các bài kiểm tra phản thực tế.
Tác giả tuyên bố đã 'khai tử' RAG như một phương pháp ghi nhớ, chứ không phải như một phương pháp tìm kiếm, bằng cách xác định một sự thay thế: RAG trả lời 'cái gì tương tự' chứ không phải 'cái gì đúng hiện tại'. Sử dụng ví dụ về một người có ba chức danh công việc (kỹ sư, tổ trưởng, giám đốc), họ chỉ ra rằng độ tương tự vector đối xử với tất cả các phiên bản như nhau, dẫn đến ảo giác. Giải pháp là một quy tắc sáu dòng chọn phiên bản mới nhất không bị lãng quên của một sự kiện (dựa trên dấu thời gian và khóa sự kiện). Quy tắc này là một phần của hệ thống Rust với các mô-đun cho hình học (tích vô hướng vector), hnsw (tìm kiếm lân cận gần đúng), và nhật ký (nhật ký chỉ nối thêm). Hệ thống cũng bao gồm 'từ chối trung thực': nếu kiến thức gần nhất vượt quá ngưỡng hiệu chuẩn (GEOLLM_THRESHOLD), nó nói 'tôi không biết'. Trong các thử nghiệm trên MQUAKE-CF (400 trường hợp phản thực tế), quy tắc sáu dòng vượt trội hơn so với một pipeline sử dụng bộ mã hóa bge-m3 và trọng tài gemma3. Tác giả nhấn mạnh rằng quy tắc mang lại bốn thuộc tính (phiên bản, độ tươi, sự lãng quên, chế độ xem lịch sử) miễn phí, và sự từ chối như thuộc tính thứ năm.
Nguồn: Habr — хаб ИИ —
bản gốc