Membunuh RAG: Aturan Enam Baris Menggantikan Retrieval-Augmented Generation sebagai Memori
BAAI
Seorang peneliti AI berpendapat bahwa RAG (Retrieval-Augmented Generation) pada dasarnya cacat sebagai mekanisme memori karena kemiripan vektor tidak sama dengan kebenaran temporal. Mereka mengusulkan aturan enam baris yang memprioritaskan versi fakta terbaru yang tidak terlupakan, memperlakukan waktu sebagai entitas kelas satu. Aturan tersebut, yang diimplementasikan dalam sistem Rust, menunjukkan akurasi lebih tinggi daripada pipeline neural dua tahap dengan bge-m3 dan gemma3 pada tes kontrafaktual.
Penulis mengklaim telah 'membunuh' RAG sebagai pendekatan memori, bukan sebagai metode pencarian, dengan mengidentifikasi substitusi: RAG menjawab 'apa yang mirip' tetapi bukan 'apa yang benar saat ini'. Dengan menggunakan contoh seseorang dengan tiga jabatan (insinyur, kepala kelompok, direktur), mereka menunjukkan bahwa kesamaan vektor memperlakukan semua versi secara setara, menyebabkan halusinasi. Solusinya adalah aturan enam baris yang memilih versi fakta terbaru yang tidak terlupakan (berdasarkan stempel waktu dan kunci fakta). Aturan ini merupakan bagian dari sistem Rust dengan modul untuk geometri (perkalian titik vektor), hnsw (tetangga terdekat perkiraan), dan jurnal (log append-only). Sistem ini juga mencakup 'penolakan jujur': jika pengetahuan terdekat melebihi ambang batas yang telah dikalibrasi (GEOLLM_THRESHOLD), sistem mengatakan 'Saya tidak tahu'. Dalam eksperimen pada MQUAKE-CF (400 kasus kontrafaktual), aturan enam baris mengungguli pipeline yang menggunakan encoder bge-m3 dan arbiter gemma3. Penulis menekankan bahwa aturan tersebut menghasilkan empat properti (versi, kesegaran, kelupaan, pandangan historis) secara gratis, dan penolakan sebagai properti kelima.
Sumber: Habr — хаб ИИ —
asli