RAG'ı Öldürmek: Altı Satırlık Kural, Bellek Olarak Retrieval-Augmented Generation'ın Yerini Nasıl Alıyor
BAAI
Bir yapay zeka araştırmacısı, Retrieval-Augmented Generation'ın (RAG) bir bellek mekanizması olarak temelde hatalı olduğunu çünkü vektör benzerliğinin zamansal gerçekliğe eşit olmadığını savunuyor. Zamanı birinci sınıf bir varlık olarak ele alan, bir gerçeğin en son unutulmamış sürümüne öncelik veren altı satırlık bir kural öneriyorlar. Rust sisteminde uygulanan kural, karşı olgusal testlerde bge-m3 ve gemma3 içeren iki aşamalı sinirsel hattan daha yüksek doğruluk gösteriyor.
Yazar, RAG'ı bir bellek yaklaşımı olarak 'öldürdüğünü', ancak bir arama yöntemi olarak öldürmediğini iddia ediyor; bir ikame tespit ederek: RAG 'neyin benzer olduğunu' yanıtlıyor ama 'şu an neyin doğru olduğunu' değil. Üç iş unvanına (mühendis, grup lideri, müdür) sahip bir kişi örneğini kullanarak, vektör benzerliğinin tüm sürümleri eşit şekilde ele aldığını ve bunun halüsinasyonlara yol açtığını gösteriyorlar. Çözüm, bir gerçeğin en son unutulmamış sürümünü (zaman damgasına ve bir fact_key'e dayanarak) seçen altı satırlık bir kuraldır. Bu kural, geometri (vektör iç çarpımı), hnsw (yaklaşık en yakın komşu) ve bir günlük (yalnızca eklenebilir log) modülleri olan bir Rust sisteminin parçasıdır. Sistem ayrıca 'dürüst çekimserlik' içerir: en yakın bilgi kalibre edilmiş bir eşiğin (GEOLLM_THRESHOLD) ötesindeyse, 'Bilmiyorum' der. MQUAKE-CF (400 kontrgerçek durum) üzerinde yapılan deneylerde, altı satırlık kural, bge-m3 kodlayıcı ve gemma3 hakem kullanan bir boru hattından daha iyi performans gösterir. Yazar, kuralın dört özelliği (sürümler, tazelik, unutma, tarihsel görünüm) bedavaya getirdiğini ve beşinci olarak çekimserliği vurgular.
Kaynak: Habr — хаб ИИ —
orijinal