RAG को खत्म करना: कैसे छह-पंक्ति का नियम रिट्रीवल-ऑगमेंटेड जनरेशन को मेमोरी के रूप में बदल देता है
BAAI
एक AI शोधकर्ता का तर्क है कि RAG (रिट्रीवल-ऑगमेंटेड जनरेशन) एक मेमोरी तंत्र के रूप में मौलिक रूप से त्रुटिपूर्ण है क्योंकि वेक्टर समानता अस्थायी सत्य के बराबर नहीं होती है। वे एक छह-पंक्ति का नियम प्रस्तावित करते हैं जो किसी तथ्य के सबसे हालिया, भूला-न-गया संस्करण को प्राथमिकता देता है, समय को प्रथम श्रेणी की इकाई मानता है। रस्ट सिस्टम में लागू यह नियम, काउंटरफैक्चुअल परीक्षणों पर bge-m3 और gemma3 के साथ दो-चरणीय न्यूरल पाइपलाइन की तुलना में उच्च सटीकता प्रदर्शित करता है।
लेखक का दावा है कि उन्होंने RAG को एक मेमोरी दृष्टिकोण के रूप में 'खत्म' कर दिया है, न कि एक खोज विधि के रूप में, एक प्रतिस्थापन की पहचान करके: RAG 'क्या समान है' का उत्तर देता है, लेकिन 'अभी क्या सच है' का नहीं। तीन नौकरी शीर्षकों (इंजीनियर, ग्रुप लीडर, निदेशक) वाले एक व्यक्ति के उदाहरण का उपयोग करते हुए, वे दिखाते हैं कि वेक्टर समानता सभी संस्करणों को समान रूप से मानती है, जिससे मतिभ्रम होता है। समाधान एक छह-पंक्ति का नियम है जो किसी तथ्य के सबसे हालिया, गैर-भूला हुआ संस्करण का चयन करता है (टाइमस्टैम्प और fact_key के आधार पर)। यह नियम एक Rust प्रणाली का हिस्सा है जिसमें ज्यामिति (वेक्टर डॉट उत्पाद), hnsw (अनुमानित निकटतम पड़ोसी), और एक जर्नल (एपेंड-ओनली लॉग) के लिए मॉड्यूल हैं। प्रणाली में 'ईमानदार परहेज़' भी शामिल है: यदि निकटतम ज्ञान एक कैलिब्रेटेड थ्रेशोल्ड (GEOLLM_THRESHOLD) से परे है, तो यह कहता है 'मुझे नहीं पता'। MQUAKE-CF (400 प्रतितथ्यात्मक मामलों) पर प्रयोगों में, छह-पंक्ति का नियम bge-m3 एन्कोडर और gemma3 मध्यस्थ का उपयोग करने वाली पाइपलाइन से बेहतर प्रदर्शन करता है। लेखक जोर देते हैं कि यह नियम चार गुण (संस्करण, ताजगी, विस्मृति, ऐतिहासिक दृष्टिकोण) मुफ्त में देता है, और परहेज़ पाँचवाँ गुण है।
स्रोत: Habr — хаб ИИ —
मूल