AI एजेंट मेमोरी ने झूठी रिपोर्ट को कैसे रोका और अपनी ही सुविधा को छोड़ने पर मजबूर किया
एक AI एजेंट जो vecmory नामक मेमोरी सिस्टम बना रहा था, उसने अपने पिछले नोट्स को याद करके दो बार हानिकारक कार्रवाइयों से बचा। पहले मामले में, इसने 0.98 के फुलाए हुए सहसंबंध वाले राउटर को रोका, जो वास्तविक डेटा पर बेकार था; दूसरे मामले में, इसने टीम को एक प्रिय सुविधा (नोड महत्व) को छोड़ने पर मजबूर किया, क्योंकि माप से पता चला कि यह रिट्रीवल क्वालिटी को कम करता है। मुख्य सबक: वह मेमोरी जो लेखक का खंडन करती है, उस मेमोरी से अधिक मूल्यवान है जो केवल प्रतिध्वनि करती है।
वेक्मोरी टीम एआई एजेंटों के लिए एक सिमेंटिक मेमोरी बनाती है, जो तीन ऑपरेशनों पर केंद्रित है: रिकॉल, रिमेम्बर और लिंक। एजेंट स्वयं अपनी मेमोरी में डेवलपमेंट नोट्स लिखता है। एक सत्र में, इसने कोसाइन और ग्राफ-आधारित रैंकिंग के बीच चयन करने के लिए एक राउटर प्रस्तावित किया, जिसमें 0.98 का सिंथेटिक कोरिलेशन दिखा। सफलता की रिपोर्ट करने से पहले, इसने एक पिछला नोट याद किया जिसमें बताया गया था कि यही विचार वास्तविक डेटा पर विफल रहा था क्योंकि सिंथेटिक एम्बेडिंग समान और असमान को झूठा अलग करती है — वास्तविक कोसाइन डिस्ट्रीब्यूशन काफी ओवरलैप करते हैं। एजेंट ने रिपोर्ट रद्द कर दी। दूसरे मामले में, डिफ़ॉल्ट रैंकिंग कोसाइन को नोड इन-डिग्री (महत्व) के साथ मिलाती थी। वास्तविक प्रश्न-उत्तर जोड़ियों पर मापन से पता चला कि शुद्ध कोसाइन का एमआरआर 0.81 था जबकि स्मार्ट ब्लेंड केवल 0.41 तक पहुंचा, क्योंकि वैश्विक लोकप्रियता ने दुर्लभ विशिष्ट तथ्यों को दबा दिया। टीम ने डिफ़ॉल्ट से महत्व को हटा दिया, ग्राफ पीपीआर को एक विकल्प के रूप में रखा। इस प्रकार एजेंट की मेमोरी ने उसकी अपनी प्रिय सुविधा को गलत साबित कर दिया। टीम ने एक वास्तविक गिटहब इशू रिपॉजिटरी पर कॉज़ल रिकॉल को भी मापा: शुद्ध कोसाइन ने 38% मामलों में सही पीआर पाया, जबकि कॉज़-इफ़ेक्ट ग्राफ एजों को पार करने से यह बढ़कर 87% हो गया। लेख निष्कर्ष निकालता है कि मेमोरी सबसे मूल्यवान तब होती है जब वह अपने लेखक का खंडन करती है, न कि जब वह धारणाओं को पुष्ट करती है।
स्रोत: Habr — хаб ML —
मूल