كيف منعت ذاكرة وكيل الذكاء الاصطناعي تقريرًا كاذبًا وأجبرت على التخلي عن خاصيته الخاصة

يبني فريق vecmory ذاكرة دلالية للوكلاء الذكاء الاصطناعي، تركز على ثلاث عمليات: الاسترجاع، والتذكر، والربط. يكتب الوكيل نفسه ملاحظات التطوير في ذاكرته الخاصة. في جلسة واحدة، اقترح موجهًا للاختيار بين التصنيف المعتمد على جيب التمام والتصنيف المعتمد على الرسم البياني، مما أظهر ارتباطًا تركيبيًا بلغ 0.98. قبل الإبلاغ عن النجاح، استرجع ملاحظة سابقة كشفت أن الفكرة نفسها فشلت على بيانات حقيقية لأن التضمينات التركيبية تفصل زورًا بين المتشابه والمختلف — حيث تتداخل توزيعات جيب التمام الحقيقية بشكل كبير. ألغى الوكيل التقرير. في حالة ثانية، قام التصنيف الافتراضي بخلط جيب التمام مع درجة العقدة (الأهمية). أظهرت القياسات على أزواج أسئلة-إجابة حقيقية أن جيب التمام الخالص حقق متوسط ترتيب متبادل (MRR) قدره 0.81 بينما حقق المزيج الذكي 0.41 فقط، لأن الشعبية العالمية طغت على الحقائق النادرة المحددة. أزال الفريق الأهمية من الإعدادات الافتراضية، مع إبقاء خيار التصنيف المعتمد على الانتشار الشخصي (PPR) كخيار. وهكذا، دحضت ذاكرة الوكيل ميزتها العزيزة. كما قام الفريق بقياس الاسترجاع السببي على مستودع حقيقي لمشكلات GitHub: وجد جيب التمام الخالص طلب السحب الصحيح في 38% من الحالات، بينما رفع التنقل عبر حواف الرسم البياني للسبب والنتجة ذلك إلى 87%. تخلص المقالة إلى أن الذاكرة تكون أكثر قيمة عندما تتناقض مع مؤلفها، وليس عندما تعزز الافتراضات.