ما تفتقر إليه روبوتات المحادثة القائمة على نموذج اللغة الكبير: الإحساس بالهدف

تتحسن روبوتات المحادثة المدعومة بنماذج اللغة الكبيرة باستمرار، لكن تقدمها يُقاس بمعايير مثل MMLU وHumanEval وMATH، التي تختبر الردود لمرة واحدة. ومع ذلك، تتطلب المهام الواقعية مثل التخطيط للسفر أو أتمتة مشكلات GitHub حوارًا متعدد الجولات مع تحسين المتطلبات. أظهر الباحثون أنه حتى النماذج المتقدمة مثل LLaMA2-chat-70B وGPT-3.5-turbo-16k تفقد الالتزام بموجه النظام بعد حوالي 1600 رمز (حوالي 16 جولة). وهذا ما تؤكده تجربة تواصل فيها وكيلان من نماذج اللغة الكبيرة مع بعضهما البعض، ثم تم التحقق من مدى اتباع كل منهما لتعليماته. المشكلة هي أن التدريب عبر التعلم التعزيزي من التغذية الراجعة البشرية لا يأخذ في الاعتبار التخطيط متعدد الخطوات—فهو يحسن الردود لمرة واحدة بدلاً من الأهداف طويلة المدى. يقترح المؤلف نهج "الحوار الموجه بالهدف"، حيث يعمل روبوت المحادثة كمساعد يوضح نوايا المستخدم تدريجيًا. تشمل أمثلة هذه الأنظمة "الحوار الموجه نحو الحل" ومنصة Sotopia، التي تصمم اتخاذ القرار التعاوني. لإنشاء مساعدين حقيقيين، لا نحتاج فقط إلى توليد النص، بل إلى تصميم الحوارات كألعاب موجهة بالهدف، حيث يغير كل قول نموذج العالم للمحاور.