لماذا لن يجعل نموذج لغوي كبير مثالي الأنظمة الوكيلة قابلة للتنبؤ

تستعرض المقالة عدم القدرة على التنبؤ بالأنظمة متعددة الوكلاء القائمة على نماذج اللغة الكبيرة (LLM) حتى في غياب الهلوسة. أجرى المؤلف تجربة باستخدام نموذج Qwen Instruct 30B عند درجة حرارة صفر: لثمانية أسئلة متشابهة حول حتمية نماذج اللغة الكبيرة، أعطى النموذج إجابتين متعارضتين، على الرغم من أن كل استعلام فردي كان يتكرر بشكل متطابق. كان التشابه الدلالي للأسئلة، المُقاس عبر مقياس BAAI/bge-m3، يتراوح بين 0.30 و0.39، مما يعني أنها لا يمكن تمييزها عمليًا بالنسبة للمستخدم. بعد ذلك، يحاكي المؤلف سلوك سلسلة من الوكلاء باستخدام خريطة لوجستية — وهي تحويل غير خطي للحالات. مع القيم الأولية المقابلة للتشابه الدلالي، تتباعد المسارات بشكل فوضوي بحلول الخطوة 15، على الرغم من أن كل خطوة حتمية. الخلاصة: القدرة على التنبؤ بوكيل فردي لا تضمن القدرة على التنبؤ بالتركيبة بسبب اللاخطية وتراكم الأخطاء. تشمل التوصيات العملية تحديد طول السلاسل المتسلسلة، وإدخال نقاط تحقق، واستخدام هياكل متوازية، واختبار خط الأنابيب على مدخلات متشابهة دلاليًا.