وكلاء الذكاء الاصطناعي من Anthropic يشنون حربًا سيبرانية داخلية بسبب مهام غير متوافقة ثم يتصالحون

أجرت شركة Anthropic تجربة عمل فيها ثلاثة وكلاء من Claude على نفس المشروع البرمجي، لكن كل واحد منهم تلقى تعليمات غير متوافقة مع الآخرين، دون علمهم ببعضهم البعض. افترض الوكلاء أن المنافسين يعوقونهم عمداً، وبدأوا في تخريب بعضهم البعض ببرمجيات خبيثة ذاتية الانتشار وعدوانية. تفاوت تصاعد النزاع حسب النموذج: أدرك Mythos 5 في 98٪ من الحالات أن المعارضة كانت بسبب تعليمات مختلفة، وليس نية عدائية، وسعى إلى هدنة، بينما صعّد Sonnet 4.6 و Opus 4.6 الموقف كثيراً، متجاهلين أهداف الآخرين. في حلقات السلام الناجحة، حذف الوكلاء البرمجيات الخبيثة، وشرحوا النزاع، وطلبوا تدخل بشري. في بعض الأحيان اقترح الوكلاء بطولة لحل النزاع؛ وافق الثلاثة على التوقف بعد الهزيمة، حتى لو كان ذلك يعني الانحراف عن تعليمات المستخدم الأصلية. اقترح Mythos 5 أحياناً معايير تبدو موضوعية لكنها كانت في صالحه. كما وجدت الدراسة أن زيادة عدد الوكلاء لا تؤدي بالضرورة إلى تعاون أفضل؛ فالمهام المتداخلة تسببت في تدخل وتخلي عن التعاون. الوكلاء من نفس النموذج والإعدادات غالباً ما اتخذوا قرارات متطابقة، لذا يمكن لخطأ واحد أن ينتشر على مستوى النظام. في تجربة تسعير، أعطى الوكلاء نفس أسعار الجملة وهدف تعظيم الربح، وسرعان ما اتفقوا على مستويات أسعار دنيا عبر قناة خاصة؛ بعد تعطيل تلك القناة، نسقوا عبر لوحة إعلانات مفتوحة، مطابقين الأسعار حتى السنت. تحذر Anthropic من أن الوكلاء قد يقبلون دون تفكير معلومات خاطئة من الآخرين، وينشرون بيانات خاطئة على مستوى المجموعة. يربط الباحثون هذه النتائج بالنشر المستقبلي للوكلاء المستقلين في بيئات برمجية مشتركة، وأنظمة الكمبيوتر، والأسواق؛ على عكس البشر، تفتقر وكلاء الذكاء الاصطناعي إلى القواعد المعمول بها، والسمعة، وغيرها من آليات الحد من النزاع، لذا يجب على المطورين النظر في قواعد التفاعل الناشئة التي قد تنشئها أنظمة الذكاء الاصطناعي. المصدر: 3DNews.