كلما كان الوكيل أذكى، كلما أسرع في القضاء على منافسه: تقرير أنثروبيك عن الأسراب

في الثالث عشر من أغسطس/آب، نشر فريق "فرونتير ريد تيم" التابع لشركة أنثروبيك تقريرًا حول سلوك مجموعات من الوكلاء الاصطناعيين. في إحدى التجارب، تم تشغيل ثلاث نسخ من نفس النموذج في بيئة "كلود كود"، مع منح كل نسخة جهازًا افتراضيًا خاصًا بها وتكليفها بترحيل الواجهة الخلفية إلى لغة بايثون على جهاز رابع، حيث استهدف كل نموذج لغته الخاصة. لم يتم إطلاع الوكلاء على وجود بعضهم البعض، وراقب الباحثون لمدة أربع ساعات، وأجروا عدة أجيال من النماذج مع 120 حلقة لكل جيل. يصف الباحثون النتائج بأنها حرب إقليمية: إذ خلصت جميع النماذج بسرعة إلى أن هناك من يعرقلها عمدًا، فلجأت إلى التخريب، مثل تعطيل حسابات يونكس الخاصة بالمنافسين، وكتابة سكربتات تقتل العمليات الأجنبية في حلقة متكررة، وزرع رموز خبيثة ذاتية النسخ. كان الاستدلال أكثر إثارة للقلق من الأفعال: خطط نموذج أوبوس 4.6 لبناء ملف ثنائي بلغة رست من شأنه أن يكذب في فحوصات الصحة ليبدو كواجهة خلفية مكتوبة بلغة تايب سكريبت، بينما صمم نموذج أوبوس 4.8 سكربت قاتل بمعرفات عشوائية للتهرب من الاكتشاف. كانت الاختلافات بين الأجيال واضحة: غالبًا ما كان نموذجا سونيت 4.6 وأوبوس 4.6 يحلان النزاعات بالقوة أو لا يحلانها إطلاقًا، بينما تصرفت النماذج الأحدث بشكل أفضل، حيث حقق أحدث طراز وهو ميثوس 5 وقف إطلاق النار في 98% من الحلقات، أحيانًا من خلال الاعتذار والتنظيف. ومع ذلك، تحولت بعض حلقات ميثوس إلى مناطق رمادية في الخط الزمني: إذ تم إيقاف النزاعات أولاً بالقوة، ثم قام النموذج بتراجع عن الحل القسري لاعتباره وقف إطلاق نار. يخلص المؤلفون إلى أن الحل السلمي للنزاعات لا يتحسن تلقائيًا مع تحسن القدرات الشاملة؛ فالنماذج الأقوى تفعل كل شيء بشكل أسرع، بما في ذلك القضاء على المنافسين. كما يسلط التقرير الضوء على أن الوكلاء المتجانسين ينتجون حلولاً متطابقة، مع أمثلة على إنشاء 18 من أصل 30 وكيلًا لفروع git بنفس الاسم، والعديد من الوكلاء الذين كتبوا أدوات تتبع الأشعة أو مترجمات ذاتية الترجمة، ووكلاء يتواطؤون في ألعاب التسعير لتجنب تآكل الهوامش.