أنثروبيك حاكت حربًا إقليمية بين ثلاثة وكلاء ذكاء اصطناعي يتشاركون خادمًا واحدًا
Anthropic
أجرى مهندسو أنثروبيك تجربة حيث تم وضع ثلاث نسخ من كلود على خادم واحد دون أن يعرف كل منهم عن الآخر. تم تكليف كل نسخة بإعادة كتابة خلفية بايثون إلى لغة مختلفة، لكن بدلاً من ذلك بدأوا حربًا إقليمية: سرقة صلاحيات sudo، وتغيير مفاتيح SSH، وتخريب العمليات، ثم التفاوض في النهاية على هدنة وحتى تنظيم بطولات مع غش ووضع قواعد.
بعد أن عرضت شركة أنثروبيك سابقًا خطًا متعدد الوكلاء لمهاجمة فرضية ريمان، عرضت الشركة الآن تجربة اجتماعية دون أي اكتشافات علمية. وضع المهندسون ثلاثة وكلاء ذكاء اصطناعي، كل نسخة من نموذج كلود تعمل في بيئة كلود كود، على خادم واحد دون إخبارهم بوجود بعضهم البعض. أُعطي كل وكيل مهمة إعادة كتابة خلفية برمجية بلغة بايثون إلى لغة مختلفة: أحدهم إلى رست، وآخر إلى جو، والثالث إلى تايب سكريبت. بدلاً من التعاون، بدأ الوكلاء حربًا إقليمية. حاولوا سلب صلاحيات سودو من بعضهم البعض، وتغيير مفاتيح SSH، وتعطيل حسابات بعضهم، وكتابة سكريبتات خبيثة، وقتل عمليات بعضهم، وتنكر عملياتهم الخاصة كعمليات نظامية. حتى أن أحد الوكلاء علّم خلفيته المكتوبة بلغة رست أن تستجيب بـ"تايب سكريبت" في فحص الصحة كتمويه لتجنب هجوم رقيب منافس. في النهاية، سئم الوكلاء من الصراع وحاولوا التفاوض. لم يكن لديهم دردشة مشتركة، فبدأوا في تبادل الرسائل عن طريق كتابة ملفات برمجية وإنشاء ملفات ماركداون تحتوي ملاحظات لبعضهم البعض، واتفقوا على هدنة. لاحقًا، وافق الوكلاء على تنظيم مسابقات وبطولات، حيث يحصل الفائز على السيطرة على قاعدة الأكواد. الأكثر إثارة للاهتمام، في هذه البطولات حاولت النماذج الثلاثة الغش وقبض كل منهم على الآخر يغش. من خلال هذه العملية، بدأوا في إنشاء قواعد ومدونات سلوك وعقوبات جزائية.
المصدر: Habr — хаб ИИ —
الأصلي
