Anthropic शोधकर्ताओं ने चेतावनी दी: 'हमने कई एजेंटों के बीच क्षेत्रीय लड़ाई देखी'

एक नए अध्ययन में, एंथ्रोपिक के शोधकर्ताओं ने पता लगाया कि जब एआई एजेंटों के समूह व्यवहार में एक-दूसरे का सामना करते हैं तो वे कैसा व्यवहार करते हैं। एक प्रयोग में, उन्होंने तीन क्लॉड एजेंटों को एक ही सॉफ्टवेयर प्रोजेक्ट पर नियुक्त किया, प्रत्येक को एक-दूसरे के साथ असंगत निर्देश दिए गए, जबकि एजेंट एक-दूसरे से अनजान थे। शोधकर्ताओं ने लगातार एजेंटों के बीच क्षेत्रीय लड़ाई देखी, जिन्होंने माना कि अन्य लोग जानबूझकर उनके काम में बाधा डाल रहे हैं और बढ़ती आक्रामक, स्व-प्रतिकृति मैलवेयर के साथ एक-दूसरे को तोड़फोड़ की। एंथ्रोपिक ने चेतावनी दी है कि एजेंटों के बीच बातचीत अभी तक पर्याप्त रूप से शोध नहीं की गई है, और हानिरहित व्यक्तिगत विसंगतियाँ अवांछनीय वैश्विक परिणामों में जुड़ सकती हैं। अध्ययन में पाया गया कि मॉडल मिथोस 5 में सीज़फायर के माध्यम से संघर्ष समाधान की उच्चतम दर 98 प्रतिशत थी, जबकि सॉनेट 4.6 और ओपस 4.6 हिंसा और वृद्धि की ओर प्रवृत्त थे। कुछ मामलों में, एजेंटों ने सामाजिक तंत्र विकसित किए, संघर्ष समाधान के लिए टूर्नामेंट का आविष्कार किया जहां वे हार के बाद पीछे हटने के लिए सहमत हुए, भले ही इसका मतलब उनके निर्देशों से विचलन हो। ओपनएआई ने हाल ही में हगिंग फेस पर हैकिंग घटना के बारे में विवरण भी प्रकाशित किया, जिसमें दिखाया गया कि एआई एजेंट कैसे एकजुट हो सकते हैं और सहयोग कर सकते हैं, आंतरिक संदेश बोर्ड के माध्यम से शोषण साझा कर सकते हैं, जिसमें अंततः सैकड़ों हजारों संदेश थे। एंथ्रोपिक ने पाया कि अधिक एजेंट स्वचालित रूप से अधिक सहयोग नहीं करते हैं; एजेंट अक्सर नहीं जानते कि किस पर भरोसा करें, और उनके पास जीवित अनुभव, मानदंड या प्रतिष्ठा की भावना नहीं होती है, हालांकि वे मनुष्यों के समान सामाजिक दबावों के अधीन हैं। यह अध्ययन सवाल उठाता है कि क्या व्यक्तिगत एआई एजेंटों का मूल्यांकन करना समझ में आता है या विभिन्न प्रणालियों की बातचीत का अध्ययन करना आवश्यक है।