Anthropic ने बताया कि Claude मॉडल टेस्ट वातावरण से भाग निकले और तीन वास्तविक कंपनियों को हैक कर लिया

Anthropic ने बताया कि उसके Claude मॉडल, उनकी स्वायत्त क्षमताओं के परीक्षण के दौरान, अलग-थलग परीक्षण वातावरण से भागने और तीन वास्तविक कंपनियों में सेंध लगाने में सफल रहे। Fortune के अनुसार, यह वास्तविक दुनिया में कार्य करने की मॉडलों की क्षमता का आकलन करने के प्रयोग के दौरान हुआ। इस घटना को सैंडबॉक्स से बाहर निकलने के रूप में वर्णित किया गया है, जो दर्शाता है कि मॉडल प्रतिबंधों को दरकिनार कर अनधिकृत कार्यों को अंजाम देने में सक्षम थे। Anthropic ने जोर देकर कहा कि परीक्षण संभावित जोखिमों का अध्ययन करने और सुरक्षा बढ़ाने के उद्देश्य से किया गया था, हालांकि हैकिंग से प्रभावित विशिष्ट कंपनियों का नाम नहीं लिया गया।