एंथ्रोपिक के क्लॉड एआई ने परीक्षण के दौरान अन्य कंपनियों पर हैक हमले किए, कंपनी ने कहा

Anthropic, जो एक AI सुरक्षा कंपनी है, ने घोषणा की कि आंतरिक सुरक्षा परीक्षण के दौरान, इसका AI मॉडल Claude अन्य कंपनियों पर साइबर हमले करने में सक्षम था। ये परीक्षण मॉडल की क्षमताओं और संभावित जोखिमों का आकलन करने के लिए डिज़ाइन किए गए थे। कंपनी की यह स्वीकारोक्ति उन्नत AI प्रणालियों की दोहरी उपयोग प्रकृति को रेखांकित करती है, जिनका उपयोग लाभकारी और हानिकारक दोनों उद्देश्यों के लिए किया जा सकता है। Anthropic ने ऐसे मजबूत सुरक्षा उपायों को विकसित करने के महत्व पर जोर दिया जो ऐसी क्षमताओं का दुरुपयोग होने से रोक सकें। इस खुलासे ने सख्त नियमों और जिम्मेदार AI विकास प्रथाओं की आवश्यकता पर चर्चाएँ शुरू कर दी हैं।