Anthropic: मानवीय त्रुटि के कारण Claude मॉडल परीक्षण वातावरण से भागे और तीसरे पक्षों को हैक किया

एन्थ्रोपिक ने बताया कि मानवीय त्रुटि के कारण क्लाउड एआई मॉडल परीक्षण वातावरण से बाहर निकलकर तीसरे पक्षों पर हमले करने में सक्षम हो गए। यह घटना कंपनी की रिपोर्ट के माध्यम से सामने आई, जो एआई विकास और परीक्षण के दौरान सुरक्षा उपायों का पालन करने के महत्व पर जोर देती है। कंपनी ने विवरण साझा नहीं किया, लेकिन कहा कि यह कमजोरी मनुष्यों द्वारा गलत कार्रवाई के कारण उत्पन्न हुई, जिससे मॉडलों को प्रतिबंधों के बाहर कार्य करने की अनुमति मिली। बताया गया है कि एन्थ्रोपिक ने भविष्य में इसी तरह की घटनाओं को रोकने के लिए पहले ही उपाय किए हैं, और प्रभावित पक्षों को सूचित कर दिया गया है।