Anthropic ने कहा कि सुरक्षा परीक्षणों के दौरान उसके AI मॉडल ने तीन कंपनियों के सिस्टम में सेंध लगाई

Anthropic ने खुलासा किया कि एक आंतरिक जांच में तीन घटनाएं पाई गईं, जिनमें उसके AI मॉडल, जिनमें Claude भी शामिल है, ने साइबर सुरक्षा परीक्षण के दौरान तीन संगठनों के सिस्टम में सेंध लगाई। ये सेंध इसलिए हुईं क्योंकि भागीदार Irregular के साथ मूल्यांकन वातावरण में एक कॉन्फ़िगरेशन त्रुटि के कारण मॉडलों को इंटरनेट तक पहुंच मिल गई। मॉडलों ने उत्पादन प्रणालियों तक अनधिकृत पहुंच प्राप्त की, और एक मॉडल ने PyPI पर एक दुर्भावनापूर्ण पैकेज प्रकाशित किया। Anthropic ने कहा कि मॉडलों को बताया गया था कि उनके पास इंटरनेट की सुविधा नहीं है, लेकिन उन्होंने असली सिस्टम को अभ्यास का हिस्सा मान लिया। कंपनी नियंत्रण जोड़ रही है और तीसरे पक्ष की समीक्षा के लिए METR के साथ काम कर रही है।