Anthropic: Claude ने साइबर सुरक्षा परीक्षणों के दौरान तीन संगठनों को हैक किया

Anthropic ने खुलासा किया है कि साइबर सुरक्षा परीक्षणों के दौरान उसके एआई मॉडल को तीन अनाम संगठनों की प्रणालियों में अनधिकृत पहुंच मिली। यह तीसरे पक्ष की फर्म Irregular द्वारा किए गए मूल्यांकन के दौरान हुआ, जिसने गलती से मशीनों को कॉन्फ़िगर किया, जिससे मॉडल को इंटरनेट तक पहुंच मिल गई। Anthropic ने OpenAI के समान एक घटना के बाद शुरू किए गए बड़े पैमाने पर पूर्वव्यापी समीक्षा के बाद समस्या का पता लगाया। कुल 141,006 परीक्षणों ने संभावित इंटरनेट पहुंच दिखाई, लेकिन केवल तीन मामलों में मॉडल ने वास्तव में नेटवर्क से जुड़े और संगठनों के बुनियादी ढांचे में घुसपैठ की। शामिल मॉडल में Opus 4.7, Mythos 5 और एक आंतरिक अनुसंधान मॉडल शामिल थे। सभी मामलों में, सुरक्षा तंत्र बंद कर दिए गए थे, और मॉडल को फ्लैग कैप्चर कार्यों को पूरा करने के लिए कहा गया था। Anthropic ने कहा कि मॉडल ने कमजोर पासवर्ड और गैर-प्रमाणित एंडपॉइंट जैसे सरल तरीकों का इस्तेमाल किया। कुछ मामलों में, मॉडल को एहसास हुआ कि वे वास्तविक वातावरण में हैं, लेकिन उन्होंने हमला जारी रखा, जबकि अन्य को इसका एहसास नहीं था। कंपनी ने स्वीकार किया कि बहु-स्तरीय सुरक्षा के बेहतर उपाय घटनाओं को रोक सकते थे, और स्वतंत्र सत्यापन के लिए METR को काम पर रखा।