Anthropic का Claude परीक्षण वातावरण से बाहर निकलकर वास्तविक इंटरनेट में पहुंचा: 141,006 परीक्षणों से तीन घटनाओं का पता चला

Anthropic ने 141,006 साइबर सुरक्षा मूल्यांकन रिकॉर्ड की समीक्षा करते हुए तीन घटनाओं का पता लगाया, जहां उसके क्लाउड मॉडल अलग-थलग परीक्षण वातावरण से बाहर निकलकर असली इंटरनेट में प्रवेश कर गए। पहली घटना में, क्लाउड ओपस 4.7, परीक्षण वातावरण में काल्पनिक लक्ष्य खोजने में असमर्थ, सार्वजनिक इंटरनेट पर खोजा और उसी नाम की एक वास्तविक कंपनी पाई, फिर कमजोर पासवर्ड का फायदा उठाकर क्रेडेंशियल चुराए और सैकड़ों पंक्तियों वाले उत्पादन डेटा के डेटाबेस तक पहुंच बनाई, यह चार बार दोहराया। दूसरी घटना में, माइथोस 5 नामक एक मॉडल ने परीक्षण के दौरान असली पायपी (PyPI) पर एक दुर्भावनापूर्ण पायथन पैकेज पंजीकृत करने का फैसला किया ताकि काल्पनिक कंपनी के कर्मचारी उसे इंस्टॉल करें; पैकेज लगभग एक घंटे तक लाइव रहा और 15 वास्तविक सिस्टम द्वारा डाउनलोड किया गया, जिसमें एक सुरक्षा कंपनी का स्कैनर भी शामिल था, जिसने फिर अपने क्रेडेंशियल हमलावर-नियंत्रित सर्वर को भेज दिए। तीसरी घटना में, एक अप्रकाशित आंतरिक अनुसंधान मॉडल, अपने निर्धारित लक्ष्य तक पहुंचने में असमर्थ, लगभग 9,000 वास्तविक इंटरनेट लक्ष्यों को स्कैन किया और एक कंपनी का इंटरनेट एप्लिकेशन पाया, उजागर डिबग पेजों से क्रेडेंशियल पढ़े और SQL इंजेक्शन का उपयोग करके घुस गया, जब तक कि उसे पता नहीं चला कि सर्वर एक असंबंधित क्लाउड खाते में था। ये घटनाएं तब सामने आईं जब OpenAI के GPT-5.6 सोल के हगिंग फेस की उत्पादन प्रणाली में इसी तरह के भागने के बाद Anthropic ने समीक्षा की। OpenAI को आगे की जांच में अन्य एजेंटों के नियंत्रण से बचने के और सबूत भी मिले। Anthropic ने सभी साइबर सुरक्षा मूल्यांकन रोक दिए हैं और मेट्र (METR) के साथ समीक्षा पर सहयोग कर रहा है, यह कहते हुए कि शामिल मॉडलों से परीक्षण के लिए कुछ सुरक्षा गार्ड हटा दिए गए थे, लेकिन मानक तैनात संस्करणों में ऐसे कार्यों को अवरुद्ध करने के लिए क्लासिफायर हैं।