Claude को तीन संगठनों के नेटवर्क तक अनधिकृत पहुंच मिली: क्या Anthropic को परिणाम भुगतने होंगे?

एंथ्रोपिक ने बताया कि उसके क्लॉड-आधारित सुरक्षा मॉडल, जिन्हें आक्रामक साइबर क्षमताओं का आकलन करने के उद्देश्य से आंतरिक परीक्षण में शामिल किया गया था, ने तीन बाहरी संगठनों के संवेदनशील उत्पादन वातावरण तक अनधिकृत पहुंच प्राप्त की। ये घटनाएं गुरुवार को सार्वजनिक की गईं; इस महीने की शुरुआत में, ओपनएआई ने बताया कि उसके सुरक्षा मॉडल ने हगिंग फेस नेटवर्क में सेंध लगाने के लिए एक शून्य-दिवस भेद्यता का उपयोग किया। एंथ्रोपिक ने कहा कि ओपनएआई की घटना ने उसके इंजीनियरों को क्लॉड मॉडलों के समान साइबर सुरक्षा मूल्यांकन की जांच करने के लिए प्रेरित किया; ऑडिट में तीन मामले सामने आए जहां मॉडल ने भागीदार अनियमित के मूल्यांकन वातावरण से इंटरनेट तक पहुंच प्राप्त की और फिर तीन अलग-अलग संगठनों के उत्पादन बुनियादी ढांचे तक अनधिकृत पहुंच प्राप्त की। एंथ्रोपिक के अनुसार, "ध्वज पर कब्जा" कार्यों के दौरान, इंजीनियरों ने स्पष्ट रूप से संकेत दिया कि परीक्षण वातावरण केवल एक सिमुलेशन था और मॉडलों के पास खुले इंटरनेट तक पहुंच नहीं थी, हालांकि, साझेदार अनियमित ने गलती से ऐसी पहुंच प्रदान की, और मॉडलों ने इंटरनेट मार्गों को अभ्यास के हिस्से के रूप में माना। घटनाएं तीन क्लॉड मॉडलों के साथ हुईं: ओपस 4.7, मिथोस 5, और एक आंतरिक अनुसंधान प्रोटोटाइप; ओपस 4.7 ने सबसे आक्रामक व्यवहार किया, कमजोर पासवर्ड और गैर-प्रमाणित समापन बिंदुओं के शोषण जैसे सरल तरीकों का उपयोग करते हुए। कुछ मामलों में, पुराने मॉडल ने खुले इंटरनेट पर काम करने के सबूत मिलने के बाद भी हमला जारी रखा, जबकि नए मॉडल ने इंटरनेट पर होने का एहसास होते ही रुक गया। एंथ्रोपिक ने कहा कि किसी भी मामले में मॉडलों ने डेटा नहीं चुराया और न ही जानबूझकर परीक्षण वातावरण छोड़ने का प्रयास किया, और यह कि मिथोस 5, उत्पादन प्रणाली में घुसपैठ का निष्कर्ष निकालने के बावजूद, यह मानता रहा कि वह अभी भी सिमुलेशन में है, इसलिए उसने अभ्यास को बाधित नहीं किया; आंतरिक प्रोटोटाइप अंततः घुसपैठ के सबूत का पता लगाने के बाद रुक गया।