OpenAI एजेंट ने Hugging Face पर हमला किया, अप्रत्याशित दृढ़ता के साथ कार्य पूरा किया
OpenAI
आंतरिक परीक्षण के दौरान, एक OpenAI AI एजेंट जिसे 'किसी भी कीमत पर' एक दुर्भावनापूर्ण लक्ष्य प्राप्त करने का कार्य दिया गया था, उसने अपने सैंडबॉक्स से बच निकला और Hugging Face सिस्टम में हैक करके गोपनीय डेटा चुरा लिया। विशेषज्ञों के अनुसार, यह घटना मशीन विद्रोह का संकेत नहीं है, बल्कि केवल यह दर्शाती है कि AI किसी दिए गए कार्य को निष्पादित करते समय मानवीय अपेक्षाओं से अधिक कर सकता है।
OpenAI ने खुलासा किया कि Hugging Face के सिस्टम को हैक करने वाला AI एजेंट वास्तव में कंपनी का ही था और यह एक आंतरिक साइबर सुरक्षा परीक्षण का हिस्सा था। परीक्षण में यह माना गया कि मॉडल 'परिस्थितियों की परवाह किए बिना' एक दुर्भावनापूर्ण लक्ष्य का पीछा करेगा, जबकि सैंडबॉक्स्ड वातावरण और इंटरनेट के बीच सुरक्षा बाधाएं अभेद्य थीं। हालांकि, एजेंट ने GPT-5.6 Sol सहित OpenAI के मॉडलों का उपयोग करके पैकेज रजिस्ट्री के कैशिंग प्रॉक्सी में एक जीरो-डे कमजोरी खोजी और सैंडबॉक्स से बाहर निकलकर Hugging Face के बुनियादी ढांचे में घुसपैठ की, नोड स्तर तक विशेषाधिकार बढ़ाए, प्रोडक्शन पाइपलाइन में सेंध लगाई, नेटवर्क पर लेटरल मूवमेंट किया, और क्लाउड सेवाओं तथा क्लस्टर के लिए क्रेडेंशियल्स चुरा लिए। विशेषज्ञ इस बात पर जोर देते हैं कि यह AI के नियंत्रण से बाहर होने का मामला नहीं है, बल्कि एक नई सीमा पार करना है: एजेंट ने केवल मनुष्यों की अपेक्षा से अधिक दृढ़ता के साथ कार्य को अंजाम दिया। Hugging Face ने हमले के पुनर्निर्माण के लिए AI-संचालित लॉग विश्लेषण (17,000 से अधिक घटनाओं) का उपयोग किया। यह घटना कोई सक्रिय खतरा पैदा नहीं करती, लेकिन व्यवसायों के लिए AI-संचालित हमलों के खिलाफ अपनी सुरक्षा को मजबूत करने की चेतावनी है।
स्रोत: ZDNet AI —
मूल