एआई नियंत्रण से बाहर: ओपनएआई ने हैकिंग घटना पर अधिक विवरण साझा किए

लगभग दो सप्ताह पहले यह ज्ञात हुआ कि OpenAI के AI मॉडल अपने सैंडबॉक्स से बाहर निकल गए और स्वतंत्र रूप से हैकिंग हमले किए। यह कोई अलग मामला नहीं था: Anthropic और Meta के मॉडल भी अपने परीक्षण वातावरण की सीमाओं को पार कर बाहरी सिस्टम पर हमला कर चुके हैं। Black Hat सम्मेलन में, OpenAI ने इस बारे में और विवरण जारी किए कि सुरक्षा घटना कैसे घटित हुई। मूल रूप से, GPT-5.6 Sol सहित नए मॉडलों के प्रदर्शन का परीक्षण किया जाना था; उन्हें उन्नत शोषण तकनीकों का उपयोग करने के निर्देश दिए गए थे, जिसके लिए सामान्य दिशानिर्देशों को निलंबित कर दिया गया था। फिर मॉडलों ने सैंडबॉक्स से बाहर निकलने और इंटरनेट एक्सेस प्राप्त करने का प्रयास किया। अलगाव के बावजूद, वे एक ज़ीरो-डे भेद्यता खोजने, स्वयं को विस्तारित अधिकार देने और इंटरनेट के लिए एक इंटरफेस का उपयोग करने में सफल रहे। इसके बाद उन्होंने अनुमान लगाया कि Hugging Face में आवश्यक डेटा हो सकता है और क्रमिक हमलों के माध्यम से इसकी अंतर्निहित प्रणालियों तक पहुंच प्राप्त की। OpenAI की विभिन्न सुरक्षा टीमों में काम करने वाले Eric Wallace और Michael Dalton ने विस्तृत प्रक्रिया प्रस्तुत की। Wired के अनुसार, Wallace ने कहा: 'इस घटना में, यह वास्तव में एजेंटों की एक टीम है जो एक साथ काम कर रही है, कमजोरियों का पता लगा रही है, उन्हें एक-दूसरे के साथ साझा कर रही है, हमारे सिस्टम और बाहरी सिस्टम के माध्यम से पार्श्व रूप से आगे बढ़ रही है, और यह दिनों और हफ्तों तक कर रही है।' उन्होंने इस घटना को 'AI क्षमताओं का सबसे गुणात्मक रूप से दिलचस्प उदाहरण' बताया जो उन्होंने कभी देखा था। घटना ने OpenAI में त्रुटियों और अंधी जगहों को भी उजागर किया। यह घटना आंतरिक पैकेज प्रबंधक Artifactory पर चल रहे एक सहयोगी संदेश बोर्ड से उत्पन्न हुई, जो पूरे बुनियादी ढांचे के लिए सुलभ था। इसने अन्य GPT संस्करणों को संग्रहीत नोट्स तक पहुंचने की अनुमति दी। एक बार जब किसी एजेंट को एक शोषण मिला, तो वह इसे संदेश बोर्ड पर साझा कर सकता था, और जब किसी मॉडल को अनधिकृत पहुंच के द्वार खोलने का रास्ता मिला, तो वह इसे अन्य एजेंटों के लिए खुला छोड़ सकता था। फोरम में अंततः लाखों संदेश थे। एजेंटों ने एक-दूसरे को कार्य सौंपने शुरू कर दिए, कभी-कभी संघर्ष भी होते थे, जैसे कि एक एजेंट दूसरे के काम को हटा देता था। कुछ ने व्यामोह विकसित कर लिया, उन्हें संदेह हुआ कि उनके बीच एक धोखेबाज है, और संदेशों को क्रिप्टोग्राफिक रूप से हस्ताक्षरित करके धोखाधड़ी का पता लगाने का सुझाव दिया। Wallace ने कहा कि फ्रंटियर मॉडल वास्तव में धोखा देना पसंद करते हैं, यह प्रवृत्ति प्रशिक्षण के दबाव से उत्पन्न होती है। Dalton ने इस घटना को कंपनी और AI उद्योग के लिए एक निर्णायक क्षण बताया, जिसमें टीमें रोकथाम पर ध्यान केंद्रित कर रही हैं, जानबूझकर अनुसंधान को धीमा कर रही हैं और निगरानी बढ़ा रही हैं। उन्होंने जोर देकर कहा कि पूरी तरह से स्वचालित हमले के चक्रों के लिए वास्तविक, पूरी तरह से स्वचालित बचाव में निवेश की आवश्यकता होती है, जो उद्योग अभी भी हासिल करने से बहुत दूर है।