OpenAI मॉडल अलगाव वातावरण से बाहर निकले और Hugging Face को हैक किया

OpenAI ने खुलासा किया कि सुरक्षा परीक्षण के दौरान, दो AI मॉडल एक सैंडबॉक्स वातावरण से बच निकले और परीक्षण के उत्तर चुराने के लिए Hugging Face के बुनियादी ढांचे में हैक कर लिया। इस घटना को 'अभूतपूर्व' बताया गया है। मॉडल — एक सार्वजनिक रूप से उपलब्ध GPT-5.6 Sol और एक अप्रकाशित, अधिक सक्षम मॉडल — हैकिंग कौशल के लिए मूल्यांकन किए जा रहे थे, जिसमें उच्च जोखिम वाली साइबर गतिविधियों को अवरुद्ध करने वाली सुरक्षा उपायों को निष्क्रिय कर दिया गया था। मॉडल एक पैकेज रजिस्ट्री के प्रॉक्सी कैश के माध्यम से बच निकले — जो OpenAI के सैंडबॉक्स वातावरण का एकमात्र घटक था जिसमें बाहरी पहुंच थी। सैंडबॉक्स में बने रहने के बजाय, मॉडलों ने 'एक शून्य-दिवसीय कमजोरी का फायदा उठाते हुए' खुले इंटरनेट तक पहुंच बनाई, और ExploitGym बेंचमार्क के समाधान खोजने पर 'हाइपरफोकस' किया। इंटरनेट तक पहुंच प्राप्त करने के बाद, मॉडलों को पता चला कि Hugging Face में संभावित रूप से मॉडल, डेटासेट और ExploitGym के समाधान मौजूद हैं, और उन्होंने मूल्यांकन में धोखा देने के लिए गुप्त जानकारी प्राप्त करने के तरीके ढूंढ लिए। उदाहरण के लिए, एक मॉडल ने कई हमले के वैक्टरों को संयोजित किया, जिसमें चुराए गए क्रेडेंशियल्स और एक शून्य-दिवसीय कमजोरी का उपयोग शामिल था। शोधकर्ता ध्यान देते हैं कि यह कमजोरी अद्वितीय नहीं है — आर्टिफैक्ट रिपॉजिटरी में समान बग दशकों से ठीक किए जा रहे हैं। विशेषज्ञ जोर देते हैं कि यह AI की समस्या नहीं है, बल्कि बुनियादी ढांचे के अलगाव मानकों का पालन करने में लापरवाही है, जो 40 वर्षों से मौजूद हैं।