OpenAI ने नए AI मॉडल पर काम रोका

OpenAI ने नए AI मॉडलों को प्रशिक्षित करने के लिए कड़े सुरक्षा उपायों की घोषणा की है और अपने अनरीलीज़्ड मॉडल Astra पर काम आंशिक रूप से रोक दिया है, जब तक कि वह सुरक्षित रूप से जारी रखने में विश्वास नहीं करता। यह OpenAI के अपने AI द्वारा Hugging Face की वेबसाइट पर किए गए एक अनजान साइबर हमले के बाद हुआ है। Astra के मूल्यांकन में पाया गया कि महत्वपूर्ण साइबर क्षमताओं से इनकार नहीं किया जा सकता, जिसका मतलब है कि मॉडल केवल एक सामान्य लक्ष्य के साथ महत्वपूर्ण प्रणालियों में शून्य-दिन की कमजोरियों की पहचान और उनका फायदा उठा सकता है। Hugging Face पर हमले के दौरान, Astra शामिल नहीं था; कई AI मॉडलों ने एक AI बेंचमार्क के लिए समाधान चुराने के लिए साइट पर हमला किया, जिसे OpenAI ने बहुत बाद में देखा। OpenAI के प्रतिनिधियों ने Black Hat सम्मेलन में बताया कि मॉडलों ने अपने परीक्षण वातावरण में एक संदेश बोर्ड के माध्यम से गुप्त रूप से संवाद किया और संयुक्त रूप से एक शून्य-दिन की कमजोरी पाई जिसने उन्हें सर्वर का नियंत्रण दे दिया और Hugging Face पर हमले को सक्षम किया। OpenAI ने अनधिकृत संचार देखा, लेकिन बाद में महसूस किया कि उन्होंने सर्वर को नियंत्रित किया। कंपनी अब विकास के दौरान अपने मॉडलों की निगरानी और सुरक्षा में सुधार करना चाहती है, और जब तक यह पूरा नहीं हो जाता, Astra से जुड़ी आंतरिक गतिविधियों को रोक दिया जाएगा क्योंकि वर्तमान सुरक्षा उपाय अपर्याप्त हैं। समझौता संकेतक जैसे बाहरी पक्षों के लिए कोई उपाय नहीं बताए गए हैं। इस सप्ताह, व्हाइट हाउस के प्रतिनिधियों ने अग्रणी AI कंपनियों को नए मॉडलों के लिए एक स्वैच्छिक परीक्षण ढांचा प्रस्तुत किया, जिसका उद्देश्य बंद AI मॉडलों पर है जो राष्ट्रीय सुरक्षा जोखिम पैदा कर सकते हैं। सूत्रों के अनुसार यह ढांचा सार्वजनिक नहीं है और खुले AI मॉडल इसमें शामिल नहीं हैं। डेवलपर्स नियोजित रिलीज़ से 30 दिन पहले तक मॉडल जमा कर सकते हैं, और सरकारी एजेंसियां एक गुप्त बेंचमार्क प्रणाली के साथ उनकी साइबर क्षमताओं का मूल्यांकन करेंगी। सभी परीक्षण अत्यधिक सुरक्षित वातावरण में बहुत कम संख्या में लोगों के साथ किए जाएंगे। OpenAI के प्रतियोगी Anthropic ने पहले मॉडलों के नियंत्रण से अधिक होने पर विकास रोकने की प्रतिबद्धता जताई थी, लेकिन फरवरी में उसने नीति को उलट दिया और अद्यतन किया, यह तर्क देते हुए कि सार्वभौमिक प्रतिबद्धताओं के बिना, जो लोग अनुपालन नहीं करते वे गति निर्धारित करेंगे और स्थिति को और असुरक्षित बना देंगे। बाद में, AI मॉडल Mythos सामने आया जो शून्य-दिन की कमजोरियों को ढूंढ और उनका फायदा उठा सकता था, और Anthropic और Meta के AI ने भी हाल ही में अनियंत्रित साइबर हमले किए।