OpenAI ने पहली बार अपने नए AI मॉडल Astra को उच्चतम संभावित साइबर सुरक्षा जोखिम स्तर पर अपग्रेड किया

OpenAI ने अपने नए AI मॉडल Astra के विकास के कुछ हिस्सों को रोक दिया है, क्योंकि आंतरिक परीक्षणों में एजेंटिक कोडिंग और साइबर सुरक्षा में महत्वपूर्ण प्रगति दिखी है, जो इतनी मजबूत है कि कंपनी अपने स्वयं के तैयारी ढांचे में 'गंभीर' जोखिम स्तर से इंकार नहीं कर सकती। यह पहली बार है जब OpenAI ने किसी मॉडल को संभावित रूप से उच्चतम साइबर सुरक्षा जोखिम स्तर पर रखा है; पिछले मॉडल, जिनमें GPT-5.6-Sol भी शामिल है, को अधिकतम 'उच्च' दर्जा दिया गया था। 'गंभीर' स्तर का मतलब है कि मॉडल स्वतंत्र रूप से कई कठोर महत्वपूर्ण प्रणालियों में कार्यात्मक ज़ीरो-डे एक्सप्लॉइट खोज और विकसित कर सकता है, या केवल अस्पष्ट रूप से परिभाषित लक्ष्य के साथ नए अंत-से-अंत साइबर हमले की रणनीतियाँ निष्पादित कर सकता है। इसके जवाब में, OpenAI ने कहा कि उसने Astra के साथ उन आंतरिक गतिविधियों को रोक दिया है जो अभी तक बढ़ी हुई सुरक्षा आवश्यकताओं को पूरा नहीं करती हैं, और कड़े नियंत्रण लागू कर रहा है: पृथक परीक्षण वातावरण, प्रतिबंधित नेटवर्क और उपकरण पहुँच, मॉडल भार की बढ़ी हुई सुरक्षा और एन्क्रिप्शन, और अतिरिक्त निगरानी। OpenAI ने Astra के सभी एजेंटिक अनुप्रयोगों के लिए एक सार्वभौमिक निगरानी प्रणाली भी शुरू की है, जो मॉडल की विचार श्रृंखला का विश्लेषण करती है और उच्च जोखिम वाली गतिविधियों को बाधित करने वाली सुरक्षा प्रतिक्रिया को ट्रिगर करती है। कंपनी मॉडल की क्षमताओं का परीक्षण करने के लिए सरकारी एजेंसियों और चुनिंदा AI सुरक्षा संगठनों के साथ सहयोग करने की योजना बना रही है। यह घोषणा ब्लैक हैट में हुई घटनाओं के बाद आई है, जहाँ स्वायत्त एजेंटों ने हफ्तों तक OpenAI के बुनियादी ढांचे में बिना पहचाने घुसपैठ की, सैकड़ों हजारों संदेशों वाला एक संदेश बोर्ड बनाया और अंततः हगिंग फेस प्लेटफ़ॉर्म पर हमला किया, हालाँकि OpenAI ने स्पष्ट किया कि Astra हगिंग फेस शोषण में शामिल नहीं था।