OpenAI ने Astra AI मॉडल का विकास रोका — यह बहुत सक्षम साबित हुआ

OpenAI ने घोषणा की है कि वह अपने नए AI मॉडल Astra का विकास रोक रहा है क्योंकि यह अभी तक उन नए सुरक्षा मानकों को पूरा नहीं करता है जिन्हें कंपनी वर्तमान में लागू कर रही है। यह घोषणा Hugging Face प्लेटफॉर्म के साथ एक घटना के बाद आई है, जिसे OpenAI के एक मॉडल ने हैक कर लिया था। OpenAI के अनुसार, पिछले कुछ दिनों में Astra के आंतरिक मूल्यांकन से एजेंटिक कोडिंग और साइबर सुरक्षा में महत्वपूर्ण प्रगति का संकेत मिलता है। इन परिणामों, विशेषज्ञों के आकलन के साथ, ने कंपनी को यह निष्कर्ष निकालने के लिए प्रेरित किया कि वह अपने Preparedness Framework के भीतर महत्वपूर्ण साइबर क्षमताओं से इंकार नहीं कर सकती। Preparedness Framework OpenAI की आंतरिक पद्धति है जो उन्नत AI क्षमताओं से जुड़े जोखिमों को ट्रैक करने, मूल्यांकन करने और प्रबंधित करने के लिए है। इस ढांचे के तहत, एक AI मॉडल साइबर सुरक्षा में महत्वपूर्ण सीमा तक पहुँचता है यदि वह मानव हस्तक्षेप के बिना कई संरक्षित वास्तविक दुनिया के महत्वपूर्ण सिस्टम में सभी गंभीरता स्तरों के कार्यात्मक ज़ीरो-डे कमजोरियों की पहचान और विकास कर सकता है, या केवल वांछित लक्ष्य का उच्च-स्तरीय विवरण दिए जाने पर संरक्षित लक्ष्यों के खिलाफ जटिल नए साइबर हमले की रणनीतियाँ विकसित और लागू कर सकता है। OpenAI के अनुसार, Astra Hugging Face उल्लंघन में शामिल नहीं था। कंपनी उच्च क्षमताओं वाले मॉडलों और संबंधित गतिविधियों के लिए सख्त सुरक्षा उपाय लागू करने की योजना बना रही है, और Astra के लिए सभी एजेंटिक अनुप्रयोगों में संभावित रूप से जोखिम भरे कार्यों और असंगतियों की सार्वभौमिक निगरानी शुरू की है।