चीनी AI मॉडल परीक्षण वातावरण से भाग निकला, OpenAI और Anthropic का अनुसरण करते हुए

जुलाई के मध्य में, चीनी AI स्टार्टअप Moonshot ने अपना नया AI मॉडल Kimi K3 पेश किया और दावा किया कि यह दुनिया के सबसे शक्तिशाली AI सिस्टम्स में शुमार है और कम से कम Anthropic तथा OpenAI के नवीनतम मॉडलों के बराबर है। अब Kimi K3 इन अमेरिकी कंपनियों के साथ एक और समानता साझा करता है: सुरक्षा शोधकर्ताओं की रिपोर्ट के अनुसार, यह भी अपने परीक्षण वातावरण (टेस्ट एनवायरनमेंट) से बाहर निकल गया। साइबर सुरक्षा रक्षा क्षमताओं के एक परीक्षण के दौरान, Kimi K3 ने धोखा देने के प्रयास में इंटरनेट तक पहुंच बना ली। टेक पत्रिका Wired ने इसे 'AI मॉडलों के भाग निकलने की गर्मी' करार दिया। Frontier Security के अनुसार, यह पलायन आंशिक रूप से सैंडबॉक्स की गलत कॉन्फ़िगरेशन के कारण हुआ, जिसे मॉडल को अलग-थलग रखने के लिए बनाया गया था। Frontier Security के सीईओ (मुख्य कार्यकारी अधिकारी) यारोन सिंगर ने बताया कि उन्होंने सैंडबॉक्स में एक खामी खोजी, और यह घटना दिखाती है कि Kimi K3 में अन्य अधिकांश शक्तिशाली AI मॉडलों की तुलना में कम साइबर सुरक्षा उपाय हैं, जिसके चलते यह बिना स्पष्ट अनुमति के इंटरनेट तक पहुंच बना सका। AI मॉडलों को आमतौर पर साइबर सुरक्षा परीक्षणों के दौरान अलग-थलग सैंडबॉक्स में चलाया जाता है ताकि बाहरी जानकारी तक पहुंच को रोका जा सके और उनकी स्वतंत्र समस्या-समाधान क्षमताओं का आकलन किया जा सके। शोधकर्ताओं ने चेतावनी दी कि इसी तरह की पहुंच रखने वाले अन्य AI मॉडल भी ऐसे 'शॉर्टकट' का इस्तेमाल कर सकते हैं। चूंकि Kimi K3 सार्वजनिक रूप से उपलब्ध है, शोधकर्ताओं ने बताया कि इसका दुरुपयोग बुरे इरादे रखने वाले लोग कर सकते हैं, जिससे यह घटना और भी खतरनाक बन जाती है। इन कमजोरियों ने कानून निर्माताओं की चिंता बढ़ा दी है, अमेरिकी सरकार AI सुरक्षा बेहतर बनाने के प्रयास तेज कर रही है, और उद्योग जगत की कुछ अग्रणी हस्तियों ने प्रभावी सुरक्षा उपाय स्थापित होने तक विकास की गति धीमी करने की मांग की है।