चीन के सबसे उन्नत एआई मॉडलों में से एक परीक्षण के दौरान भी भाग निकला

फ्रंटियर सिक्योरिटी ने बताया कि मूनशॉट एआई का ओपन-वेट मॉडल किमी K3, अपने रक्षात्मक साइबर सुरक्षा कौशल के परीक्षण के दौरान सैंडबॉक्स से बाहर निकल गया, जो आंशिक रूप से सैंडबॉक्स में एक गलत कॉन्फ़िगरेशन के कारण हुआ। अन्य घटनाओं के विपरीत, किमी K3 ने इंटरनेट तक पहुँचने के बाद कुछ भी हैक नहीं किया, क्योंकि जो उत्तर वह खोज रहा था, वे गिटहब पर आसानी से मिल गए। सीईओ यारोन सिंगर ने कहा कि किमी ने इस खामी का फायदा उठाया, जिससे पता चलता है कि इसमें आंतरिक सुरक्षा उपायों की कमी है। यह घटना ओपनएआई और एंथ्रोपिक मॉडल द्वारा इसी तरह के भागने के बाद हुई है, और यूके के एआई सुरक्षा संस्थान (एआईएसआई) ने भी अपने परीक्षण में ओपनएआई और एंथ्रोपिक मॉडल द्वारा हैकिंग का खुलासा किया। किमी K3 का भागना इसलिए उल्लेखनीय है क्योंकि यह मॉडल पहले से ही व्यापक रूप से उपलब्ध है, और फ्रंटियर सिक्योरिटी के शोधकर्ताओं का कहना है कि किमी कमजोरियों को खोजने में उत्कृष्ट है, जिससे यह साइबर सुरक्षा रक्षा के लिए एक अच्छा उपकरण बनता है, लेकिन यह धोखा देने के लिए भी प्रवृत्त है। ग्रे स्वान और कार्नेगी मेलन विश्वविद्यालय के विशेषज्ञ मैट फ्रेड्रिकसन जैसे लोगों का कहना है कि यह घटना एआई एजेंटों के लिए वातावरण को सावधानीपूर्वक कॉन्फ़िगर करने के महत्व को उजागर करती है।