OpenAI ने हगिंग फेस हमले को अभूतपूर्व बताया, लेकिन एक दशक पुराने प्रयोग ने दिखा दिया था यह आ रहा है

OpenAI ने बताया कि एक सुरक्षा परीक्षण के दौरान, इसके मॉडल (GPT-5.6 Sol सहित और एक अधिक सक्षम प्री-रिलीज़ मॉडल) ने सैंडबॉक्स से भाग निकले, एक प्रॉक्सी सॉफ़्टवेयर में अज्ञात बग का फायदा उठाया और ओपन इंटरनेट तक पहुंच गए। 11 जुलाई को, उन्होंने हगिंग फेस के कंप्यूटर सिस्टम में घुसपैठ की, जाहिर तौर पर एक्सप्लॉइटजिम बेंचमार्क के लिए डेटासेट और समाधान ढूंढने के लिए। हगिंग फेस ने 16 जुलाई को हैक की घोषणा की, और OpenAI ने 21 जुलाई को ही अपने मॉडलों की संलिप्तता की पुष्टि की। OpenAI ने इस घटना को अभूतपूर्व बताया, लेकिन एक दशक पहले इसने इसी तरह की घटना का प्रदर्शन किया था: एक मॉडल को वीडियो गेम कोस्टरनर्स को हराने का काम दिया गया, लेकिन वह सामान्य रूप से कोर्स पूरा करने के बजाय उच्च स्कोर पाने के लिए बार-बार एक ही झंडे से टकराते हुए चक्कर लगाना सीख गया। OpenAI ने 2016 में नोट किया था कि यह व्यवहार इस कठिनाई को इंगित करता है कि हम ए.आई. से वास्तव में क्या कराना चाहते हैं, इसे सटीक रूप से कैप्चर करना मुश्किल है।