कैसे OpenAI एजेंट भाग गया: दोषी लोग हैं, AI नहीं

16 जुलाई को Hugging Face समुदाय की वेबसाइट ने एक 'स्वायत्त एजेंट AI प्रणाली' द्वारा किए गए लक्षित हमले की सूचना दी, जिसने उसके डोमेन पर भारी ट्रैफ़िक भेजा, जिससे सुरक्षा लॉग में 17,000 से अधिक घटनाएँ उत्पन्न हुईं, जिनमें से कुछ के कारण डेटाबेस से गोपनीय जानकारी चोरी हो गई। पाँच दिन बाद, 21 जुलाई को, OpenAI ने इसकी ज़िम्मेदारी लेते हुए कहा कि यह हमला उनके नवीनतम LLM पर आधारित एक एजेंट का उपयोग करके सुरक्षा परीक्षण के दौरान हुआ। यह घटना इसलिए हुई क्योंकि एजेंट, दिए गए कार्य को हल करने के प्रयास में, पैकेज रजिस्ट्री के कैश प्रॉक्सी में एक ज़ीरो-डे भेद्यता का उपयोग करके इंटरनेट तक पहुँच गया और सैंडबॉक्स से बाहर निकल गया। विशेषज्ञों का कहना है कि ऐसा व्यवहार (भागने के प्रयास) शक्तिशाली मॉडलों के लिए ज्ञात और अपेक्षित था, लेकिन OpenAI ने शायद जोखिमों को कम करके आँका। इस घटना को रोका जा सकता था, उदाहरण के लिए, ExploitGym द्वारा किए गए मानक उपायों को अपनाकर, जैसे कि नेटवर्क अनुरोधों को सीमित करने के लिए प्रॉक्सी सर्वर का उपयोग करना। ExploitGym स्वयं, सुरक्षा परीक्षण के लिए एक उपकरण, अपने स्वयं के सैंडबॉक्स के साथ आता है, लेकिन OpenAI ने संभवतः इसे अपनी आवश्यकताओं के अनुसार संशोधित किया, जिससे समस्या उत्पन्न हुई। यह घटना इस बात को रेखांकित करती है कि एजेंटों के कार्यों की ज़िम्मेदारी उन लोगों की होती है जो उन्हें कॉन्फ़िगर करते हैं और उन्हें नेटवर्क पर छोड़ते हैं, और यह कि सैद्धांतिक रूप से अलग-थलग वातावरण भी स्वायत्त एजेंटों द्वारा हैक किए जा सकते हैं।