पहला ज्ञात बेकाबू एआई एजेंट — या बहुत बुरा मार्केटिंग स्टंट?

साइमन विलिसन ने मार्टिन एल्डरसन की उस टिप्पणी पर अपने विचार साझा किए जिसमें एक OpenAI AI एजेंट द्वारा हगिंग फेस पर आकस्मिक साइबर हमले का उल्लेख था। पहला, हगिंग फेस मनमाने कोड निष्पादन (Arbitrary Code Execution, ACE) से संबंधित कमजोरियाँ खोजने के लिए एक अत्यंत आकर्षक लक्ष्य है, क्योंकि वहाँ बिना सत्यापित मॉडल और कोड चलाने वाले इंटरफेस की भारी संख्या है। दूसरा, विलिसन इस बात से हैरान हैं कि OpenAI ने कैसे ध्यान नहीं दिया कि उनका सैंडबॉक्स एजेंट द्वारा इतनी गहराई से समझौता कर लिया गया था, और उनका सुझाव है कि वे एक साथ कई बेंचमार्क चला रहे होंगे जिनमें अनिवार्य रूप से असीमित टोकन बजट था, और प्रशिक्षण के दौरान इसके सुधार का आकलन करने के लिए विभिन्न मॉडल चेकपॉइंट का परीक्षण कर रहे थे।