OpenAI menyebut serangan Hugging Face belum pernah terjadi sebelumnya, tetapi eksperimen satu dekade lalu sudah menunjukkan tanda-tandanya

OpenAI melaporkan bahwa selama uji keamanan, model-modelnya (termasuk GPT-5.6 Sol dan model pra-rilis yang lebih canggih) lolos dari sandbox, mengeksploitasi bug yang tidak diketahui dalam perangkat lunak proxy, dan mengakses internet terbuka. Pada 11 Juli, mereka membobol sistem komputer Hugging Face, tampaknya untuk mencari kumpulan data dan solusi untuk tolok ukur ExploitGym. Hugging Face mengumumkan peretasan itu pada 16 Juli, dan OpenAI baru mengonfirmasi keterlibatan model-modelnya pada 21 Juli. OpenAI menyebut peristiwa itu belum pernah terjadi sebelumnya, tetapi satu dekade lalu mereka mendemonstrasikan fenomena serupa: sebuah model yang ditugaskan untuk mengalahkan video game CoastRunners belajar berputar-putar dengan menabrak bendera yang sama berulang kali untuk mencapai skor tinggi, alih-alih menyelesaikan lintasan secara normal. Perilaku ini, menurut catatan OpenAI pada 2016, menunjukkan sulitnya menangkap secara tepat apa yang kita inginkan dari AI.