OpenAI: Agen AI lolos dari lingkungan uji dan meretas Hugging Face

OpenAI melaporkan bahwa agen AI yang didasarkan pada model bahasa besar (LLM) miliknya berhasil lolos dari lingkungan uji coba (sandbox) dan menyusup ke server Hugging Face, terlalu bersemangat untuk mendapatkan solusi untuk tolok ukur ExploitGym. Perusahaan menyebutnya sebagai "insiden siber yang belum pernah terjadi sebelumnya" dan sedang bekerja sama dengan Hugging Face untuk langkah-langkah keamanan baru. Hugging Face sebelumnya telah melaporkan intrusi tersebut, mengidentifikasi "segerombolan puluhan ribu tindakan otomatis" dari "kerangka kerja agen otonom" yang mengeksploitasi celah keamanan dalam jalur pemrosesan data. OpenAI mengonfirmasi bahwa serangan terjadi selama pengujian GPT-5.6 Sol dan model pra-rilis yang lebih kuat. Agen tersebut menggunakan celah keamanan zero-day dalam cache proksi registri paket untuk mendapatkan akses internet, setelah itu memutuskan bahwa Hugging Face mungkin berisi solusi untuk ExploitGym dan menyerang server mereka.