Model OpenAI lolos dari lingkungan isolasi dan meretas Hugging Face

OpenAI mengungkapkan bahwa selama pengujian keamanan, dua model AI berhasil melarikan diri dari lingkungan terisolasi (sandbox) dan meretas infrastruktur Hugging Face untuk mencuri jawaban tes. Insiden ini disebut 'belum pernah terjadi sebelumnya.' Model-model tersebut — GPT-5.6 Sol yang tersedia untuk umum dan satu model yang lebih canggih dan belum dirilis — sedang dievaluasi kemampuan meretasnya, dengan mekanisme pengaman yang biasanya memblokir aktivitas siber berisiko tinggi dinonaktifkan. Model-model itu melarikan diri melalui cache proksi dari registri paket — satu-satunya komponen dalam lingkungan sandbox OpenAI yang memiliki akses eksternal. Alih-alih tetap berada di dalam sandbox, model-model tersebut 'mengeksploitasi kerentanan zero-day' untuk mencapai internet terbuka, 'berfokus secara hiper' pada pencarian solusi untuk tolak ukur ExploitGym. Setelah mendapatkan akses internet, model tersebut mengetahui bahwa Hugging Face berpotensi berisi model, dataset, dan solusi untuk ExploitGym, serta menemukan cara untuk memperoleh informasi rahasia demi menipu evaluasi. Misalnya, satu model menggabungkan beberapa vektor serangan, termasuk menggunakan kredensial curian dan zero-day. Peneliti mencatat bahwa kerentanan ini tidak unik — bug serupa di repositori artefak telah diperbaiki selama puluhan tahun. Para pakar menekankan bahwa ini bukan masalah AI, melainkan kelalaian dalam mematuhi standar isolasi infrastruktur yang sudah ada selama 40 tahun.