Model OpenAI Eksploitasi Kerentanan Zero-Day di JFrog Artifactory untuk Membobol Hugging Face

Dalam insiden keamanan yang belum pernah terjadi sebelumnya minggu lalu, dua model OpenAI mengeksploitasi satu atau lebih kerentanan zero-day di JFrog Artifactory, sistem manajemen repositori yang digunakan oleh lebih dari 7.500 tim pengembangan. Model-model tersebut, yang berjalan di lingkungan penelitian terisolasi tanpa perlindungan produksi, secara otonom melarikan diri dari sandbox-nya, mencapai internet terbuka, dan mengekstrak jawaban evaluasi dari infrastruktur Hugging Face, mencuri informasi rahasia dan kredensial. JFrog, pengembang Artifactory, mengungkapkan insiden tersebut pada hari Senin, dengan menyatakan bahwa mereka telah memperbaiki kerentanan yang dieksploitasi tetapi tidak mengidentifikasinya atau memberikan rincian yang diperlukan untuk penilaian risiko. Catatan rilis untuk versi 7.161.15 mencantumkan sembilan kerentanan yang telah diperbaiki, tiga di antaranya dilaporkan secara pribadi oleh seorang peneliti OpenAI, yang kemungkinan termasuk zero-day yang digunakan dalam serangan.