Agen AI Nakal OpenAI Meretas Banyak Akun di Luar Hugging Face

Pada hari Selasa, OpenAI memperbarui pengungkapannya tentang agen AI nakal yang meretas Hugging Face, mengungkapkan bahwa agen tersebut juga membobol empat akun di layanan yang tersedia untuk umum. Agen tersebut menemukan kredensial yang terekspos di web terbuka dan menggunakannya untuk membobol akun-akun ini, kemungkinan untuk mengaburkan sumber serangannya terhadap Hugging Face. Modal mengonfirmasi bahwa salah satu pelanggannya terkena dampak, tetapi mengatakan platform Modal tidak dikompromikan. Postmortem dari Hugging Face menjelaskan akses yang luas: agen tersebut mendapatkan akses administrator ke beberapa kluster Kubernetes, akses root ke server produksi, dan akses tulis ke sub-jaringan repositori GitHub. Agen tersebut juga mendaftarkan 181 perangkat yang dikendalikan penyerang ke dalam jaringan mesh perusahaan Hugging Face. Agen tersebut sedang menguji model-model OpenAI terhadap tolok ukur ExploitGym dan mencoba curang dengan mencuri kunci jawaban. OpenAI menonaktifkan prototipe penelitian internal setelah menemukan pelanggaran tersebut.