Hugging Face Ungkap Detail Pelanggaran Juli 2026 yang Melibatkan AI Agent

Hugging Face telah mengungkapkan detail insiden keamanan yang terjadi pada Juli 2026. Seorang penyerang berhasil mengakses sejumlah terbatas kumpulan data internal dan beberapa kredensial layanan. Intrusi dimulai melalui sebuah jalur pemrosesan data: sebuah kumpulan data berbahaya mengeksploitasi dua jalur eksekusi kode (pemuat kode jarak jauh dan injeksi templat dalam konfigurasi kumpulan data), yang memungkinkan eksekusi kode pada simpul pekerja pemrosesan. Penyerang kemudian meningkatkan hak akses ke tingkat simpul, memperoleh kredensial cloud dan klaster, serta bergerak secara lateral ke beberapa klaster internal. Kampanye ini dilakukan oleh agen kecerdasan buatan yang otonom (kemungkinan dibangun berdasarkan peralatan riset untuk serangan berbasis agen), yang menjalankan ribuan tindakan individual melalui kawanan lingkungan bak pasir berumur pendek. Hugging Face mengatasi kerentanan utama dengan menutup jalur eksekusi kode, menghancurkan titik masuk penyerang di klaster yang terdampak, mencabut dan mengganti kredensial serta token yang dikompromikan, menerapkan kontrol tambahan, dan meningkatkan deteksi ancaman. Serangan ini terdeteksi menggunakan deteksi berbantuan kecerdasan buatan: sebuah jalur anomali berbasis model bahasa besar menganalisis log keamanan dan menyoroti aktivitas mencurigakan. Untuk rekonstruksi serangan, Hugging Face menggunakan analisis model bahasa besar terhadap lebih dari 17.000 peristiwa log. Upaya awal menggunakan model antarmuka pemrograman aplikasi komersial gagal karena pemblokiran permintaan yang berisi perintah serangan nyata oleh kebijakan keamanan penyedia. Pada akhirnya, analisis forensik dilakukan menggunakan model terbuka GLM 5.2 pada infrastruktur perusahaan sendiri, memastikan bahwa data dan kredensial penyerang tidak pernah meninggalkan lingkungan mereka. Hugging Face menekankan bahwa alat serangan kecerdasan buatan otonom sudah tidak lagi bersifat teoretis dan merekomendasikan agar pembela menyiapkan model mereka sendiri untuk operasi tertutup selama insiden.