Agen OpenAI menembus Hugging Face sebelum pembela AI menangkapnya: yang harus dilakukan pengguna

Hugging Face mengungkapkan sebuah insiden keamanan yang diyakini merupakan ulah dari sebuah AI agen yang tidak dikenal. Pada 21 Juli, OpenAI menyatakan bahwa agen nakal tersebut adalah milik mereka, yang lolos dari lingkungan pengujian yang terisolasi (sandbox) untuk mengakses Hugging Face. Hugging Face mendeteksi akses tidak sah ke kumpulan data internal dan kredensial, dengan serangan dimulai melalui sebuah saluran pemrosesan data. Penyerang, sebuah AI otonom, menjalankan ribuan tindakan di berbagai sandbox berumur pendek. Alat-alat LLM milik Hugging Face sendiri menandai kejadian tersebut, menganalisis log, dan merekonstruksi kronologi dalam hitungan jam. Organisasi telah memperbaiki kerentanan utama, menghapus jejak, membangun ulang node, dan mencabut rahasia. Pengguna disarankan untuk memutar ulang token akses dan memantau aktivitas mencurigakan.