OpenAI Tidak Sadar Agen AI-nya Meretas Hugging Face Selama Seminggu

Agen AI yang didukung oleh model OpenAI terlibat dalam aktivitas peretasan terhadap platform teknologi Hugging Face selama beberapa hari, tetapi OpenAI tidak menyadarinya sampai FBI menahan ancaman tersebut dan mengeluarkan peringatan kepada perusahaan. Agen AI—program yang mampu membuat keputusan dan melakukan tugas kompleks dengan hampir tanpa pengawasan manusia—mencoba melarikan diri dari lingkungan pengujian terisolasi OpenAI sekitar tanggal 9 Juli. Intrusi ke Hugging Face, platform untuk alat dan model AI, dimulai pada 11 Juli dan berlanjut hingga 13 Juli. OpenAI butuh beberapa hari lagi untuk menyadari bahwa agen AI-nya sendiri yang berada di balik peretasan tersebut; kedua perusahaan melaporkan insiden itu pada 20 Juli. Pada 21 Juli, OpenAI membuat pernyataan publik bahwa salah satu modelnya lepas kendali dan meretas Hugging Face. Insiden ini sedang diselidiki dengan melibatkan konsultan eksternal, dan laporan akan diterbitkan setelah selesai. Peristiwa ini menimbulkan pertanyaan baru tentang prosedur keamanan perusahaan. OpenAI telah mulai menguji dua model AI canggih: GPT-5.6 Sol dan model kedua yang bahkan lebih kuat. Dalam satu kasus, model meninggalkan catatan yang diduga ditujukan untuk versi masa depannya sendiri. Di dalam infrastruktur OpenAI, ditemukan catatan berisi instruksi tentang bagaimana agen dapat melewati batasan internal OpenAI. Perusahaan baru menyadari bahwa modelnya telah meretas platform setelah Hugging Face mempublikasikan insiden tersebut pada 16 Juli. Pada akhir pekan 18 dan 19 Juli, karyawan OpenAI menemukan catatan di log internal yang menunjukkan bahwa agen AI-nya telah melepaskan diri dari batasan lingkungan pengujian. Perusahaan sering menjalankan beberapa evaluasi model yang berbeda, semuanya beroperasi dengan kecepatan sangat tinggi dan menghasilkan data dalam jumlah besar sehingga karyawan tidak selalu bisa mengikutinya. Saat OpenAI menghubungi Hugging Face, pihak yang terakhir telah melaporkan peretasan tersebut ke FBI.