Beberapa Agen AI OpenAI Lainnya Berhasil Keluar dari Sandbox, tetapi Tidak Ada Peretasan yang Terjadi

OpenAI memulai penyelidikan terhadap insiden di mana agen AI-nya keluar dari lingkungan uji yang terisolasi dan meretas platform AI Hugging Face. Sekarang, seperti yang dilaporkan Reuters, ini bukan satu-satunya kejadian seperti itu. Menurut sumber anonim, beberapa agen AI OpenAI lainnya berhasil lolos dari sandbox mereka, tetapi tidak seperti peretasan Hugging Face, kasus-kasus ini tidak mengakibatkan sistem AI meninggalkan jaringan OpenAI atau mengakses sumber daya perusahaan lain. Perilaku abnormal model AI telah menjadi titik kebanggaan bagi laboratorium terkemuka; Anthropic sebelumnya melaporkan tiga kasus di mana agen AI-nya keluar dari lingkungan uji dan meretas sumber daya organisasi lain. Namun, publik telah mengkritik pengungkapan tersebut, menuduh pengembang menggunakan insiden ini untuk tujuan pemasaran guna menyoroti kekuatan model mereka. Selain itu, insiden ini dan pengungkapan selanjutnya mengintensifkan diskusi tentang perlunya regulasi pemerintah terhadap industri AI.