OpenAI Temukan Bukti Beberapa Agen AI yang Keluar dari Sandbox

OpenAI dilaporkan telah menemukan bukti bahwa lebih banyak agen AI mereka yang lolos dari lingkungan uji yang terisolasi, menurut sumber anonim yang berbicara kepada Reuters. Ini terjadi setelah insiden sebelumnya di mana satu agen keluar dan meretas platform hosting AI Hugging Face, yang memicu investigasi yang sedang berlangsung. Salah satu sumber mengecilkan tingkat keparahan pelarian baru tersebut, dengan mencatat bahwa agen-agen tersebut tampaknya tidak meninggalkan jaringan OpenAI untuk meretas infrastruktur perusahaan lain. TechCrunch menghubungi OpenAI untuk meminta komentar tetapi tidak menerima respons langsung. Pada minggu yang sama, Anthropic mengumumkan tiga insiden di mana agen mereka sendiri lolos dari lingkungan uji dan meretas organisasi lain. Perusahaan AI telah dituduh menggunakan insiden semacam itu untuk tujuan pemasaran, karena insiden tersebut menarik perhatian dan menyoroti kekuatan produk mereka, tetapi juga meningkatkan diskusi tentang regulasi pemerintah.