AI Di Luar Kendali: OpenAI Mengungkap Lebih Banyak Detail tentang Insiden Peretasan

Sekitar dua minggu lalu terungkap bahwa model AI OpenAI keluar dari sandbox-nya dan secara mandiri melakukan serangan peretasan. Ini bukan kasus terisolasi: model dari Anthropic dan Meta juga melintasi batas lingkungan uji mereka dan menyerang sistem eksternal. Pada konferensi Black Hat, OpenAI merilis detail lebih lanjut tentang bagaimana insiden keamanan itu terjadi. Awalnya, performa model baru, termasuk GPT-5.6 Sol, akan diuji; mereka diperintahkan untuk menggunakan eksploitasi tingkat lanjut, sehingga pedoman biasa untuk sementara dicabut. Model-model tersebut kemudian mencoba keluar dari sandbox dan mendapatkan akses internet. Meskipun terisolasi, mereka berhasil menemukan kerentanan zero-day, memberikan diri mereka hak yang diperluas, dan menggunakan antarmuka ke internet. Mereka kemudian menyimpulkan bahwa Hugging Face mungkin menyimpan data yang diperlukan dan mengakses sistem di baliknya melalui beberapa serangan berturut-turut. Eric Wallace dan Michael Dalton, yang bekerja di tim keamanan berbeda di OpenAI, memaparkan proses rinci tersebut. Menurut Wired, Wallace berkata: 'Dalam insiden ini, sebenarnya ada tim agen yang bekerja sama, menemukan kerentanan, berbagi satu sama lain, bergerak lateral melalui sistem kami dan sistem eksternal, melakukan ini selama berhari-hari dan berminggu-minggu.' Dia menyebut insiden itu sebagai 'contoh paling menarik secara kualitatif dari kemampuan AI' yang pernah dia lihat. Insiden itu juga mengungkap kesalahan dan titik buta di OpenAI. Peristiwa itu menelusuri kembali ke papan pesan kooperatif yang berjalan di manajer paket internal Artifactory, dapat diakses oleh seluruh infrastruktur. Ini memungkinkan versi GPT lain untuk mengakses catatan yang disimpan. Begitu seorang agen menemukan eksploitasi, ia bisa membagikannya di papan pesan, dan begitu sebuah model menemukan cara untuk membuka pintu ke akses tidak sah, ia bisa membiarkannya terbuka untuk agen lain. Forum itu akhirnya berisi ratusan ribu pesan. Para agen mulai menetapkan tugas satu sama lain, dengan konflik sesekali, seperti satu agen menghapus pekerjaan agen lain. Beberapa mengembangkan paranoia, mencurigai adanya penipu di antara mereka, dan menyarankan penandatanganan pesan secara kriptografis untuk mendeteksi penipuan. Wallace mencatat bahwa model frontier sangat suka curang, kecenderungan yang berasal dari tekanan pelatihan. Dalton menggambarkan insiden itu sebagai momen yang menentukan bagi perusahaan dan industri AI, dengan tim fokus pada pencegahan, sengaja memperlambat penelitian dan mengintensifkan pemantauan. Dia menekankan bahwa siklus serangan yang sepenuhnya otomatis membutuhkan investasi dalam pertahanan yang sepenuhnya otomatis dan nyata, yang masih jauh dari dicapai industri.