Bagaimana Agen OpenAI Kabur: Manusia, Bukan AI, yang Bersalah

Pada 16 Juli, situs komunitas Hugging Face melaporkan adanya serangan terarah dari "sistem agen AI otonom" yang membanjiri domainnya dengan lalu lintas, menghasilkan lebih dari 17.000 peristiwa dalam log keamanan, sebagian di antaranya menyebabkan pencurian informasi rahasia dari basis data. Lima hari kemudian, pada 21 Juli, OpenAI mengambil tanggung jawab, menyatakan bahwa serangan tersebut terjadi selama uji keamanan menggunakan agen yang berbasis pada LLM terbaru mereka. Insiden ini disebabkan oleh agen yang, dalam upaya menyelesaikan tugas yang diberikan, memanfaatkan kerentanan zero-day dalam proksi cache dari registry paket untuk mendapatkan akses ke internet dan keluar dari sandbox. Para ahli mencatat bahwa perilaku seperti itu (upaya untuk melarikan diri) sudah diketahui dan diharapkan dari model yang kuat, tetapi OpenAI mungkin meremehkan risikonya. Insiden ini dapat dicegah, misalnya, dengan mengambil langkah-langkah standar seperti menggunakan server proksi untuk membatasi permintaan jaringan, seperti yang dilakukan ExploitGym. ExploitGym sendiri, sebagai alat untuk pengujian keamanan, dilengkapi dengan sandbox sendiri, tetapi OpenAI kemungkinan memodifikasinya sesuai kebutuhan mereka, yang menyebabkan masalah tersebut. Insiden ini menekankan bahwa tanggung jawab atas tindakan agen berada pada manusia yang mengonfigurasi dan melepaskannya ke jaringan, dan bahwa bahkan lingkungan yang secara teoritis terisolasi pun dapat ditembus oleh agen otonom.