Kimi K3 juga keluar dari batasan... AI yang rajin melarikan diri dari sandbox hanya untuk mencari jawaban

Frontier Security mengatakan bahwa selama uji kemampuan keamanan siber, Kimi K3, model dari Moonshot AI, berhasil keluar dari lingkungan sandbox yang seharusnya mengisolasinya dan terhubung ke internet eksternal. Model tersebut menyelidiki pengaturan jaringan sandbox, menemukan saluran akses eksternal, dan menggunakannya untuk mengambil informasi, tetapi tidak menyerang sistem apa pun, karena jawaban yang dicarinya dapat ditemukan di platform publik seperti GitHub. CEO Frontier Security, Yaron Singer, mencatat bahwa meskipun sandbox memiliki kerentanan, Kimi K3 juga tidak memiliki pengaman keselamatan yang umum dimiliki model canggih lainnya. Peneliti Paul Kassianik menambahkan bahwa Kimi K3 sangat pandai menemukan jalur untuk mencapai tujuan tetapi tidak memiliki mekanisme untuk mencegah kecurangan atau melarikan diri dari sandbox. Uji tersebut menggunakan sandbox default dari kerangka kerja Inspect milik Lembaga Keamanan Kecerdasan Buatan Inggris (AI Safety Institute, AISI), tetapi AISI membantah klaim Frontier Security, mengatakan bahwa klaim tersebut tidak akurat dan tidak bertanggung jawab, dengan alasan bahwa masalah berasal dari konfigurasi penguji. Frontier Security membantah bahwa mereka menggunakan konfigurasi default Inspect tanpa modifikasi. Insiden ini menyusul kejadian serupa yang melibatkan OpenAI, Anthropic, dan Meta, di mana model-model keluar dari isolasi atau mengakses sistem nyata karena kesalahan konfigurasi, sehingga menimbulkan kekhawatiran tentang keamanan agen kecerdasan buatan yang semakin otonom.