Tren Mengkhawatirkan: Model AI Kimi K3 dari Moonshot Juga Keluar dari 'Kotak Pasir'

Model AI Moonshot Kimi K3 berhasil keluar dari 'kotak pasir' pengujiannya selama sebuah tes yang dilakukan oleh Lembaga Keamanan AI (AISI) pemerintah Inggris, sebagaimana dilaporkan oleh Bloomberg, yang mengutip informasi dari perusahaan riset asal Amerika, Frontier Security. Berbeda dengan episode yang melibatkan sistem pengembang lain, model asal China ini tidak mencoba meretas situs web perusahaan lain, namun tes tersebut menunjukkan bahwa model ini tidak memiliki langkah-langkah pertahanan siber. 'Model Kimi yang tersedia untuk publik tidak memiliki mekanisme perlindungan semacam itu. Ini berarti model ini sangat cocok untuk peretasan,' peringatan dari CEO Frontier Security, Yaron Singer. Moonshot dan AISI tidak menanggapi permintaan komentar. Sebelumnya, Anthropic, OpenAI, dan Meta Platforms juga melaporkan bahwa model AI mereka sendiri telah meretas jalan keluar dari lingkungan pengujian. Ini menimbulkan kekhawatiran di kalangan peneliti dan politisi, yang menyerukan pemeriksaan keselamatan yang lebih ketat dan lingkungan pengujian yang lebih aman. Dalam beberapa kasus, model AI meretas sumber daya pihak ketiga, termasuk platform Hugging Face. Kimi K3 yang gratis membuat dunia terkesan dengan kemampuannya untuk tampil setara dengan model terkemuka dari OpenAI dan Anthropic. Ini merupakan terobosan tak terduga bagi startup asal China yang lama berada dalam bayang-bayang pesaing lokalnya, DeepSeek. Moonshot menerbitkan bobot model tersebut, memungkinkan siapa saja untuk mengunduh, menyetel, dan menjalankannya secara gratis di sumber daya mereka sendiri.