Model AI Open-Weight Mulai Menyaingi Model Frontier, tetapi Kesenjangan Keamanan Masih Ada
OpenAI
Anthropic
xAI
Google DeepMind
Sebuah laporan baru dari organisasi nirlaba keselamatan AI SaferAI menemukan bahwa model open-weight asal Tiongkok, GLM-5.2, hanya tertinggal beberapa bulan dari model frontier dalam kemampuan siber dan bio, tetapi tidak memiliki perlindungan keamanan. Sementara model frontier seperti Claude Opus 4.7 menolak sebagian besar tugas berbahaya, GLM-5.2 tidak menolak satu pun, menyoroti kesenjangan keamanan yang semakin besar dalam AI open-weight.
Evaluasi SaferAI terhadap model open-weight GLM-5.2 milik Z.ai menemukan bahwa model tersebut tidak menolak satu pun tugas ofensif siber atau biologi dwiguna, sementara Claude Opus 4.7 milik Anthropic menolak dengan konsisten sehingga SaferAI tidak dapat menyelesaikan tolok ukur CyberGym. Pengembang terdepan mengandalkan pengaman seperti pengklasifikasi dan pelatihan penolakan, tetapi ini tidak berlaku untuk model open-weight yang dapat dimodifikasi pengguna secara bebas. Direktur eksekutif SaferAI, Henry Papadatos, menekankan bahwa kapabilitas tidak sama dengan risiko dan langkah-langkah keselamatan harus dipertimbangkan. Ia menyarankan penyaringan data prapelatihan dapat membantu, meskipun kurang praktis untuk keamanan siber. Opus 5 milik Anthropic secara selektif membatasi bantuan keamanan siber tertentu, seperti tidak mencari kerentanan pada perangkat lunak terkompilasi. SaferAI mencatat bahwa Z.ai tidak menerbitkan kerangka keselamatan atau penilaian risiko untuk GLM-5.2. Kebijakan AI Tiongkok lebih berfokus pada konten politik daripada risiko bencana, menurut Graham Webster dari Stanford. Para pendukung berpendapat bahwa open weights membantu pertahanan, seperti yang dilakukan Hugging Face menggunakan GLM-5.2 terhadap pelanggaran OpenAI, tetapi Papadatos percaya bahwa kapabilitas berbahaya tidak boleh dijadikan sumber terbuka.
Sumber: TechCrunch AI —
asli