DoGNAVY dari China Peringkat Ketiga dalam Tolok Ukur Keamanan AI Global, Membuka Jalan bagi Keamanan Agen
Microsoft
OpenAI
Google DeepMind
Anthropic
DeepSeek
Dalam tolok ukur CyberGym terbaru, DoGNAVY, hasil kerja sama antara lembaga riset AI terkemuka China dan tim keamanan DARKNAVY, meraih peringkat ketiga secara global dengan tingkat kelulusan 90,8%, melampaui model OpenAI dan Anthropic. Tidak seperti pesaing yang menggunakan banyak model sumber tertutup, DoGNAVY mengandalkan satu model sumber terbuka, GLM-5.2, dan memperkenalkan AgentDoG, kerangka kerja diagnostik untuk agen AI.
CyberGym, sebuah benchmark dari UC Berkeley, menilai agen AI berdasarkan kemampuan mereka untuk secara otonom menemukan, memverifikasi, dan mengeksploitasi kerentanan dari 1507 kerentanan nyata yang telah diperbaiki di 188 proyek sumber terbuka. DoGNAVY, yang dikembangkan oleh lembaga riset AI terkemuka China dan DARKNAVY, mencapai tingkat keberhasilan 90,8% (1369 tugas), menempati peringkat ketiga secara global di belakang MDASH milik Microsoft (92,0%) dan Atlas dari Wiz×Google DeepMind (90,9%), serta mengungguli OpenAI GPT-5.5-Cyber (85,6%) dan Anthropic Claude Mythos (83,1%). Dua sistem teratas mengandalkan perutean tugas ke model sumber tertutup dengan kinerja terbaik, yang menimbulkan tantangan ketersediaan dan biaya bagi tim China. Sebaliknya, DoGNAVY hanya menggunakan satu model sumber terbuka, yaitu GLM-5.2 dari Zhipu, yang dapat diunduh secara gratis dari Hugging Face. DoGNAVY meniru alur kerja peneliti keamanan elit melalui alur kerja terstruktur, analisis jangkauan kerentanan, putaran umpan balik statis-dinamis, dan basis pengetahuan pengalaman riset keamanan yang tidak terikat platform. Arsitektur sistem ini mencakup AgentDoG, sebuah kerangka kerja keamanan sumber terbuka yang mendiagnosis perilaku agen, mengidentifikasi sumber risiko, dan menjelaskan motivasi pengambilan keputusan. Pelatihan AgentDoG menggunakan mekanisme pemilihan cerdas untuk memilih sampel kunci dan pemurnian data, menghasilkan model kecil dengan akurasi 78,4% pada tugas identifikasi risiko kompleks, sebanding dengan model teratas. Prestasi ini menunjukkan bahwa dengan model sumber terbuka dan keahlian keamanan dunia nyata, China dapat menangani tugas keamanan paling menantang, membuat kemampuan AI keamanan tingkat lanjut lebih mudah diakses.
Sumber: QbitAI 量子位 —
asli
