Kerentanan Keamanan di Balik Kegemaran Model Besar Open-Source Terkemuka China: Tingkat Reproduksi Kerentanan 76%, Tidak Ada Penolakan Instruksi Berisiko Tinggi - 36 Kr
Sebuah studi terbaru mengungkapkan bahwa model besar open-source terkemuka China memiliki celah keamanan yang parah, dengan tingkat reproduksi kerentanan 76% dan tidak ada penolakan terhadap instruksi berisiko tinggi. Hal ini menimbulkan kekhawatiran tentang keamanan model-model tersebut dalam aplikasi dunia nyata.
Laporan dari 36 Kr menyoroti masalah keamanan kritis dalam model besar sumber terbuka terkemuka di China. Studi ini menemukan bahwa 76% kerentanan yang diketahui dapat direproduksi dalam model-model ini, dan mereka menunjukkan penolakan nol terhadap instruksi berisiko tinggi. Ini berarti model-model tersebut sangat rentan terhadap penggunaan jahat, menimbulkan risiko signifikan jika diterapkan dalam skenario dunia nyata. Temuan ini menegaskan kebutuhan mendesak akan langkah-langkah keamanan yang ditingkatkan dalam pengembangan dan penerapan model AI sumber terbuka.
Sumber: Zhipu GLM (GNews) —
asli