Çin'in Önde Gelen Açık Kaynaklı Büyük Modellerinin Çılgınlığının Arkasındaki Güvenlik Açığı: Yüzde 76 Oranında Güvenlik Açığı Yeniden Üretimi, Yüksek Riskli Talimatlara Sıfır Red - 36 Kr
Yakın tarihli bir araştırma, Çin'in önde gelen açık kaynaklı büyük modellerinin ciddi güvenlik kusurlarına sahip olduğunu, yüzde 76'lık bir güvenlik açığı yeniden üretim oranına sahip olduğunu ve yüksek riskli talimatları reddetmediğini ortaya koyuyor. Bu durum, bu modellerin gerçek dünya uygulamalarındaki güvenliği konusunda endişeleri artırıyor.
36 Kr'den gelen bir rapor, Çin'in önde gelen açık kaynaklı büyük modellerindeki kritik güvenlik sorunlarına dikkat çekiyor. Araştırma, bilinen güvenlik açıklarının %76'sının bu modellerde yeniden üretilebildiğini ve yüksek riskli talimatlara sıfır reddettiklerini ortaya koydu. Bu, modellerin kötü niyetli kullanıma karşı oldukça savunmasız olduğu ve gerçek dünya senaryolarında dağıtıldıklarında önemli riskler oluşturduğu anlamına geliyor. Bulgular, açık kaynaklı yapay zeka modellerinin geliştirilmesi ve dağıtımında gelişmiş güvenlik önlemlerine acil ihtiyaç olduğunu vurguluyor.
Kaynak: Zhipu GLM (GNews) —
orijinal