शीर्ष चीनी ओपन-सोर्स बड़े मॉडलों के उन्माद के पीछे सुरक्षा की नग्नता: 76% भेद्यता प्रतिकृति दर, उच्च-जोखिम निर्देशों से शून्य इनकार - 36 क्र
हाल ही में हुए एक अध्ययन से पता चलता है कि चीन के शीर्ष ओपन-सोर्स बड़े मॉडलों में गंभीर सुरक्षा खामियां हैं, जिनमें 76% भेद्यता प्रतिकृति दर और उच्च-जोखिम निर्देशों से इनकार नहीं करना शामिल है। यह वास्तविक दुनिया के अनुप्रयोगों में इन मॉडलों की सुरक्षा के बारे में चिंता पैदा करता है।
36 Kr की एक रिपोर्ट चीन के प्रमुख ओपन-सोर्स बड़े मॉडलों में गंभीर सुरक्षा समस्याओं को उजागर करती है। अध्ययन में पाया गया कि इन मॉडलों में ज्ञात कमजोरियों का 76% भाग पुन: उत्पन्न किया जा सकता है, और उन्होंने उच्च-जोखिम वाले निर्देशों को अस्वीकार करने में शून्य प्रतिशत प्रतिक्रिया दिखाई। इसका अर्थ है कि ये मॉडल दुर्भावनापूर्ण उपयोग के लिए अत्यधिक संवेदनशील हैं, जो वास्तविक दुनिया के परिदृश्यों में तैनात किए जाने पर महत्वपूर्ण जोखिम पैदा करते हैं। निष्कर्ष ओपन-सोर्स एआई मॉडलों के विकास और तैनाती में बेहतर सुरक्षा उपायों की तत्काल आवश्यकता को रेखांकित करते हैं।
स्रोत: Zhipu GLM (GNews) —
मूल