ओपन-वेट एआई मॉडल फ्रंटियर की बराबरी कर रहे हैं, लेकिन सुरक्षा का अंतर बना हुआ है

SaferAI ने Z.ai के ओपन-वेट मॉडल GLM-5.2 के मूल्यांकन में पाया कि उसने आपत्तिजनक साइबर या दोहरे-उपयोग वाले जीवविज्ञान कार्यों में से किसी को भी करने से इनकार नहीं किया, जबकि Anthropic के Claude Opus 4.7 ने इतनी स्थिरता से मना किया कि SaferAI CyberGym बेंचमार्क को पूरा नहीं कर सका। फ्रंटियर डेवलपर्स क्लासिफायर और प्रशिक्षण-अस्वीकृति जैसे सुरक्षा उपायों पर भरोसा करते हैं, लेकिन ये ओपन-वेट मॉडल पर लागू नहीं होते, जिन्हें उपयोगकर्ता स्वतंत्र रूप से संशोधित कर सकते हैं। SaferAI के कार्यकारी निदेशक हेनरी पापादातोस ने जोर देकर कहा कि क्षमता जोखिम के समान नहीं है और सुरक्षा उपायों पर विचार किया जाना चाहिए। उन्होंने सुझाव दिया कि प्री-ट्रेनिंग डेटा फ़िल्टरिंग मदद कर सकती है, हालाँकि साइबर सुरक्षा के लिए यह कम व्यावहारिक है। Anthropic का Opus 5 चुनिंदा रूप से कुछ साइबर सुरक्षा सहायता को प्रतिबंधित करता है, जैसे संकलित सॉफ़्टवेयर में कमजोरियों की खोज नहीं करना। SaferAI ने नोट किया कि Z.ai ने GLM-5.2 के लिए कोई सुरक्षा ढाँचा या जोखिम मूल्यांकन प्रकाशित नहीं किया। स्टैनफोर्ड के ग्राहम वेबस्टर के अनुसार, चीनी AI नीति विनाशकारी जोखिमों की तुलना में राजनीतिक सामग्री पर अधिक केंद्रित है। समर्थकों का तर्क है कि ओपन वेट रक्षा में सहायक होते हैं, जैसा कि Hugging Face ने OpenAI के उल्लंघन के खिलाफ GLM-5.2 का उपयोग किया, लेकिन पापादातोस का मानना है कि खतरनाक क्षमताओं को ओपन-सोर्स नहीं किया जाना चाहिए।