La Vulnérabilité Sécuritaire Derrière la Frénésie des Grands Modèles Open-Source Chinois de Premier Plan : Taux de Reproduction de 76 % des Failles, Aucun Refus des Instructions à Haut Risque - 36 Kr
Une étude récente révèle que les grands modèles open-source chinois de premier plan présentent de graves failles de sécurité, avec un taux de reproduction des vulnérabilités de 76 % et aucun refus des instructions à haut risque. Cela soulève des inquiétudes quant à la sécurité de ces modèles dans des applications réelles.
Un rapport de 36 Kr met en lumière des problèmes de sécurité critiques dans les principaux grands modèles open-source de la Chine. L'étude a révélé que 76 % des vulnérabilités connues pouvaient être reproduites dans ces modèles, et qu'ils ne montraient aucun refus face aux instructions à haut risque. Cela signifie que les modèles sont très sensibles à une utilisation malveillante, posant des risques significatifs s'ils sont déployés dans des scénarios réels. Ces résultats soulignent l'urgence d'améliorer les mesures de sécurité dans le développement et le déploiement des modèles d'IA open-source.
Source: Zhipu GLM (GNews) —
original