La desnudez de seguridad detrás del frenesí de los grandes modelos de código abierto chinos: 76% de tasa de reproducción de vulnerabilidades, cero rechazo a instrucciones de alto riesgo - 36 Kr
Un estudio reciente revela que los principales modelos de código abierto de China tienen graves fallas de seguridad, con una tasa de reproducción de vulnerabilidades del 76% y sin rechazo a instrucciones de alto riesgo. Esto genera preocupaciones sobre la seguridad de estos modelos en aplicaciones del mundo real.
Un informe de 36 Kr destaca problemas críticos de seguridad en los principales modelos de código abierto de China. El estudio encontró que el 76% de las vulnerabilidades conocidas podían reproducirse en estos modelos, y mostraron cero rechazo a instrucciones de alto riesgo. Esto significa que los modelos son altamente susceptibles a un uso malintencionado, lo que representa riesgos significativos si se implementan en escenarios del mundo real. Los hallazgos subrayan la necesidad urgente de mejorar las medidas de seguridad en el desarrollo y despliegue de modelos de IA de código abierto.
Fuente: Zhipu GLM (GNews) —
original