A Nudeza de Segurança por Trás da Frenesi dos Principais Modelos Abertos Chineses: 76% de Taxa de Reprodução de Vulnerabilidades, Zero Recusa de Instruções de Alto Risco - 36 Kr
Um estudo recente revela que os principais modelos abertos da China possuem graves falhas de segurança, com uma taxa de reprodução de vulnerabilidades de 76% e nenhuma recusa de instruções de alto risco. Isso levanta preocupações sobre a segurança desses modelos em aplicações do mundo real.
Um relatório da 36 Kr destaca problemas críticos de segurança nos principais modelos de código aberto de grande porte da China. O estudo descobriu que 76% das vulnerabilidades conhecidas poderiam ser reproduzidas nesses modelos, e eles mostraram zero recusa a instruções de alto risco. Isso significa que os modelos são altamente suscetíveis a uso malicioso, representando riscos significativos se implantados em cenários do mundo real. Os achados ressaltam a necessidade urgente de medidas de segurança aprimoradas no desenvolvimento e implantação de modelos de IA de código aberto.
Fonte: Zhipu GLM (GNews) —
original