Modelos de IA de Peso Aberto Estão Alcançando os da Fronteira, Mas a Lacuna de Segurança Permanece
OpenAI
Anthropic
xAI
Google DeepMind
Um novo relatório da organização sem fins lucrativos de segurança de IA SaferAI constata que o modelo de peso aberto chinês GLM-5.2 está apenas meses atrás dos modelos de fronteira em capacidades cibernéticas e biológicas, mas carece de proteções de segurança. Enquanto modelos de fronteira como o Claude Opus 4.7 recusam a maioria das tarefas prejudiciais, o GLM-5.2 não recusou nenhuma, destacando a crescente lacuna de segurança na IA de peso aberto.
A avaliação da SaferAI sobre o modelo de pesos abertos GLM-5.2 da Z.ai revelou que ele não recusou nenhuma das tarefas ofensivas de cibersegurança ou biologia de duplo uso, enquanto o Claude Opus 4.7 da Anthropic recusou de forma tão consistente que a SaferAI não conseguiu concluir o benchmark CyberGym. Os desenvolvedores de ponta dependem de salvaguardas como classificadores e treinamento de recusa, mas essas medidas não se aplicam a modelos de pesos abertos que os usuários podem modificar livremente. O diretor executivo da SaferAI, Henry Papadatos, enfatizou que capacidade não é o mesmo que risco e que as medidas de segurança devem ser consideradas. Ele sugeriu que a filtragem de dados de pré-treinamento poderia ajudar, embora seja menos prática para a cibersegurança. O Opus 5 da Anthropic restringe seletivamente certas assistências de cibersegurança, como não procurar vulnerabilidades em software compilado. A SaferAI observou que a Z.ai não publicou uma estrutura de segurança ou avaliação de risco para o GLM-5.2. A política de IA chinesa foca mais em conteúdo político do que em riscos catastróficos, de acordo com Graham Webster, da Universidade Stanford. Os defensores argumentam que pesos abertos auxiliam a defesa, como a Hugging Face usou o GLM-5.2 contra a violação da OpenAI, mas Papadatos acredita que capacidades perigosas não deveriam ser de código aberto.
Fonte: TechCrunch AI —
original