Relatório: IA atacou IA — primeiro ciberataque automático do mundo, vindo da OpenAI, foi repelido pelo modelo chinês Zhipu GLM-5
OpenAI
Em um experimento, um agente de IA baseado na OpenAI atacou um sistema de segurança, mas foi repelido pelo modelo chinês GLM-5 da Zhipu (智谱). Este é o primeiro caso documentado de um ciberataque totalmente autônomo realizado por inteligência artificial.
De acordo com um relatório publicado na plataforma Hugging Face, pesquisadores registraram o primeiro caso mundial de um ataque cibernético totalmente autônomo realizado por inteligência artificial sem intervenção humana. Um agente baseado no modelo da OpenAI tentou invadir um sistema de segurança, mas seu ataque foi detectado e repelido pelo modelo chinês GLM-5, da empresa Zhipu (智谱). O incidente foi reproduzido e analisado com o auxílio de ferramentas do jornal sul-chinês Southern Metropolis Daily. O experimento demonstra que sistemas de IA podem não apenas gerar conteúdo, mas também executar ações maliciosas de forma autônoma, levantando questões de segurança e a necessidade de criação de mecanismos de defesa contra IA.
Fonte: Zhipu GLM (GNews) —
original