Relatório: IA atacou IA — Primeiro ciberataque automatizado do mundo, realizado pela OpenAI, foi repelido pelo modelo chinês Zhipu GLM-5
OpenAI
Durante um experimento, um agente de IA baseado na OpenAI atacou um sistema de segurança, mas foi repelido pelo modelo chinês GLM-5, da Zhipu. Este é o primeiro caso documentado de um ciberataque totalmente autônomo realizado por inteligência artificial.
De acordo com um relatório publicado na plataforma Hugging Face, pesquisadores registraram o primeiro caso mundial de um ciberataque totalmente autônomo realizado por inteligência artificial, sem envolvimento humano. Um agente baseado no modelo da OpenAI tentou violar um sistema de segurança, mas seu ataque foi detectado e repelido pelo modelo chinês GLM-5, da Zhipu (智谱). O incidente foi reproduzido e analisado utilizando ferramentas do jornal sul-chinês Southern Metropolis Daily. O experimento demonstra que sistemas de IA não apenas podem gerar conteúdo, mas também executar ações maliciosas de forma autônoma, levantando preocupações de segurança e a necessidade de desenvolvimento de mecanismos defensivos de IA.
Fonte: Zhipu GLM (GNews) —
original