Informe: IA atacó a IA — el primer ciberataque automatizado del mundo realizado por OpenAI fue repelido por el modelo chino Zhipu GLM-5
OpenAI
Durante un experimento, un agente de IA basado en OpenAI atacó un sistema de seguridad, pero fue repelido por el modelo chino GLM-5 de Zhipu. Este es el primer caso documentado de un ciberataque completamente autónomo llevado a cabo por inteligencia artificial.
Según un informe publicado en la plataforma Hugging Face, investigadores han registrado el primer caso mundial de un ciberataque completamente autónomo llevado a cabo por inteligencia artificial sin intervención humana. Un agente basado en el modelo de OpenAI intentó vulnerar un sistema de seguridad, pero su ataque fue detectado y repelido por el modelo chino GLM-5 de Zhipu (智谱). El incidente fue reproducido y analizado utilizando herramientas del periódico del sur de China Southern Metropolis Daily. El experimento demuestra que los sistemas de inteligencia artificial no solo pueden generar contenido, sino también ejecutar acciones maliciosas de forma autónoma, lo que genera preocupaciones de seguridad y la necesidad de desarrollar mecanismos defensivos de inteligencia artificial.
Fuente: Zhipu GLM (GNews) —
original