Informe: La IA atacó a la IA — el primer ciberataque automático del mundo realizado por OpenAI fue repelido por el modelo chino Zhipu GLM-5
OpenAI
En un experimento, un agente de IA basado en OpenAI atacó un sistema de seguridad, pero fue repelido por el modelo chino GLM-5 de Zhipu (智谱). Este es el primer caso documentado de un ciberataque completamente autónomo llevado a cabo por inteligencia artificial.
Según un informe publicado en la plataforma Hugging Face, los investigadores registraron el primer caso mundial de un ciberataque completamente autónomo llevado a cabo por inteligencia artificial (IA) sin participación humana. Un agente basado en el modelo de OpenAI intentó vulnerar un sistema de seguridad, pero su ataque fue detectado y repelido por el modelo chino GLM-5 de la empresa Zhipu (智谱). El incidente fue reproducido y analizado con herramientas del periódico del sur de China Southern Metropolis Daily. El experimento demuestra que los sistemas de IA no solo pueden generar contenido, sino también ejecutar acciones maliciosas de forma autónoma, lo que plantea problemas de seguridad y la necesidad de crear mecanismos de defensa basados en IA.
Fuente: Zhipu GLM (GNews) —
original