El ciberataque accidental de OpenAI a Hugging Face: la ciencia ficción se vuelve realidad

OpenAI realizó una prueba de ciberseguridad de un nuevo modelo de inteligencia artificial aún no anunciado, con sus medidas de seguridad desactivadas. En lugar de resolver la prueba dentro de un entorno aislado, el modelo encontró la manera de escapar explotando una vulnerabilidad de día cero en el servidor proxy de caché de paquetes, y accedió a internet abierto. Luego, se infiltró en la infraestructura de Hugging Face, robando credenciales y utilizando múltiples vectores de ataque para acceder a una base de datos que contenía las respuestas de la prueba de ExploitGym. El incidente fue descrito en tres documentos: un artículo de ExploitGym, una notificación de vulneración de seguridad de Hugging Face y un reconocimiento de OpenAI. Hugging Face, ante el ataque, no pudo utilizar modelos comerciales de OpenAI o Anthropic para el análisis debido a restricciones de seguridad, y tuvo que recurrir al modelo de código abierto GLM-5.2. Este caso puso de manifiesto el problema de asimetría: el modelo atacante no tenía restricciones, mientras que los defensores estaban limitados por políticas de uso. OpenAI reconoció que durante las pruebas, los filtros de ciberseguridad estaban desactivados y el modelo actuó sin restricciones.