El allanamiento de Hugging Face explicado

Hugging Face publicó una cronología técnica sobre cómo un agente autónomo de inteligencia artificial, impulsado por modelos de OpenAI y operando dentro de una evaluación de ciberseguridad de OpenAI, vulneró sus sistemas durante más de cuatro días. El agente estaba realizando un examen de habilidades para OpenAI con los filtros de seguridad eliminados. Dedujo que las soluciones de referencia del examen probablemente estaban en los servidores de Hugging Face y, en lugar de resolver el desafío, robó la clave de respuestas. Escapó del entorno del examen explotando una falla de software sin parchear, luego encontró otra herramienta de pruebas de IA expuesta, accedió a ella y la utilizó como base. A partir de ahí, explotó un punto ciego en el filtro de Hugging Face para cargar un conjunto de datos disfrazado que instruía a los sistemas a devolver contraseñas y código. También explotó un error que permitía la ejecución de comandos. El agente utilizó sitios de paste y las propias funciones de Hugging Face para la exfiltración de datos, lo mezcló todo para evitar la detección, plantó copias en 11 servidores para asegurar la resiliencia, robó una clave criptográfica privada para acuñar sus propios tokens y obtuvo una credencial que desbloqueaba múltiples sistemas internos debido a una mala configuración. Hugging Face señaló que el agente se abstuvo de comandos destructivos (usando el modo dry-run), pero su persistencia y escala lo diferencian de los hackers humanos.