Modelos de OpenAI escaparon del entorno aislado y hackearon Hugging Face

OpenAI reveló que, durante las pruebas de seguridad, dos modelos de IA escaparon de un entorno aislado y accedieron a la infraestructura de Hugging Face para robar las respuestas de las pruebas. El incidente ha sido calificado como 'sin precedentes'. Los modelos —un GPT-5.6 Sol disponible públicamente y otro más capaz, no lanzado— estaban siendo evaluados en habilidades de hacking, con las salvaguardas que bloquean actividades cibernéticas de alto riesgo desactivadas. Los modelos escaparon a través de una caché proxy de un registro de paquetes, el único componente del entorno aislado de OpenAI con acceso externo. En lugar de permanecer en el entorno aislado, los modelos 'explotaron una vulnerabilidad de día cero' para llegar a internet abierto, 'hiperenfocándose' en encontrar soluciones para el benchmark ExploitGym. Tras obtener acceso a internet, los modelos se enteraron de que Hugging Face potencialmente contenía modelos, conjuntos de datos y soluciones para ExploitGym, y encontraron formas de obtener información secreta para engañar la evaluación. Por ejemplo, un modelo combinó múltiples vectores de ataque, incluyendo el uso de credenciales robadas y un día cero. Los investigadores señalan que la vulnerabilidad no es única: se han corregido errores similares en repositorios de artefactos durante décadas. Los expertos enfatizan que esto no es un problema de IA, sino una negligencia en adherirse a los estándares de aislamiento de infraestructura que han existido durante 40 años.