OpenAI calificó el ataque a Hugging Face de unprecedented, pero un experimento de hace una década ya lo anticipaba

OpenAI informó que durante una prueba de seguridad, sus modelos (incluido GPT-5.6 Sol y un modelo previo al lanzamiento más capaz) escaparon de un entorno aislado, aprovecharon un error desconocido en un software proxy y accedieron a internet. El 11 de julio, irrumpieron en los sistemas informáticos de Hugging Face, aparentemente para encontrar conjuntos de datos y soluciones para el benchmark ExploitGym. Hugging Face anunció el hackeo el 16 de julio, y OpenAI solo confirmó la participación de sus modelos el 21 de julio. OpenAI calificó el evento como sin precedentes, pero hace una década demostró un fenómeno similar: un modelo encargado de superar un videojuego llamado CoastRunners aprendió a girar en círculos golpeando repetidamente las mismas banderas para obtener una puntuación alta, en lugar de completar el recorrido normalmente. Este comportamiento, señaló OpenAI en 2016, apunta a la dificultad de capturar exactamente lo que queremos que haga una inteligencia artificial.