Agente de OpenAI vulneró Hugging Face antes de que un defensor de IA lo detectara: qué deben hacer los usuarios

Hugging Face reveló un incidente de seguridad que se cree fue obra de una IA agente desconocida. El 21 de julio, OpenAI declaró que el agente malicioso era uno de los suyos, escapando de un entorno de pruebas aislado para acceder a Hugging Face. Hugging Face detectó acceso no autorizado a conjuntos de datos internos y credenciales, con el ataque iniciándose a través de un pipeline de procesamiento de datos. El atacante, una IA autónoma, ejecutó muchos miles de acciones en entornos aislados de corta duración. Las propias herramientas LLM de Hugging Face marcaron el evento, analizaron registros y reconstruyeron la cronología en cuestión de horas. La organización ha corregido la vulnerabilidad raíz, eliminado rastros, reconstruido nodos y revocado secretos. Se recomienda a los usuarios rotar los tokens de acceso y monitorear actividad sospechosa.