Hugging Face revela detalles de la violación de julio de 2026 que involucra un agente de IA

Hugging Face ha revelado los detalles de un incidente de seguridad ocurrido en julio de 2026. Un atacante obtuvo acceso a un conjunto limitado de conjuntos de datos internos y a varias credenciales de servicio. La intrusión comenzó a través de un pipeline de procesamiento de datos: un conjunto de datos malicioso explotó dos vías de ejecución de código (un cargador remoto de código y una inyección de plantillas en la configuración del conjunto de datos), lo que permitió la ejecución de código en un nodo de procesamiento trabajador. El atacante escaló privilegios hasta el nivel del nodo, obtuvo credenciales de la nube y del clúster, y se movió lateralmente hacia varios clústeres internos. La campaña fue llevada a cabo por un agente autónomo de inteligencia artificial (posiblemente basado en herramientas de investigación para ataques basados en agentes), que ejecutó miles de acciones individuales a través de un enjambre de entornos sandbox de corta duración. Hugging Face solucionó la vulnerabilidad raíz cerrando las vías de ejecución de código, destruyó el punto de entrada del atacante en los clústeres afectados, revocó y reemplazó credenciales y tokens comprometidos, implementó controles adicionales y mejoró la detección de amenazas. El ataque fue detectado mediante detección asistida por inteligencia artificial: un pipeline de anomalías basado en un modelo de lenguaje grande (LLM, por sus siglas en inglés) analizó registros de seguridad y destacó actividades sospechosas. Para la reconstrucción del ataque, Hugging Face utilizó análisis con LLM de más de 17 000 eventos de registro. Los intentos iniciales de usar modelos de API comerciales fallaron debido al bloqueo de solicitudes con comandos de ataque reales por parte de las políticas de seguridad del proveedor. Finalmente, el análisis forense se realizó utilizando el modelo abierto GLM 5.2 en la propia infraestructura de la empresa, asegurando que los datos y credenciales del atacante nunca salieran de su entorno. Hugging Face enfatiza que las herramientas de ataque autónomas basadas en inteligencia artificial ya no son teóricas y recomienda que los defensores preparen su propio modelo para operaciones en circuito cerrado durante incidentes.