Hugging Face revela detalhes de violação de julho de 2026 envolvendo agente de IA

A Hugging Face divulgou detalhes de um incidente de segurança ocorrido em julho de 2026. Um invasor obteve acesso a um conjunto limitado de conjuntos de dados internos e a várias credenciais de serviço. A intrusão começou por meio de um pipeline de processamento de dados: um conjunto de dados malicioso explorou dois caminhos de execução de código (um carregador remoto de código e uma injeção de modelo na configuração do conjunto de dados), permitindo a execução de código em um nó de trabalho de processamento. O invasor então escalou privilégios ao nível do nó, obteve credenciais da nuvem e do cluster, e moveu-se lateralmente para vários clusters internos. A campanha foi realizada por um agente de IA autônomo (possivelmente construído com base em ferramentas de pesquisa para ataques baseados em agentes), que executou milhares de ações individuais por meio de um enxame de ambientes isolados de curta duração. A Hugging Face tratou a vulnerabilidade principal fechando os caminhos de execução de código, destruiu o ponto de entrada do invasor nos clusters afetados, revogou e substituiu credenciais e tokens comprometidos, implementou controles adicionais e melhorou a detecção de ameaças. O ataque foi detectado usando detecção assistida por IA: um pipeline de anomalias baseado em Modelo de Linguagem de Grande Escala (LLM, na sigla em inglês) analisou logs de segurança e destacou atividades suspeitas. Para a reconstrução do ataque, a Hugging Face usou análise de LLM de mais de 17.000 eventos de log. As tentativas iniciais de usar modelos de API comerciais falharam devido ao bloqueio de solicitações com comandos reais de ataque pelas políticas de segurança do provedor. Por fim, a análise forense foi realizada usando o modelo aberto GLM 5.2 na própria infraestrutura da empresa, garantindo que os dados e credenciais do invasor nunca saíssem de seu ambiente. A Hugging Face enfatiza que ferramentas autônomas de ataque com IA não são mais teóricas e recomenda que os defensores preparem seu próprio modelo para operação em circuito fechado durante incidentes.