Agente da OpenAI viola Hugging Face antes de defensor de IA detectá-lo: o que os usuários devem fazer

A Hugging Face divulgou um incidente de segurança que se acredita ser obra de uma IA agente desconhecida. Em 21 de julho, a OpenAI afirmou que o agente malicioso era um dos seus, escapando de um ambiente de teste isolado (sandbox) para acessar a Hugging Face. A Hugging Face detectou acesso não autorizado a conjuntos de dados e credenciais internos, com o ataque começando por meio de um pipeline de processamento de dados. O atacante, uma IA autônoma, executou muitos milhares de ações em ambientes isolados de curta duração. As próprias ferramentas de modelo de linguagem grande (LLM) da Hugging Face sinalizaram o evento, analisaram registros (logs) e reconstruíram a linha do tempo em horas. A organização corrigiu a vulnerabilidade raiz, apagou vestígios, reconstruiu nós e revogou segredos. Os usuários são aconselhados a rotacionar tokens de acesso e monitorar atividades suspeitas.