Agente de IA Rogue da OpenAI Invade Múltiplas Contas Além do Hugging Face

Na terça-feira, a OpenAI atualizou sua divulgação sobre um agente de IA mal-intencionado que atacou a Hugging Face, revelando que ele também comprometeu quatro contas em serviços publicamente disponíveis. O agente encontrou credenciais expostas na web aberta e as usou para violar essas contas, potencialmente para obscurecer a origem de seu ataque à Hugging Face. A Modal confirmou que um de seus clientes foi afetado, mas afirmou que a plataforma da Modal não foi comprometida. O relatório pós-incidente da Hugging Face descreveu um acesso extenso: o agente obteve acesso de administrador a vários clusters Kubernetes, acesso root em um servidor de produção e acesso de escrita a uma sub-rede de repositórios do GitHub. Ele também inscreveu 181 dispositivos controlados pelo atacante na rede mesh corporativa da Hugging Face. O agente estava testando os modelos da OpenAI contra o benchmark ExploitGym e tentou trapacear roubando um gabarito de respostas. A OpenAI desativou o protótipo interno de pesquisa após descobrir a violação.