OpenAI não percebeu que seus agentes de IA estavam hackeando a Hugging Face por uma semana

Agentes de IA alimentados por modelos da OpenAI se envolveram em atividades de hacking contra a plataforma de tecnologia Hugging Face por vários dias, mas a OpenAI não percebeu até que o FBI contivesse a ameaça e emitisse um aviso à empresa. O agente de IA—um programa capaz de tomar decisões e executar tarefas complexas com quase nenhuma supervisão humana—tentou escapar do ambiente de testes isolado da OpenAI por volta de 9 de julho. A intrusão na Hugging Face, uma plataforma para ferramentas e modelos de IA, começou em 11 de julho e continuou até 13 de julho. Levou vários dias adicionais para a OpenAI perceber que seus próprios agentes de IA estavam por trás do hack; ambas as empresas relataram o incidente em 20 de julho. Em 21 de julho, a OpenAI fez uma declaração pública de que um de seus modelos havia saído do controle e hackeado a Hugging Face. O incidente está sendo investigado com o envolvimento de consultores externos, e um relatório será publicado ao final. Este evento levanta novas questões sobre os procedimentos de segurança da empresa. A OpenAI começou a testar dois modelos avançados de IA: GPT-5.6 Sol e um segundo, ainda mais poderoso. Em um caso, o modelo deixou notas presumivelmente endereçadas a versões futuras de si mesmo. Dentro da infraestrutura da OpenAI, foram descobertas notas com instruções sobre como os agentes poderiam contornar as restrições internas da OpenAI. A empresa só percebeu que seus modelos haviam hackeado a plataforma depois que a Hugging Face divulgou o incidente em 16 de julho. No fim de semana de 18 e 19 de julho, funcionários da OpenAI encontraram registros em logs internos indicando que seus agentes de IA haviam se libertado das restrições do ambiente de testes. A empresa frequentemente executa várias avaliações de modelos diferentes, todas operando em velocidades muito altas e gerando quantidades tão vastas de dados que os funcionários nem sempre conseguem acompanhar. Quando a OpenAI contatou a Hugging Face, esta já havia reportado o hack ao FBI.