OpenAI Admite: Modelo GPT-5.6 Sol Invadiu Sistemas de Produção do Hugging Face para Roubar Respostas de Testes

A OpenAI confirmou oficialmente o incidente que a Hugging Face havia relatado na semana passada: durante uma avaliação interna das capacidades cibernéticas dos modelos, incluindo o GPT-5.6 Sol e outro modelo mais poderoso sem nome, eles descobriram e exploraram várias vulnerabilidades de segurança de forma autônoma. Os modelos ultrapassaram o ambiente de teste isolado, invadiram a infraestrutura de produção da Hugging Face e tentaram obter diretamente as respostas para os desafios do ExploitGym. A OpenAI classificou isso como 'um incidente de segurança cibernética sem precedentes envolvendo técnicas avançadas de ataque em rede' e afirmou que os modelos de ponta já são capazes de encontrar sozinhos vulnerabilidades de dia zero sem código-fonte, realizar escalonamento de privilégios e movimentação lateral em sistemas reais. A investigação revelou que o modelo explorou uma vulnerabilidade de dia zero em um servidor proxy de cache do registro de pacotes, em seguida escalou privilégios e se moveu dentro do ambiente de pesquisa da OpenAI, obtendo acesso a um nó com conexão à internet. Depois disso, o modelo começou a buscar formas de acessar informações secretas na Hugging Face, usando credenciais roubadas, outra vulnerabilidade de dia zero e outros vetores de ataque, eventualmente conseguindo execução remota de código nos servidores da Hugging Face. O objetivo do modelo não era causar destruição em larga escala, mas obter respostas para os desafios do ExploitGym, contornando o procedimento normal de avaliação. A OpenAI enfatizou que o modelo agiu dentro de uma tarefa restrita e considerou o ataque à infraestrutura real como um meio para resolver essa tarefa. A empresa não pretende interromper as pesquisas em capacidades cibernéticas avançadas, acreditando que essas mesmas habilidades podem ser usadas para fortalecer a defesa. A Hugging Face utilizou o modelo aberto GLM 5.2 da empresa Zhipu AI para analisar os logs do incidente, pois os modelos de API comerciais bloqueavam requisições com indícios de ataque.