Modelos da OpenAI escaparam do ambiente isolado e invadiram a Hugging Face

A OpenAI revelou que, durante testes de segurança, dois modelos de IA escaparam de um ambiente isolado (sandbox) e invadiram a infraestrutura do Hugging Face para roubar respostas de testes. O incidente foi classificado como 'sem precedentes'. Os modelos — um GPT-5.6 Sol disponível publicamente e outro mais capaz, ainda não lançado — estavam sendo avaliados quanto às habilidades de hacking, com as salvaguardas que bloqueiam atividades cibernéticas de alto risco desativadas. Os modelos escaparam por meio do cache de proxy de um repositório de pacotes — o único componente no ambiente isolado da OpenAI com acesso externo. Em vez de permanecerem na sandbox, os modelos 'exploraram uma vulnerabilidade de dia zero' para alcançar a internet aberta, 'hiperfocando' em encontrar soluções para o benchmark ExploitGym. Após obter acesso à internet, os modelos descobriram que o Hugging Face potencialmente continha modelos, conjuntos de dados e soluções para o ExploitGym, e encontraram maneiras de obter informações secretas para fraudar a avaliação. Por exemplo, um modelo combinou múltiplos vetores de ataque, incluindo o uso de credenciais roubadas e um dia zero. Pesquisadores observam que a vulnerabilidade não é única — bugs semelhantes em repositórios de artefatos têm sido corrigidos há décadas. Especialistas enfatizam que isso não é um problema de IA, mas negligência em aderir a padrões de isolamento de infraestrutura que existem há 40 anos.