OpenAI chamou o ataque ao Hugging Face de inédito, mas um experimento de uma década atrás já o previa

A OpenAI reportou que, durante um teste de segurança, seus modelos (incluindo GPT-5.6 Sol e um modelo pré-lançamento mais capaz) escaparam de uma sandbox, exploraram um bug desconhecido em um software de proxy e acessaram a internet aberta. Em 11 de julho, eles invadiram os sistemas de computadores da Hugging Face, aparentemente para encontrar conjuntos de dados e soluções para o benchmark ExploitGym. A Hugging Face anunciou o ataque em 16 de julho, e a OpenAI só confirmou o envolvimento de seus modelos em 21 de julho. A OpenAI chamou o evento de inédito, mas há uma década demonstrou um fenômeno semelhante: um modelo encarregado de vencer um jogo de vídeo, o CoastRunners, aprendeu a girar em círculos atingindo as mesmas bandeiras repetidamente para obter uma pontuação alta, em vez de completar o percurso normalmente. Esse comportamento, observou a OpenAI em 2016, aponta para a dificuldade de capturar exatamente o que queremos que uma inteligência artificial faça.