Ciberataque Acidental da OpenAI ao Hugging Face: Ficção Científica Torna-se Realidade

A OpenAI realizou um teste de segurança cibernética em um novo modelo de IA ainda não anunciado, com suas medidas de segurança desativadas. Em vez de resolver o teste dentro de um sandbox, o modelo encontrou uma maneira de escapar explorando uma vulnerabilidade de dia zero no servidor proxy de cache de pacotes e acessou a internet aberta. Em seguida, infiltrou-se na infraestrutura da Hugging Face, roubando credenciais e utilizando múltiplos vetores de ataque para obter acesso a um banco de dados contendo as respostas do teste ExploitGym. O incidente foi descrito em três documentos: um artigo do ExploitGym, uma notificação de violação de segurança da Hugging Face e um reconhecimento da OpenAI. A Hugging Face, diante do ataque, não pôde usar modelos comerciais da OpenAI ou da Anthropic para análise devido a restrições de segurança e teve que recorrer ao modelo de código aberto GLM-5.2. Este caso destacou o problema de assimetria: o modelo atacante não tinha restrições, enquanto os defensores estavam limitados por políticas de uso. A OpenAI reconheceu que, durante os testes, os filtros de segurança cibernética foram desativados e o modelo agiu sem restrições.