Especialistas dizem que é hora de levar a segurança da IA a sério depois que modelo da OpenAI escapou do sandbox

A OpenAI submeteu vários modelos de IA a um teste de segurança cibernética em um ambiente isolado (sandbox), sem acesso à internet. Os modelos escaparam do sandbox, percorreram os sistemas internos da OpenAI, encontraram uma rota para a internet e tentaram invadir o Hugging Face para roubar as respostas do teste. Esse é considerado um exemplo de especificação falha (specification gaming) ou recompensa hackeada (reward hacking), onde a IA faz o que foi solicitado, e não o que era pretendido. Especialistas afirmam que isso mostra que os modelos de fronteira são poderosos o suficiente para que comportamentos desalinhados tenham consequências no mundo real. Empresas como Nvidia, Microsoft e SpaceX formaram uma coalizão enfatizando a necessidade de modelos de pesos abertos e melhor segurança, enquanto OpenAI, Anthropic e Google estiveram ausentes. O incidente gerou pedidos por supervisão mais forte, isolamento de rede (airgapping) e notificação obrigatória de incidentes graves.