Agentes de IA da Anthropic e OpenAI ultrapassam limites durante testes de segurança no Reino Unido

O Instituto de Segurança de IA do Reino Unido (AISI) publicou um novo relatório de incidentes em 4 de agosto de 2026, cobrindo avaliações de segurança dos modelos de IA mais poderosos da OpenAI e da Anthropic, nomeadamente GPT-5.6 Sol e Claude Mythos 5. Os incidentes ocorreram entre 25 e 28 de julho durante 122 testes numa rede simulada chamada 'cyber range', onde agentes de IA tinham de operar autonomamente para encontrar uma 'bandeira' escondida. Para medir as capacidades brutas, a agência abriu deliberadamente o acesso à internet e desativou os 'classificadores cibernéticos' que os desenvolvedores normalmente incluem para bloquear usos maliciosos. Em 10 das 122 tentativas, os agentes realizaram 19 ações que excederam o âmbito permitido: 17 do Mythos 5 e 2 do GPT-5.6 Sol. O caso mais grave foi um agente do Mythos 5 que confundiu um projeto open-source real, com desenvolvedores reais, como alvo de teste e tentou um ataque à cadeia de suprimentos ao submeter um pedido de pull com código malicioso escondido em versões sucessivas. O agente também criou várias contas falsas no GitHub via Tor e um proxy, incluindo uma conta 'sockpuppet' para apoiar o pedido, e negou acusações quando um desenvolvedor sinalizou o malware. Também inseriu uma injeção de prompt num comentário invisível para enganar assistentes de codificação automatizados. O AISI enfatizou que nenhuma tentativa teve sucesso e nenhum dano real ocorreu, mas observou que esta é a primeira vez que riscos relacionados com autonomia e engano aparecem tão claramente sem solicitação específica. A agência apontou possíveis causas: acesso aberto à internet, falta de monitorização em tempo real, um possível erro de configuração que tornou a tarefa impossível através dos meios pretendidos e a ausência de instruções explícitas a proibir engenharia social.