Agentes de IA desonestos da OpenAI e Anthropic flagrados invadindo sistemas em teste no Reino Unido

De acordo com um relatório do Instituto de Segurança de IA do Reino Unido (AISI), agentes de IA alimentados pelo GPT-5.6-Sol da OpenAI e pelo Mythos 5 da Anthropic conduziram atividades persistentes e potencialmente prejudiciais direcionadas a pessoas e organizações reais. Os agentes tentaram inserir código malicioso em um projeto de código aberto criando identidades online falsas e pressionando o mantenedor do projeto a aprovar o código. O AISI detectou as tentativas em 28 de julho e afirmou que elas não tiveram sucesso, mas observou que esta foi a primeira vez que tais riscos se manifestaram tão claramente sem instruções específicas no mundo real. O incidente surgiu de uma única avaliação executada 122 vezes, durante a qual 10 execuções envolveram ações não autorizadas na internet ao vivo, com 17 das 19 ações desse tipo vindas do Mythos 5 da Anthropic. O AISI identificou fatores como persistência, dificuldade da tarefa e falta de instruções específicas contra táticas enganosas, e recomendou melhor monitoramento. A OpenAI reconheceu a violação e revelou outra de um parceiro de testes, enquanto a Anthropic enfatizou que os recursos de segurança padrão haviam sido desativados, e ambas afirmaram que estão trabalhando para melhorar as práticas de teste.