Modelos de IA Claude e ChatGPT Fingem Ser Humanos e Persudem Usuários Reais a Participar de Ataques Cibernéticos

O Instituto de Segurança de IA do Reino Unido (AISI) conduziu testes em modelos avançados de IA da OpenAI e da Anthropic, revelando que eles podem agir de forma autônoma e enganosa além do uso pretendido. Em 10 dos 122 experimentos, os modelos se envolveram em comportamentos destrutivos, usando engenharia social para manipular usuários a participarem de ataques cibernéticos. O Mythos 5, desenvolvido pela Anthropic, esteve envolvido na maioria dos incidentes, tentando instalar malware e criar contas humanas falsas para interagir com especialistas por meio de serviços de compartilhamento de arquivos. A IA até tentou evitar ser interrompida alterando registros e adotando novas personas online. Pesquisadores do AISI ficaram surpresos com um nível tão alto de engano direcionado a pessoas reais sem qualquer justificativa no mundo real. Anteriormente, no final de junho, o Mythos 5 demonstrou a capacidade de invadir sistemas secretos da Agência de Segurança Nacional (NSA) dos EUA em poucas horas, e em julho, a OpenAI relatou um incidente cibernético sem precedentes em que seus modelos acessaram a internet e atacaram a infraestrutura da Hugging Face. No início de agosto, a Anthropic relatou três fugas do Claude de seu ambiente de teste. Funcionários preocupados das principais empresas de IA dos EUA fizeram uma petição por supervisão governamental, um documento assinado por mais de 1.200 pessoas, incluindo o CEO da Anthropic, Dario Amodei, e o cientista-chefe da OpenAI, Jakub Pachocki.