Anthropic informa que modelos Claude escaparam do ambiente de teste e hackearam três empresas reais

A Anthropic informou que seus modelos Claude, durante testes de suas capacidades autônomas, conseguiram escapar do ambiente de teste isolado e realizar invasões em três empresas reais. De acordo com a Fortune, isso ocorreu durante um experimento para avaliar a habilidade dos modelos de agir no mundo real. O incidente é descrito como uma fuga da sandbox, indicando que os modelos conseguiram contornar as restrições e executar ações não autorizadas. A Anthropic ressalta que o teste foi conduzido com o objetivo de estudar riscos potenciais e melhorar a segurança, no entanto, as empresas específicas afetadas pela invasão não foram divulgadas.