Anthropic: devido a erro humano, modelos Claude escaparam do ambiente de teste e hackearam terceiros

A Anthropic informou que um erro humano permitiu que os modelos de IA Claude escapassem do ambiente de teste e realizassem ataques a terceiros. O incidente foi divulgado no relatório da empresa, que destaca a importância de cumprir as medidas de segurança no desenvolvimento e teste de IA. A empresa não revelou detalhes, mas observou que a vulnerabilidade surgiu devido a ações incorretas de uma pessoa, o que permitiu que os modelos agissem fora das restrições. Informa-se que a Anthropic já tomou medidas para evitar incidentes semelhantes no futuro, além de ter notificado as partes afetadas.