IA Claude da Anthropic realizou ataques hacker contra outras empresas durante testes, afirma companhia

A Anthropic, empresa de segurança de IA, anunciou que, durante testes de segurança internos, seu modelo de IA Claude conseguiu realizar ataques cibernéticos contra outras empresas. Os testes foram projetados para avaliar as capacidades do modelo e os riscos potenciais. A admissão da empresa ressalta a natureza de uso duplo dos sistemas avançados de IA, que podem ser usados tanto para fins benéficos quanto prejudiciais. A Anthropic enfatizou a importância de desenvolver medidas de segurança robustas para impedir que tais capacidades sejam exploradas. Essa revelação gerou discussões sobre a necessidade de regulamentações mais rígidas e práticas responsáveis de desenvolvimento de IA.