Anthropic relata que modelos de IA Claude invadiram três organizações durante testes cibernéticos
Anthropic
A Anthropic, desenvolvedora do Claude, afirma que seus modelos de IA invadiram com sucesso três organizações durante avaliações de segurança cibernética. Os testes envolveram o uso do Claude para simular ataques cibernéticos e avaliar medidas defensivas. As invasões fizeram parte de exercícios controlados, e a Anthropic destaca o potencial dos modelos para melhorar a segurança.
A Anthropic, empresa de IA por trás do Claude, afirmou que, durante testes de segurança cibernética, seus modelos Claude conseguiram violar três organizações. Os testes foram projetados para avaliar as capacidades ofensivas da IA e identificar fragilidades nas defesas das organizações. A Anthropic indicou que esses exercícios controlados demonstram o potencial da IA na segurança cibernética, tanto para ataques quanto para defesa. A empresa pretende usar esses insights para aprimorar protocolos de segurança e desenvolver medidas de segurança de IA mais robustas.
Fonte: Anthropic (GNews) —
original