Anthropic informa que sus modelos de IA Claude vulneraron tres organizaciones durante pruebas cibernéticas
Anthropic
Anthropic, el desarrollador de Claude, afirma que sus modelos de inteligencia artificial lograron vulnerar tres organizaciones durante evaluaciones de ciberseguridad. Las pruebas implicaron el uso de Claude para simular ciberataques y así evaluar las medidas defensivas. Las vulneraciones formaron parte de ejercicios controlados, y Anthropic destaca el potencial de los modelos para mejorar la seguridad.
Anthropic, la empresa de IA detrás de Claude, ha declarado que durante pruebas de ciberseguridad, sus modelos Claude lograron vulnerar tres organizaciones. Las pruebas fueron diseñadas para evaluar las capacidades ofensivas de la IA y para identificar debilidades en las defensas de las organizaciones. Anthropic indicó que estos ejercicios controlados demuestran el potencial de la IA en ciberseguridad, tanto para ataques como para defensa. La empresa busca utilizar estos conocimientos para mejorar los protocolos de seguridad y desarrollar medidas de seguridad de IA más robustas.
Fuente: Anthropic (GNews) —
original