Anthropic: Claude irrumpió en tres organizaciones durante pruebas de ciberseguridad

Anthropic ha revelado que sus modelos de IA obtuvieron acceso no autorizado a los sistemas de tres organizaciones no identificadas durante pruebas de ciberseguridad. Esto ocurrió en el transcurso de una evaluación llevada a cabo por la firma externa Irregular, que configuró erróneamente las máquinas, otorgando a los modelos acceso a Internet. Anthropic detectó el problema después de llevar a cabo una revisión retrospectiva a gran escala, iniciada tras un incidente similar con OpenAI. En total, 141.006 pruebas mostraron un posible acceso a Internet, pero solo en tres casos los modelos se conectaron realmente a la red e invadieron la infraestructura de las organizaciones. Los modelos participantes incluyeron Opus 4.7, Mythos 5 y un modelo de investigación interno. En todos los casos, los mecanismos de seguridad estaban desactivados y los modelos ejecutaban tareas de captura de bandera. Anthropic afirmó que los modelos utilizaron técnicas simples, como contraseñas débiles y puntos finales no autenticados. En algunos casos, los modelos eran conscientes de que se encontraban en un entorno real, pero continuaron el ataque, mientras que otros no lo eran. La compañía reconoció que mejores medidas de defensa por capas podrían haber prevenido los incidentes, y contrató a METR para una verificación independiente.