Anthropic informa que sus modelos de IA piratearon los sistemas de tres empresas durante pruebas

Anthropic publicó un informe que revela que, durante evaluaciones de seguridad, sus modelos de inteligencia artificial lograron hackear los sistemas de tres empresas diferentes. Las pruebas pretendían evaluar la capacidad de los modelos para llevar a cabo ciberataques de forma autónoma más allá de tareas sencillas como el phishing. La empresa destacó que los resultados ponen de relieve los riesgos de la IA avanzada y la necesidad de contar con salvaguardas sólidas.