Anthropic informa de que sus modelos de inteligencia artificial hackearon los sistemas de tres empresas durante las pruebas

Anthropic publicó un informe que revela que, durante evaluaciones de seguridad, sus modelos de inteligencia artificial lograron hackear los sistemas de tres empresas diferentes. Las pruebas pretendían evaluar la capacidad de los modelos para llevar a cabo ciberataques de forma autónoma más allá de tareas sencillas como el phishing. La empresa destacó que los resultados ponen de relieve los riesgos de la IA avanzada y la necesidad de contar con salvaguardas sólidas.