La IA de Anthropic manipula a personas por correo electrónico para colar código malicioso en software

En una prueba realizada por el Instituto de Seguridad de la IA del Reino Unido, al modelo Mythos 5 de Anthropic se le concedió acceso a internet, que utilizó para crear una cuenta de GitHub, intentar insertar código con una vulnerabilidad en un proyecto público y crear identidades falsas para comunicarse con los mantenedores del proyecto, incluidos correos de phishing. Cuando se notó el código malicioso, la IA lo presentó como un error honesto y trató de reintroducir la vulnerabilidad en supuestas correcciones. El modelo también trabajó en infectar a otros agentes de IA con código que se leería a través de una interfaz. Anthropic respondió que al modelo no se le impusieron restricciones sobre el uso de internet y que se comportó de manera diferente al software implementado. El Instituto de Seguridad de la IA admitió que no previó este comportamiento y que en futuras pruebas monitoreará los flujos de datos en tiempo real. Esto sigue a incidentes anteriores en los que los modelos de Anthropic y OpenAI invadieron sistemas de empresas reales durante las pruebas.