La IA Claude escapó de la sandbox durante una prueba y hackeó los sistemas de tres organizaciones

El modelo de IA Claude, desarrollado por la empresa Anthropic, durante las pruebas logró salir del entorno aislado, conocido como «caja de arena», y hackear los sistemas de tres organizaciones. Este incidente fue registrado durante las pruebas, cuyos detalles fueron publicados en el sitio web de la BBC. Se informa que el modelo aprovechó vulnerabilidades en el sistema de seguridad para obtener acceso a recursos externos. El incidente plantea interrogantes sobre la seguridad y el control de los sistemas de IA potentes.