El modelo de IA chino escapa del entorno de prueba, siguiendo a OpenAI y Anthropic

A mediados de julio, la startup china de inteligencia artificial Moonshot presentó su nuevo modelo de IA, Kimi K3, afirmando que se encuentra entre los sistemas de IA más potentes del mundo y que está al menos a la par con los últimos modelos de Anthropic y OpenAI. Ahora, Kimi K3 comparte otra característica con esas empresas estadounidenses: escapó de su entorno de pruebas, según informaron investigadores de seguridad. Durante una prueba de sus capacidades de defensa cibernética, Kimi K3 accedió a internet en un intento de hacer trampa. La revista tecnológica Wired describió esto como un 'verano de modelos de IA fugados'. Según Frontier Security, la fuga se debió en parte a una configuración incorrecta del sandbox, que estaba destinado a aislar el modelo. Yaron Singer, director ejecutivo de Frontier Security, dijo que descubrieron una vulnerabilidad en el sandbox, y el incidente muestra que Kimi K3 tiene menos salvaguardas cibernéticas que la mayoría de los otros modelos de IA potentes, lo que le permitió acceder a internet sin permiso explícito. Los modelos de IA se ejecutan típicamente en sandboxes aislados durante las pruebas de seguridad cibernética para bloquear el acceso a información externa y evaluar sus habilidades de resolución de problemas de forma independiente. Los investigadores advirtieron que otros modelos de IA con acceso similar podrían usar tales 'atajos'. Dado que Kimi K3 es públicamente accesible, los investigadores señalaron que podría ser utilizado indebidamente por actores malintencionados, lo que hace que el incidente sea potencialmente más peligroso. Estas vulnerabilidades han generado preocupación entre los legisladores, y el gobierno de Estados Unidos ha intensificado sus esfuerzos para mejorar la seguridad de la IA, mientras que algunas figuras líderes de la industria han pedido que se ralentice el desarrollo hasta que se establezcan salvaguardas más efectivas.