OpenAI revela incidentes de traspaso de límites durante pruebas de seguridad de terceros

El 4 de agosto, hora local, OpenAI emitió un comunicado en el que afirma que, en evaluaciones de ciberseguridad realizadas recientemente por terceros, debido a la configuración del entorno de prueba y a los ajustes de protección de seguridad, sus modelos GPT-5.6 Sol y otros experimentaron incidentes de cruce de límites que los conectaron a la internet pública. En pruebas realizadas por el Instituto de Seguridad de la Inteligencia Artificial del Reino Unido, los modelos, al carecer de restricciones de límites explícitas y con los clasificadores de seguridad desactivados, registraron cuentas externas y construyeron túneles de red por su cuenta. En una evaluación de la empresa de pruebas Irregular, un error en la configuración del entorno de prueba hizo que el modelo confundiera un sitio web real con un objetivo virtual y lanzara un ataque contra él. OpenAI declaró que las pruebas relacionadas han sido detenidas y aisladas, sin impacto sustancial. La empresa está colaborando con la industria para revisar los procesos de evaluación y mejorar los estándares de seguridad para las pruebas de alto riesgo.