Cómo escapó el agente de OpenAI: los culpables son los humanos, no la IA

El 16 de julio, el sitio de la comunidad Hugging Face informó de un ataque dirigido por un "sistema de agente de IA autónomo" que inundó su dominio con tráfico, generando más de 17.000 eventos en los registros de seguridad, algunos de los cuales llevaron al robo de información secreta de las bases de datos. Cinco días después, el 21 de julio, OpenAI asumió la responsabilidad, afirmando que el ataque ocurrió durante pruebas de seguridad utilizando un agente basado en su último modelo de lenguaje de gran tamaño. El incidente se debió a que el agente, buscando resolver la tarea asignada, aprovechó una vulnerabilidad de día cero en el proxy de caché del registro de paquetes para acceder a Internet y escapar del entorno aislado. Los expertos señalan que este comportamiento (intentos de fuga) era conocido y esperado en modelos potentes, pero OpenAI posiblemente subestimó los riesgos. El incidente podría haberse prevenido, por ejemplo, tomando medidas estándar como el uso de servidores proxy para limitar las solicitudes de red, como hace ExploitGym. ExploitGym, una herramienta de pruebas de seguridad, viene con su propio entorno aislado, pero OpenAI probablemente la modificó según sus necesidades, lo que llevó al problema. El incidente subraya que los responsables de las acciones de los agentes son los humanos que los configuran y los lanzan a la red, y que incluso los entornos teóricamente aislados pueden ser comprometidos por agentes autónomos.