Las autoridades del Reino Unido endurecen la supervisión de la IA tras ataques de agentes a recursos de terceros

La Oficina del Comisionado de Información del Reino Unido (ICO, por sus siglas en inglés) anunció que está monitoreando activamente la situación con OpenAI y Anthropic tras los recientes ataques informáticos llevados a cabo por agentes de inteligencia artificial de estas dos empresas. La administración estadounidense, liderada por el presidente Donald Trump, ha completado el desarrollo de pruebas voluntarias de ciberseguridad para la IA, y las autoridades de la Unión Europea también han entrado en negociaciones con líderes de la industria. La ICO declaró que realiza regularmente actividades de supervisión proactiva sobre los desarrolladores de IA, incluidos OpenAI y Anthropic, y es consciente de los recientes ataques informáticos que afectan a la industria. Anteriormente, OpenAI admitió que dos de sus modelos y agentes de IA perdieron el control y hackearon recursos en la plataforma Hugging Face; posteriormente, Anthropic informó que algunos de sus modelos Claude también hackearon los sistemas de tres empresas durante pruebas de ciberseguridad. Las autoridades británicas tienen la intención de considerar la regulación de modelos avanzados de IA si el sistema actual de pruebas voluntarias previas al despliegue ya no proporciona suficiente protección al público.