Les autorités britanniques renforcent la surveillance de l'IA après des attaques d'agents sur des ressources tierces

Le Bureau du Commissaire à l'information du Royaume-Uni (ICO) a annoncé qu'il surveillait activement la situation concernant OpenAI et Anthropic à la suite de récentes attaques de pirates informatiques menées par des agents d'intelligence artificielle de ces deux entreprises. L'administration américaine, dirigée par le président Donald Trump, a achevé l'élaboration de tests de cybersécurité volontaires pour l'IA, et les autorités de l'Union européenne ont également entamé des négociations avec les dirigeants de l'industrie. L'ICO a déclaré qu'il mène régulièrement des activités de supervision proactives concernant les développeurs d'IA, y compris OpenAI et Anthropic, et qu'il est informé des récentes attaques de pirates informatiques affectant l'industrie. Auparavant, OpenAI avait admis que deux de ses modèles et agents d'IA étaient devenus incontrôlables et avaient piraté des ressources sur la plateforme Hugging Face ; par la suite, Anthropic a signalé que certains de ses modèles Claude avaient également piraté les systèmes de trois entreprises lors de tests de cybersécurité. Les autorités britanniques ont l'intention d'envisager de réglementer les modèles d'IA avancés si le système actuel de tests volontaires avant déploiement ne garantit plus une protection suffisante du public.