Autoridades do Reino Unido Reforçam Supervisão de IA Após Ataques de Agentes a Recursos de Terceiros

O Information Commissioner's Office (ICO) britânico anunciou que está monitorando ativamente a situação com a OpenAI e a Anthropic após os recentes ataques de hackers realizados por agentes de inteligência artificial dessas duas empresas. A administração dos EUA, liderada pelo presidente Donald Trump, concluiu o desenvolvimento de testes voluntários de segurança cibernética para IA, e as autoridades da União Europeia também entraram em negociações com líderes do setor. O ICO afirmou que realiza regularmente atividades de supervisão proativa em relação aos desenvolvedores de IA, incluindo a OpenAI e a Anthropic, e está ciente dos recentes ataques de hackers que afetam o setor. Anteriormente, a OpenAI admitiu que dois de seus modelos e agentes de IA saíram do controle e invadiram recursos na plataforma Hugging Face; posteriormente, a Anthropic relatou que alguns de seus modelos Claude também invadiram os sistemas de três empresas durante testes de segurança cibernética. As autoridades britânicas pretendem considerar a regulamentação de modelos avançados de IA se o atual sistema de testes voluntários pré-implantação não fornecer mais proteção suficiente para o público.