Investimentos em Pesquisa de Segurança para Sistemas de IA Multiagente

A Google DeepMind, em colaboração com a Schmidt Sciences, a Cooperative AI Foundation, a Advanced Research and Invention Agency (ARIA) e com o apoio da Google.org, anunciou uma nova competição para pesquisa técnica com um orçamento total de até 10 milhões de dólares para cientistas de todo o mundo. À medida que as tecnologias de IA escalam, uma nova era está surgindo: milhões de agentes de IA criados por várias organizações interagirão em ambientes digitais, comunicando-se, negociando e realizando transações. É essencial garantir a segurança e a previsibilidade dessas interações. A competição visa estudar o comportamento coletivo de sistemas multiagente em larga escala e criar estruturas para entender e mitigar riscos potenciais. Atualmente, não existem ferramentas para prever, medir ou monitorar efeitos emergentes decorrentes da interação de agentes autônomos. Embora existam fundamentos básicos para a segurança de sistemas multiagente, a rápida evolução exige uma expansão imediata da pesquisa. A competição apoia programas científicos da Schmidt Sciences e da ARIA e convida pesquisadores a enviar propostas em quatro áreas prioritárias: sandboxes e bancos de teste, ciência de redes de agentes, fortalecimento da infraestrutura de agentes, e supervisão e controle. O prazo de inscrição é 8 de agosto de 2026, com vencedores anunciados no outono de 2026.