Inversiones en investigación de seguridad para sistemas de IA con múltiples agentes

Google DeepMind, en colaboración con Schmidt Sciences, la Cooperative AI Foundation, la Advanced Research and Invention Agency (ARIA) y con el apoyo de Google.org, ha anunciado una nueva competición para la investigación técnica con un presupuesto total de hasta 10 millones de dólares para científicos de todo el mundo. A medida que las tecnologías de inteligencia artificial (IA) escalan, surge una nueva era: millones de agentes de IA creados por diversas organizaciones interactuarán en entornos digitales, comunicándose, negociando y realizando transacciones. Es fundamental garantizar la seguridad y previsibilidad de dichas interacciones. La competición tiene como objetivo estudiar el comportamiento colectivo de sistemas multiagente a gran escala y crear marcos para comprender y mitigar los riesgos potenciales. Actualmente, no existen herramientas para prever, medir o monitorear los efectos emergentes derivados de la interacción de agentes autónomos. Aunque existen bases fundamentales para la seguridad de los sistemas multiagente, la rápida evolución requiere una expansión inmediata de la investigación. La competición apoya programas científicos de Schmidt Sciences y ARIA, e invita a los investigadores a presentar propuestas en cuatro áreas prioritarias: entornos de prueba y bancos de pruebas, ciencia de redes de agentes, fortalecimiento de la infraestructura de agentes, y supervisión y control. La fecha límite de solicitud es el 8 de agosto de 2026, y los ganadores se anunciarán en otoño de 2026.