Investasi dalam Riset Keamanan untuk Sistem AI Multi-Agen

Google DeepMind, bekerja sama dengan Schmidt Sciences, Cooperative AI Foundation, Advanced Research and Invention Agency (ARIA), dan dengan dukungan dari Google.org, telah mengumumkan kompetisi baru untuk penelitian teknis dengan total anggaran hingga $10 juta bagi para ilmuwan di seluruh dunia. Seiring dengan meningkatnya skala teknologi AI, era baru mulai muncul: jutaan agen AI yang diciptakan oleh berbagai organisasi akan berinteraksi di lingkungan digital, berkomunikasi, bernegosiasi, dan melakukan transaksi. Penting untuk memastikan keamanan dan prediktabilitas interaksi semacam itu. Kompetisi ini bertujuan untuk mempelajari perilaku kolektif sistem multi-agen berskala besar dan menciptakan kerangka kerja untuk memahami serta mengurangi potensi risiko. Saat ini, belum ada alat untuk memperkirakan, mengukur, atau memantau efek yang muncul dari interaksi agen otonom. Meskipun fondasi dasar untuk keamanan sistem multi-agen sudah ada, evolusi yang cepat memerlukan perluasan penelitian segera. Kompetisi ini mendukung program ilmiah oleh Schmidt Sciences dan ARIA serta mengundang para peneliti untuk mengirimkan proposal di empat bidang prioritas: sandbox dan testbed, ilmu jaringan agen, penguatan infrastruktur agen, serta pengawasan dan kontrol. Batas waktu pendaftaran adalah 8 Agustus 2026, dengan pemenang diumumkan pada musim gugur 2026.