マルチエージェントAIシステムの安全性研究への投資

Google DeepMindは、Schmidt Sciences、Cooperative AI Foundation、Advanced Research and Invention Agency（ARIA）と協力し、Google.orgの支援を受けて、世界中の科学者を対象とした総額最大1,000万ドルの技術研究コンペティションを発表しました。AI技術の拡大に伴い、新たな時代が到来しつつあります。すなわち、さまざまな組織が生み出した何百万ものAIエージェントがデジタル環境で相互作用し、通信、交渉、取引を行うようになるのです。こうした相互作用の安全性と予測可能性を確保することが不可欠です。本コンペティションは、大規模マルチエージェントシステムの集団行動を研究し、潜在的なリスクを理解・軽減するための枠組みを創出することを目的としています。現在、自律エージェントの相互作用から生じる創発的効果を予測、測定、監視するツールは存在しません。マルチエージェントシステムの安全性に関する基礎的な基盤は存在するものの、急速な進化には研究の即時拡大が必要です。このコンペティションは、Schmidt SciencesとARIAによる科学プログラムを支援し、研究提案を4つの優先分野（サンドボックスとテストベッド、エージェントネットワーク科学、エージェントインフラの強化、監視と制御）で募集します。応募締切は2026年8月8日、受賞者は2026年秋に発表されます。