多智能体AI系统安全研究投资

谷歌DeepMind与施密特科学研究所、合作人工智能基金会、高级研究与发明局（ARIA）合作，并在谷歌.org的支持下，宣布了一项面向全球科学家的技术研究新竞赛，总预算高达1000万美元。随着人工智能技术的规模化发展，一个新时代正在到来：由不同组织创建的数百万个人工智能代理将在数字环境中互动，进行交流、协商和交易。确保此类交互的安全性和可预测性至关重要。该竞赛旨在研究大规模多智能体系统的集体行为，并创建用于理解和缓解潜在风险的框架。目前，尚无工具可用于预测、测量或监控由自主智能体交互产生的涌现效应。尽管多智能体系统安全存在基本基础，但快速演进要求立即扩展相关研究。竞赛支持施密特科学研究所和ARIA的科学项目，并邀请研究人员在四个优先领域提交提案：沙盒和测试平台、代理网络科学、加强代理基础设施以及监督与控制。申请截止日期为2026年8月8日，获胜者将于2026年秋季公布。