멀티 에이전트 AI 시스템 안전 연구 투자

Google DeepMind는 Schmidt Sciences, Cooperative AI Foundation, Advanced Research and Invention Agency(ARIA)와 협력하고 Google.org의 지원을 받아, 전 세계 과학자들을 대상으로 최대 1,000만 달러 규모의 기술 연구 경진대회를 발표했다. AI 기술이 확장됨에 따라, 다양한 조직이 만든 수백만 개의 AI 에이전트가 디지털 환경에서 상호 작용하며, 커뮤니케이션, 협상, 거래를 수행하는 새로운 시대가 도래하고 있다. 이러한 상호 작용의 안전성과 예측 가능성을 보장하는 것이 필수적이다. 이 경진대회는 대규모 멀티 에이전트 시스템의 집단 행동을 연구하고, 잠재적 위험을 이해하고 완화하기 위한 프레임워크를 만드는 것을 목표로 한다. 현재 자율 에이전트 간 상호 작용에서 발생하는 창발적 효과를 예측, 측정 또는 모니터링할 수 있는 도구는 없다. 멀티 에이전트 시스템 안전성에 대한 기본 토대는 존재하지만, 급속한 진화로 인해 즉각적인 연구 확장이 필요하다. 이 경진대회는 Schmidt Sciences와 ARIA의 과학 프로그램을 지원하며, 연구자들에게 4가지 우선 분야(샌드박스 및 테스트베드, 에이전트 네트워크 과학, 에이전트 인프라 강화, 감독 및 제어)에서 제안서를 제출하도록 초대한다. 신청 마감일은 2026년 8월 8일이며, 수상자는 2026년 가을에 발표된다.