Đầu tư Nghiên cứu An toàn cho Hệ thống AI Đa tác tử

Google DeepMind, hợp tác với Schmidt Sciences, Cooperative AI Foundation, Advanced Research and Invention Agency (ARIA) và với sự hỗ trợ từ Google.org, đã công bố một cuộc thi mới về nghiên cứu kỹ thuật với tổng ngân sách lên tới 10 triệu đô la Mỹ dành cho các nhà khoa học trên toàn thế giới. Khi công nghệ AI phát triển ở quy mô lớn, một kỷ nguyên mới đang xuất hiện: hàng triệu tác tử AI do nhiều tổ chức khác nhau tạo ra sẽ tương tác trong các môi trường kỹ thuật số, giao tiếp, thương lượng và thực hiện các giao dịch. Việc đảm bảo an toàn và khả năng dự đoán của những tương tác như vậy là điều cần thiết. Cuộc thi nhằm nghiên cứu hành vi tập thể của các hệ thống đa tác tử quy mô lớn và tạo ra các khuôn khổ để hiểu và giảm thiểu các rủi ro tiềm ẩn. Hiện tại, vẫn chưa có công cụ nào để dự báo, đo lường hoặc giám sát các hiệu ứng nổi bật phát sinh từ sự tương tác của các tác tử tự trị. Mặc dù đã có những nền tảng cơ bản về an toàn cho hệ thống đa tác tử, nhưng sự phát triển nhanh chóng đòi hỏi phải mở rộng nghiên cứu ngay lập tức. Cuộc thi hỗ trợ các chương trình khoa học của Schmidt Sciences và ARIA, đồng thời mời các nhà nghiên cứu nộp đề xuất trong bốn lĩnh vực ưu tiên: hộp cát và vùng thử nghiệm, khoa học mạng lưới tác tử, tăng cường hạ tầng tác tử, và giám sát và kiểm soát. Hạn nộp hồ sơ là ngày 8 tháng 8 năm 2026, kết quả sẽ được công bố vào mùa thu năm 2026.