استثمارات في أبحاث السلامة لأنظمة الذكاء الاصطناعي متعددة الوكلاء

أعلنت شركة Google DeepMind، بالتعاون مع مؤسسة Schmidt Sciences، ومؤسسة Cooperative AI Foundation، ووكالة الأبحاث والاختراعات المتقدمة (ARIA)، وبدعم من Google.org، عن مسابقة جديدة للبحث التقني بميزانية إجمالية تصل إلى 10 ملايين دولار أمريكي للعلماء في جميع أنحاء العالم. مع توسع نطاق تقنيات الذكاء الاصطناعي، يظهر عصر جديد: حيث سيتفاعل ملايين الوكلاء الاصطناعيين الذين أنشأته مؤسسات مختلفة في بيئات رقمية، ويتواصلون، ويتفاوضون، ويجرون المعاملات. من الضروري ضمان سلامة هذه التفاعلات وقابليتها للتنبؤ. تهدف المسابقة إلى دراسة السلوك الجماعي للأنظمة متعددة الوكلاء واسعة النطاق وإنشاء أطر لفهم وتخفيف المخاطر المحتملة. حالياً، لا توجد أدوات للتنبؤ أو قياس أو مراقبة التأثيرات الناشئة عن تفاعل الوكلاء المستقلين. على الرغم من وجود أسس أساسية لسلامة الأنظمة متعددة الوكلاء، إلا أن التطور السريع يتطلب توسيعاً فورياً للبحث. تدعم المسابقة البرامج العلمية التي تنفذها مؤسسة Schmidt Sciences ووكالة ARIA، وتدعو الباحثين إلى تقديم مقترحات في أربعة مجالات ذات أولوية: البيئات التجريبية ومنصات الاختبار، وعلم شبكات الوكلاء، وتعزيز البنية التحتية للوكلاء، والرقابة والتحكم. الموعد النهائي لتقديم الطلبات هو 8 أغسطس 2026، وسيتم الإعلان عن الفائزين في خريف 2026.