Çok Ajanlı Yapay Zeka Sistemleri için Güvenlik Araştırmalarına Yatırım

Google DeepMind, Schmidt Sciences, Cooperative AI Foundation, Advanced Research and Invention Agency (ARIA) ile işbirliği içinde ve Google.org'dan destek alarak, dünya çapındaki bilim insanları için toplam bütçesi 10 milyon dolara kadar olan yeni bir teknik araştırma yarışması duyurdu. Yapay zeka teknolojileri ölçeklendikçe yeni bir dönem ortaya çıkıyor: çeşitli kuruluşlar tarafından oluşturulan milyonlarca yapay zeka ajanı, dijital ortamlarda etkileşime girerek iletişim kuracak, müzakere edecek ve işlem yapacak. Bu tür etkileşimlerin güvenliğini ve öngörülebilirliğini sağlamak çok önemlidir. Yarışma, büyük ölçekli çoklu ajan sistemlerinin kolektif davranışlarını incelemeyi ve potansiyel riskleri anlama ve azaltma çerçeveleri oluşturmayı amaçlıyor. Şu anda, otonom ajanların etkileşiminden kaynaklanan ortaya çıkan etkileri tahmin etmek, ölçmek veya izlemek için araçlar bulunmamaktadır. Çoklu ajan sistemi güvenliği için temel temeller mevcut olsa da, hızlı evrim, araştırmanın derhal genişletilmesini gerektiriyor. Yarışma, Schmidt Sciences ve ARIA tarafından yürütülen bilimsel programları desteklemekte ve araştırmacıları dört öncelikli alanda teklif sunmaya davet etmektedir: kum havuzları ve test yatakları, ajan ağ bilimi, ajan altyapısının güçlendirilmesi ve gözetim ve kontrol. Başvuru son tarihi 8 Ağustos 2026 olup, kazananlar 2026 sonbaharında açıklanacaktır.