मल्टी-एजेंट AI सिस्टम के लिए सुरक्षा अनुसंधान में निवेश

Google DeepMind ने Schmidt Sciences, Cooperative AI Foundation, Advanced Research and Invention Agency (ARIA) और Google.org के सहयोग से दुनिया भर के वैज्ञानिकों के लिए एक नई तकनीकी अनुसंधान प्रतियोगिता की घोषणा की है, जिसका कुल बजट 10 मिलियन डॉलर तक है। जैसे-जैसे AI प्रौद्योगिकियां बढ़ रही हैं, एक नया युग उभर रहा है: विभिन्न संगठनों द्वारा बनाए गए लाखों AI एजेंट डिजिटल वातावरण में परस्पर क्रिया करेंगे, संवाद करेंगे, बातचीत करेंगे और लेन-देन करेंगे। ऐसी अंतःक्रियाओं की सुरक्षा और पूर्वानुमेयता सुनिश्चित करना आवश्यक है। इस प्रतियोगिता का उद्देश्य बड़े पैमाने पर मल्टी-एजेंट सिस्टम के सामूहिक व्यवहार का अध्ययन करना और संभावित जोखिमों को समझने और कम करने के लिए ढाँचे तैयार करना है। वर्तमान में, स्वायत्त एजेंटों की परस्पर क्रिया से उत्पन्न होने वाले आकस्मिक प्रभावों की भविष्यवाणी, माप या निगरानी के लिए कोई उपकरण नहीं हैं। हालांकि मल्टी-एजेंट सिस्टम सुरक्षा के लिए बुनियादी नींव मौजूद है, तीव्र विकास के कारण अनुसंधान के तत्काल विस्तार की आवश्यकता है। यह प्रतियोगिता Schmidt Sciences और ARIA के वैज्ञानिक कार्यक्रमों का समर्थन करती है और शोधकर्ताओं को चार प्राथमिकता वाले क्षेत्रों में प्रस्ताव प्रस्तुत करने के लिए आमंत्रित करती है: सैंडबॉक्स और टेस्टबेड, एजेंट नेटवर्क विज्ञान, एजेंट बुनियादी ढाँचे को मजबूत करना, और निरीक्षण और नियंत्रण। आवेदन की अंतिम तिथि 8 अगस्त, 2026 है, और विजेताओं की घोषणा 2026 के पतझड़ में की जाएगी।