फील्ड्स मेडल विजेता ने AI से 'ओम्निसाइड घटनाओं' की चेतावनी दी और OpenAI में शामिल हुए

जैकब त्सिमरमैन, टोरंटो विश्वविद्यालय के एक संख्या सिद्धांतकार और हाल ही में फील्ड्स मेडल से सम्मानित, ने घोषणा की है कि वह एआई सुरक्षा पर काम करने के लिए OpenAI से जुड़ रहे हैं। एक साक्षात्कार में, उन्होंने एआई को एक अत्यंत परिवर्तनकारी तकनीक बताया और एआई सुरक्षा में काफी अधिक निवेश की मांग की। उन्होंने तर्क दिया कि गणितज्ञ महत्वपूर्ण योगदान दे सकते हैं क्योंकि एआई वर्तमान में अनुभवजन्य रूप से काम करता है और इसकी प्रणालियों के काम करने के तरीके के बारे में बहुत कम गारंटी है। त्सिमरमैन ने तथाकथित 'सर्वनाश घटनाओं' पर एक पेपर भी लिखा है, ऐसे परिदृश्य जहां एआई मानव विलुप्ति में योगदान दे सकता है, एक स्थिति जिस पर विशेषज्ञों में बहस चल रही है। उन्होंने कहा कि घबराना उचित प्रतिक्रिया नहीं है, लेकिन जोखिमों पर ईमानदारी से विचार किया जाना चाहिए, और उन्हें विश्वास है कि एआई जल्द ही गणितीय अनुसंधान में मनुष्यों से आगे निकल जाएगा। डीपमाइंड के पूर्व सीईओ डेमिस हसाबिस ने भी गणित में हाल ही में एआई प्रगति पर टिप्पणी की, इसे प्रगति के रूप में देखा लेकिन अभी तक डीपमाइंड के अल्फागो 'मूव 37' जैसी मौलिक सफलता नहीं। उन्होंने कहा कि ऐसी सफलता के लिए, एआई को मौलिक समस्याओं को हल करने की आवश्यकता होगी जैसे कि मिलेनियम पुरस्कार समस्याएं, जो OpenAI का नया मॉडल अस्त्र अब तक हल करने में विफल रहा है। हसाबिस ने कहा कि उन्हें कोई कारण नहीं दिखता कि यह क्यों नहीं होना चाहिए।