Fields Madalyası Sahibi Yapay Zekanın 'İnsanlığı Yok Etme Olayları'na Yol Açabileceği Konusunda Uyardı ve OpenAI'a Katıldı

Toronto Üniversitesi'nde sayı teorisyeni olan ve yakın zamanda Fields Madalyası'na layık görülen Jacob Tsimerman, yapay zeka güvenliği üzerinde çalışmak üzere OpenAI'ye katılacağını duyurdu. Bir röportajda yapay zekayı son derece dönüştürücü bir teknoloji olarak nitelendirdi ve yapay zeka güvenliğine önemli ölçüde daha fazla yatırım yapılması çağrısında bulundu. Matematikçilerin bu alana önemli katkı sağlayabileceğini savundu, çünkü yapay zeka şu anda sistemlerinin nasıl çalıştığına dair çok az güvenceyle ampirik olarak faaliyet gösteriyor. Tsimerman ayrıca, yapay zekanın insanlığın yok oluşuna katkıda bulunabileceği senaryolar olan ve uzmanlar arasında tartışmalı bir konu olan 'omnicide olayları' üzerine bir makale yazdı. Panik yapmanın doğru tepki olmadığını, ancak risklerin dürüstçe değerlendirilmesi gerektiğini ve yapay zekanın yakında matematiksel araştırmalarda insanları geride bırakacağına ikna olduğunu belirtti. DeepMind'in eski CEO'su Demis Hassabis de matematikteki son yapay zeka ilerlemeleri hakkında yorum yaparak bunu ilerleme olarak gördüğünü ancak DeepMind'ın AlphaGo 'Move 37' hamlesi gibi henüz temel bir atılım olmadığını söyledi. Böyle bir atılım için yapay zekanın, OpenAI'nin yeni modeli Astra'nın şu ana kadar çözemediği Milenyum Ödül Problemleri gibi temel problemleri çözmesi gerekeceğini belirtti. Hassabis, bunun gerçekleşmemesi için hiçbir neden görmediğini de sözlerine ekledi.