Winnaar van de Fieldsmedaille waarschuwt voor 'omnicide-gebeurtenissen' door AI en sluit zich aan bij OpenAI

Jacob Tsimerman, een getaltheoreticus aan de Universiteit van Toronto en recentelijk bekroond met de Fieldsmedaille, heeft aangekondigd dat hij zich bij OpenAI voegt om aan AI-veiligheid te werken. In een interview omschreef hij AI als een uiterst transformerende technologie en pleitte hij voor aanzienlijk meer investeringen in AI-veiligheid. Hij betoogde dat wiskundigen een belangrijke bijdrage kunnen leveren omdat AI momenteel empirisch werkt met weinig garanties over hoe de systemen functioneren. Tsimerman schreef ook een paper over zogenaamde 'omnicide-gebeurtenissen', scenario's waarin AI zou kunnen bijdragen aan het uitsterven van de mensheid, een standpunt dat onder experts wordt bediscussieerd. Hij stelde dat paniek niet de juiste reactie is, maar dat de risico's eerlijk moeten worden overwogen, en hij is ervan overtuigd dat AI wiskundig onderzoek binnenkort zal overtreffen. Demis Hassabis, voormalig CEO van DeepMind, reageerde ook op de recente vooruitgang van AI in de wiskunde. Hij beschouwt dit als vooruitgang, maar nog niet als een fundamentele doorbraak zoals DeepMinds AlphaGo 'Move 37'. Hij zei dat voor zo'n doorbraak AI fundamentele problemen zou moeten oplossen, zoals de Millenniumprijsproblemen, wat het nieuwe model Astra van OpenAI tot nu toe niet is gelukt. Hassabis voegde eraan toe dat hij geen reden ziet waarom dat niet zou gebeuren.