Pemenang Fields Medal Peringatkan 'Peristiwa Omnicide' dari AI dan Bergabung dengan OpenAI

Jacob Tsimerman, seorang ahli teori bilangan di Universitas Toronto yang baru saja dianugerahi Medali Fields, mengumumkan bahwa ia bergabung dengan OpenAI untuk bekerja pada keamanan AI. Dalam sebuah wawancara, ia menggambarkan AI sebagai teknologi yang sangat transformatif dan menyerukan investasi yang jauh lebih besar dalam keamanan AI. Ia berpendapat bahwa para matematikawan dapat memberikan kontribusi yang signifikan karena AI saat ini beroperasi secara empiris dengan sedikit jaminan tentang bagaimana sistemnya bekerja. Tsimerman juga menulis makalah tentang apa yang disebut 'peristiwa omnicide', yaitu skenario di mana AI dapat berkontribusi pada kepunahan manusia, sebuah posisi yang diperdebatkan di kalangan para ahli. Ia menyatakan bahwa panik bukanlah reaksi yang tepat, tetapi risiko harus dipertimbangkan dengan jujur, dan ia yakin bahwa AI akan segera melampaui manusia dalam penelitian matematika. Mantan CEO DeepMind, Demis Hassabis, juga berkomentar tentang kemajuan AI baru-baru ini dalam matematika, melihatnya sebagai kemajuan tetapi belum menjadi terobosan fundamental seperti 'Langkah 37' AlphaGo dari DeepMind. Ia mengatakan bahwa untuk terobosan seperti itu, AI perlu memecahkan masalah fundamental seperti Masalah Hadiah Milenium, yang model baru OpenAI, Astra, sejauh ini gagal melakukannya. Hassabis menambahkan bahwa ia tidak melihat alasan mengapa hal itu tidak akan terjadi.