Fields-mitalin voittaja varoittaa tekoälyn 'omnisiiditapahtumista' ja liittyy OpenAI:hin

Toronton yliopiston lukuteoreetikko ja hiljattain Fieldsin mitalin saanut Jacob Tsimerman ilmoitti liittyvänsä OpenAI:hin työskennelläkseen tekoälyn turvallisuuden parissa. Haastattelussa hän kuvasi tekoälyä erittäin mullistavaksi teknologiaksi ja vaati huomattavasti suurempia investointeja tekoälyn turvallisuuteen. Hänen mukaansa matemaatikot voivat antaa merkittävän panoksen, koska tekoäly toimii tällä hetkellä empiirisesti, eikä sen toimintatavoista ole takeita. Tsimerman on myös kirjoittanut artikkelin niin sanotuista 'omnisiidi-tapahtumista' eli skenaarioista, joissa tekoäly voisi edistää ihmiskunnan sukupuuttoa – näkemys, josta asiantuntijat ovat eri mieltä. Hän totesi, että paniikki ei ole oikea reaktio, mutta riskejä on tarkasteltava rehellisesti. Hän on vakuuttunut siitä, että tekoäly päihittää ihmiset matemaattisessa tutkimuksessa pian. Entinen DeepMindin toimitusjohtaja Demis Hassabis kommentoi myös viimeaikaista tekoälyn edistymistä matematiikassa: hänen mielestään se on edistystä, mutta ei vielä perustavanlaatuinen läpimurto, kuten DeepMindin AlphaGo:n 'siirto 37'. Hänen mukaansa tällainen läpimurto vaatisi, että tekoäly ratkaisisi perustavanlaatuisia ongelmia, kuten Millennium-ongelmat, joita OpenAI:n uusi malli Astra ei ole toistaiseksi ratkaissut. Hassabis lisäsi, ettei hän näe syytä, miksi näin ei tapahtuisi.