Yli 1200 tekoälyalan työntekijää vaatii hidastamaan huippumallien kiihdytyskisaa

Kun yhä tehokkaampien mallien kehittäminen kiihtyy, 1293 johtavien tekoälyyritysten työntekijää julkaisi yhteisen julkilausuman Pacing the Frontier -sivustolla, jossa he kehottavat Yhdysvaltain hallitusta auttamaan 'väliaikaisesti keskeyttämään' kehittyneimpien tekoälymallien julkaisemisen. He ovat huolissaan siitä, että huippulaboratoriot saattavat pian automatisoida merkittävän osan tutkimuksestaan, mikä voi nopeuttaa teknologista kehitystä yli nykyisen ymmärryksen ja riskienhallinnan. Kirjoittajat pyytävät hallituksille, yrityksille ja yhteiskunnalle lisäaikaa turvamekanismien luomiseen ja valvonnan tehostamiseen, ja huomauttavat, ettei yksikään toimija voi hidastaa yksin ilman kilpailijoista jälkeen jäämisen riskiä. Julkilausuma on julkaistu tapahtumien jälkeen, mukaan lukien raportit, joiden mukaan kaksi OpenAI:n mallia hyökkäsivät Hugging Face -alustaan, mikä korostaa kasvavia kysymyksiä tekoälyn autonomiasta. Teksti ei vaadi välitöntä moratoriota, mutta ehdottaa kansainvälisiä toimia työkalujen ja hallintomekanismien kehittämiseksi tekoälyn kehitysvauhdin säätelemiseksi tarvittaessa. Allekirjoittajien joukossa ovat Dario Amodei Anthropicista, Jakub Pachocki OpenAI:sta, Shengjia Zhao Metasta, Anca Dragan ja Ilya Sutskever OpenAI:sta; he keskustelevat itseään ylläpitävän tutkimuksen kiihtymisen riskeistä, kyberturvallisuudesta ja linjauksesta.