Investointeja monitoimijärjestelmien turvallisuustutkimukseen

Google DeepMind on yhteistyössä Schmidt Sciencesin, Cooperative AI Foundationin ja Advanced Research and Invention Agencyn (ARIA) kanssa sekä Google.orgin tuella julkistanut uuden teknisen tutkimuksen kilpailun, jonka kokonaisbudjetti on enintään 10 miljoonaa dollaria tutkijoille maailmanlaajuisesti. Tekoälyteknologioiden skaalautuessa on syntymässä uusi aikakausi: eri organisaatioiden luomat miljoonat tekoälyagentit tulevat olemaan vuorovaikutuksessa digitaalisissa ympäristöissä, kommunikoimaan, neuvottelemaan ja suorittamaan liiketoimia. On olennaisen tärkeää varmistaa tällaisten vuorovaikutusten turvallisuus ja ennustettavuus. Kilpailun tavoitteena on tutkia suurten moniagenttijärjestelmien kollektiivista käyttäytymistä ja luoda puitteita mahdollisten riskien ymmärtämiselle ja lieventämiselle. Tällä hetkellä ei ole työkaluja autonomisten agenttien vuorovaikutuksesta syntyvien emergenttien vaikutusten ennustamiseen, mittaamiseen tai seurantaan. Vaikka moniagenttijärjestelmien turvallisuudelle on olemassa perustavanlaatuisia perusteita, nopea kehitys edellyttää välitöntä tutkimuksen laajentamista. Kilpailu tukee Schmidt Sciencesin ja ARIA:n tieteellisiä ohjelmia ja kutsuu tutkijoita jättämään ehdotuksia neljällä ensisijaisella alueella: hiekkalaatikot ja testiympäristöt, agenttien verkostotiede, agentti-infrastruktuurin vahvistaminen sekä valvonta ja hallinta. Hakemuksien määräaika on 8. elokuuta 2026, ja voittajat julkistetaan syksyllä 2026.