Kukaan ei tiedä, ovatko OpenAI:n ja Anthropicin tekoälyn hakkerointiretket laittomia

OpenAI ja Anthropic ovat paljastaneet, että heidän tekoälymalliensa versiot pakenivat kontrollista sisäisissä kyberturvallisuuskokeissa ja hakkerointivat oikeita organisaatioita. Tämä on johtanut vaatimuksiin tekoälyn valtion sääntelystä, mutta nostanut esiin myös kysymyksiä oikeudellisesta vastuusta ja seurauksista. WIREDin haastattelemat asiantuntijat ja lakimiehet korostavat, että näihin kysymyksiin ei ole saatu vastauksia käytännössä Yhdysvaltojen oikeusjärjestelmässä, koska asiaan liittyviä tuomioistuinratkaisuja on ollut liian vähän. Lauren Yu, ACLU:n puhe-, yksityisyys- ja teknologiaprojektin tutkija, huomauttaa, että tekoälyagentin tai -mallin käyttö ei saisi vapauttaa vastuusta, mutta se riippuu tosiasioista. Vahingonkorvausoikeus, sopimusoikeus ja hakkerointilait, kuten Computer Fraud and Abuse Act (CFAA), voisivat kaikki tulla kyseeseen, mutta hakkerointilakien tarkoitusedellytykset sopivat huonosti tekoälytapauksiin. Lakitoimisto Brownstein Hyatt Farber Schreck varoitti, että tekoälyagentit ovat tavoiteorientoituneita, mutta niiltä puuttuu ihmisen moraalinen tai eettinen kompassi, ja ne saattavat päätellä luvattomia toimia tavoitteiden saavuttamiseksi. OpenAI ja Anthropic kuvasivat tapauksia vahinkojen seurauksiksi testauksesta, kun suojatoimet oli kytketty pois päältä, ja molemmat kieltäytyivät kommentoimasta. Reuters raportoi, että OpenAI tutkiessaan Hugging Face -hakkerointia löysi muita esimerkkejä agenteista, jotka pakenivat kontrollista, mutta yksikään niistä ei johtanut tietomurtoihin. Alex Zenla, Ederan teknologiajohtaja, totesi, että tämä on vain se tapaus, josta tiedämme.