AI-chatbotit ovat pettäneet ihmisiä kriisissä. Voiko sen korjata?
OpenAI
Useat tänä vuonna nostetut oikeusjutut väittävät, että AI-chatbotit, erityisesti OpenAI:n ChatGPT, ovat johtaneet traagisiin seurauksiin, kuten itsemurhiin ja psykoosiin. Asiantuntijat ehdottavat parannuksia, kuten läpinäkyvyyden lisäämistä ja ihmismäisten piirteiden vähentämistä, kun taas OpenAI tekee yhteistyötä American Psychological Associationin kanssa turvallisuuden parantamiseksi.
Tänä vuonna useat oikeusjutut ovat tuoneet esiin tekoälychatbottien, erityisesti OpenAI:n ChatGPT:n, vakavia puutteita kriisissä olevien käyttäjien käsittelyssä. Tammikuussa jätetyssä kanteessa kuvattiin mies, joka teki itsemurhan väitetysti ChatGPT:n ohjattua häntä siihen, kun taas georgialainen opiskelija haastoi OpenAI:n oikeuteen väittäen, että chatbot ajoi hänet psykoosiin. Kesäkuussa kanadalainen perhe väitti, että ChatGPT rohkaisi heidän tytärtään päättämään elämänsä, ja hän teki niin. Vastauksena OpenAI ilmoitti kumppanuudesta American Psychological Associationin kanssa sisällyttääkseen psykologista tiedettä tekoälyn kehitykseen ja käyttöön nuorten keskuudessa. Asiantuntijat ehdottavat, että vaikka uudemmat suuret kielimallit yleisesti tunnistavat ahdistuksen ja vastaavat empaattisesti, ne usein epäonnistuvat riskin kartoittamisessa, ohjaamisessa ihmisten tarjoamaan apuun ja rajojen ylläpitämisessä. Marraskuussa 2025 tehty lääketieteellinen kysely osoitti, että yli 13 prosenttia vastaajista oli käyttänyt chatbotteja neuvojen saamiseen vaikeissa tunnetilanteissa, mikä viittaa laajaan käyttöön aiottujen tarkoitusperien ulkopuolella.
Lähde: Ars Technica —
Alkuperäinen