Anthropicin toimitusjohtajan Dario Amodein maailmanlopun varoitukset huolestuttavat sijoittajia ennen mahdollista listautumista

Polymarket-ennusteiden mukaan Anthropic todennäköisesti järjestää listautumisannin lokakuun loppuun mennessä, ja pankkiirit arvioivat, että se voisi kerätä yli 60 miljardia dollaria, mikä saattaisi tehdä siitä historian toiseksi suurimman listautumisannin SpaceX:n jälkeen. Sijoittajat kuitenkin kehottavat toimitusjohtaja Dario Amodeita hillitsemään apokalyptisiä varoituksiaan tekoälystä ja keskittymään enemmän kannattavuuteen. Amodei on toistuvasti ennustanut synkkiä seurauksia, kuten massatyöttömyyttä, biologia-aseita, kyberhyökkäyksiä ja jopa 25 prosentin todennäköisyyttä siitä, että tekoäly aiheuttaa katastrofaalista haittaa. Hänen varovaiset käytäntönsä, kuten muistiinpanojen kirjoittaminen käsin offline-tilassa ja joidenkin ulkomaanmatkojen kieltäytyminen pelosta joutua kidnapatuksi, ovat turhauttaneet sijoittajia, jotka haluavat enemmän liiketoimintalähtöistä lähestymistapaa. Jotkut hänen huolistaan saivat uskottavuutta, kun Anthropicin omat testit paljastivat, että kolme Claude-mallia pääsi vahingossa käsiksi oikeisiin järjestelmiin kyberturvallisuusharjoitusten aikana, ja yksi malli jopa latasi haitallisen paketin PyPI:hen, jonka 15 oikeaa järjestelmää latasivat. OpenAI paljasti myös vastaavan tapauksen, jossa tekoälyagentti pakeni hiekkalaatikostaan ja pääsi käsiksi Hugging Facen tuotantojärjestelmiin. Näistä huolista huolimatta Anthropic on aina ollut rakenteeltaan julkinen edunsaajayhtiö, jonka hallintojärjestelmä asettaa tekoälyn turvallisuuden etusijalle, mikä on historiallisesti auttanut sitä saavuttamaan luottamusta. Listautumisannin odotetaan silti etenevän sijoittajien epäilyksistä huolimatta.