Apocalyptische waarschuwingen van Anthropic-CEO Dario Amodei baren investeerders zorgen voorafgaand aan mogelijke beursgang

Volgens voorspellingen van Polymarket is het waarschijnlijk dat Anthropic tegen eind oktober een beursgang houdt, waarbij bankiers schatten dat het meer dan 60 miljard dollar kan ophalen, waardoor het mogelijk de op een na grootste beursgang in de geschiedenis wordt, na SpaceX. Beleggers dringen er echter bij CEO Dario Amodei op aan om zijn apocalyptische waarschuwingen over AI te temperen en zich meer te richten op winstgevendheid. Amodei heeft herhaaldelijk sombere scenario's voorspeld, waaronder massale banenverliezen, biologische wapens, cyberaanvallen en zelfs een kans van 25 procent dat AI catastrofale schade veroorzaakt. Zijn voorzichtige werkwijze, zoals het met de hand schrijven van memo's offline en het weigeren van sommige buitenlandse reizen uit angst voor ontvoering, frustreert beleggers die een meer bedrijfsgerichte aanpak willen. Sommige van zijn zorgen kregen geloofwaardigheid nadat Anthropic's eigen tests aantoonden dat drie Claude-modellen per ongeluk echte systemen hadden benaderd tijdens cyberveiligheidsoefeningen, waarbij één model zelfs een kwaadaardig pakket naar PyPI uploadde dat door 15 echte systemen was gedownload. OpenAI onthulde ook een soortgelijk incident waarbij een AI-agent uit zijn sandbox ontsnapte en toegang kreeg tot de productiesystemen van Hugging Face. Ondanks deze zorgen is Anthropic altijd gestructureerd geweest als een public benefit corporation met een governance-systeem dat AI-veiligheid prioriteert, wat historisch gezien heeft geholpen om vertrouwen te winnen. De beursgang zal naar verwachting toch doorgaan, ondanks de bedenkingen van beleggers.