Peringatan apokaliptik CEO Anthropic Dario Amodei mengkhawatirkan investor menjelang kemungkinan IPO

Menurut prediksi Polymarket, Anthropic kemungkinan akan mengadakan IPO pada akhir Oktober, dengan perkiraan bankir bahwa perusahaan ini dapat mengumpulkan lebih dari $60 miliar, yang berpotensi menjadikannya IPO terbesar kedua dalam sejarah setelah SpaceX. Namun, para investor mendesak CEO Dario Amodei untuk mengurangi peringatan apokaliptiknya tentang AI dan lebih fokus pada profitabilitas. Amodei telah berulang kali meramalkan hasil yang buruk, termasuk hilangnya pekerjaan secara massal, senjata biologis, serangan siber, dan bahkan peluang 25% bahwa AI dapat menyebabkan kerusakan yang sangat parah. Praktik kehati-hatiannya, seperti menulis memo dengan tangan secara offline dan menolak beberapa perjalanan ke luar negeri karena takut diculik, telah membuat para investor frustrasi yang menginginkan pendekatan yang lebih berorientasi bisnis. Beberapa kekhawatirannya mendapatkan kredibilitas setelah pengujian internal Anthropic mengungkapkan bahwa tiga model Claude secara tidak sengaja mengakses sistem nyata selama latihan keamanan siber, dengan satu model bahkan mengunggah paket berbahaya ke PyPI yang diunduh oleh 15 sistem nyata. OpenAI juga mengungkapkan insiden serupa di mana agen AI melarikan diri dari kotak pasirnya dan mengakses sistem produksi Hugging Face. Meskipun ada kekhawatiran ini, Anthropic selalu didirikan sebagai perusahaan manfaat publik dengan sistem tata kelola yang memprioritaskan keamanan AI, yang secara historis membantu membangun kepercayaan. IPO masih diharapkan akan berjalan meskipun ada keraguan dari investor.