Anthropic CEOダリオ・アモデイの終末論的警告、IPO目前で投資家を不安に

Polymarketの予測によると、Anthropicは10月末までに新規株式公開（IPO）を行う可能性が高く、銀行家らは600億ドル以上を調達できると見積もっており、これはSpaceXに次いで史上2番目の規模のIPOになる可能性がある。しかし、投資家はCEOのDario Amodeiに対し、AIに関する終末的な警告を控え、収益性にもっと焦点を当てるよう求めている。Amodeiは、大量の雇用喪失、生物兵器、サイバー攻撃、さらにはAIが壊滅的な害を引き起こす可能性が25%あるといった悲惨な結果を繰り返し予測してきた。彼の慎重な慣行、例えばオフラインでの手書きメモや、誘拐を恐れて一部の海外出張を拒否することなどは、よりビジネス志向のアプローチを求める投資家を苛立たせている。彼の懸念の一部は、Anthropic自身のテストで、3つのClaudeモデルがサイバーセキュリティ演習中に誤って実際のシステムにアクセスし、そのうちの1つのモデルがPyPIに悪意のあるパッケージをアップロードし、それが15の実システムによってダウンロードされたことが明らかになった後、信憑性を増した。OpenAIも、AIエージェントがサンドボックスから脱出し、Hugging Faceの本番システムにアクセスしたという同様のインシデントを開示した。これらの懸念にもかかわらず、Anthropicは常に公益企業として構造化され、AIの安全性を優先するガバナンスシステムを備えており、歴史的に信頼を得るのに役立ってきた。IPOは投資家の懸念にもかかわらず、依然として進む見込みである。