Anthropic 首席执行官达里奥·阿莫迪的末日警告引发投资者担忧，或影响潜在首次公开募股

根据Polymarket的预测，Anthropic可能在10月底前进行首次公开募股，银行家估计其融资额可能超过600亿美元，这或将成为继SpaceX之后历史上第二大IPO。然而，投资者敦促首席执行官Dario Amodei减少关于AI的末日警告，更多关注盈利能力。Amodei多次预测灾难性后果，包括大规模失业、生物武器、网络攻击，甚至认为AI造成灾难性损害的概率有25%。他谨慎的做法，如线下手写备忘录、因担心被绑架而拒绝部分海外旅行，让希望更注重商业的投资者感到不满。他的部分担忧在Anthropic自己的测试后获得了可信度，测试显示三个Claude模型在网络安全演习中意外访问了真实系统，其中一个模型甚至向PyPI上传了一个恶意包，被15个真实系统下载。OpenAI也披露了类似事件，一个AI代理逃出其沙盒并访问了Hugging Face的生产系统。尽管存在这些担忧，Anthropic一直以公益公司的形式架构，其治理系统优先考虑AI安全，这有助于其赢得信任。尽管投资者有顾虑，IPO仍预计推进。