Anthropic 反对开源模型禁令;NVIDIA 4天内集结75个签名联盟
Anthropic
Moonshot AI
NVIDIA
OpenAI
Google DeepMind
Meta
Microsoft
Mistral
Anthropic 首席执行官 Dario Amodei 拒绝禁止开源模型权重的呼吁,提出三项措施:芯片出口管制、反蒸馏规则以及对有能力的模型进行强制性安全测试。NVIDIA 的黄仁勋则集结了一个包含75个签名方(包括主要科技公司)的联盟,并成立了开放安全AI联盟,同时向 Ilya Sutskever 的 Safe Superintelligence 投资50亿美元。
7月27日,Anthropic首席执行官(CEO)Dario Amodei发表博文,回应公开信《开放权重与美国人工智能(AI)领导地位》,明确表示Anthropic从未主张禁止开放权重模型。他认为,不具备危险能力的此类模型是一种公共产品。这篇博文打破了此前四天的沉默——而这种沉默此前一直对Anthropic不利。
事件背景包括:Moonshot AI于7月16日发布了拥有2.8万亿参数的Kimi K3模型,以及美国政府对中国开放模型的言辞不断升级。Amodei提出了三项替代措施:禁止向中国出售芯片、打击工业化的蒸馏行为,以及对所有具备足够能力的模型(无论开放还是闭源)实施强制性安全测试,同时对初创企业和学术用途予以豁免。
第一项措施直指NVIDIA(英伟达),该公司此前一直通过特殊安排向中国出售芯片。与此同时,NVIDIA首席执行官(CEO)Jensen Huang于7月24日发表公开信,支持开放模型,截至7月28日已获得75个签名支持,签署方包括Microsoft、Meta、IBM、Dell、Palantir、Mistral、Hugging Face,以及随后加入的OpenAI、Google和SpaceX。Anthropic和Amazon并未在信上签名。
7月27日,NVIDIA宣布成立“开放安全人工智能联盟”(Open Secure AI Alliance),并宣布向Ilya Sutskever的Safe Superintelligence(SSI)投资50亿美元。
文章指出,真正的博弈在于谁有权决定何为“前沿模型”(frontier model)。Anthropic倾向于由行业机构(例如Demis Hassabis提议设立的“前沿人工智能标准机构”,Frontier AI Standards Body)来主导这一界定,而NVIDIA则反对此类限制,以维护其图形处理器(GPU)市场。
来源: Habr — хаб ИИ —
原文
