法规AI安全 🇨🇳 11.08.2026 08:02

Claude新模型内嵌隐形水印引发争议

AnthropicAnthropic Google/DeepMindGoogle/DeepMind MetaMeta MicrosoftMicrosoft OpenAIOpenAI Moonshot AIMoonshot AI
Anthropic宣布,其新推出的Claude模型将在生成的文本中嵌入隐形水印,以符合欧盟《人工智能法案》的要求。该水印作为文本本身的一部分,能够经受复制和编辑,并将在全球范围内应用。公司还计划使用内容来源与真实性联盟(C2PA)标准,为特定文件类型添加签名元数据。
Anthropic已签署欧盟《人工智能法案》中关于AI生成内容透明度的行为准则,该准则要求2026年8月2日之后发布的新模型必须在生成的文本中嵌入隐形水印。该水印并非元数据,而是成为文本的一部分,使其无法通过复制粘贴去除,并能经受一定程度的编辑。这一机制将全球适用,不仅限于欧盟,并覆盖所有Claude产品,包括API、Claude、Claude Code、Claude Cowork和Claude Tag,以及通过AWS、Google Cloud和Microsoft Foundry使用的云客户。此外,Anthropic还将按照C2PA开放标准,为SVG、PNG和JPG等受支持的文件类型添加签名元数据。该公司正在为用户和第三方开发检测工具,以验证内容是否由Claude处理,但同时也承认其局限性:检测到标记并不能确认作者身份,而没有标记也不能保证内容非AI生成。算法的细节并未公开。此前,一位Reddit用户发现,Claude Code中含有隐藏的Unicode字符,这些字符标记了中文用户,这表明Anthropic此前已使用过类似技术。文章对这些水印不会影响生成质量的说法表示怀疑。
来源: QbitAI 量子位 — 原文
我们之前关于此话题的帖子 ↓
最新新闻