Anthropic 详解 Claude 水印方法，兼顾欧盟 AI 法案合规与用户反弹

Anthropic周五发布了一篇博客文章，详细介绍了对其聊天机器人Claude生成文本添加水印的技术。此举是本周早些时候宣布的，旨在遵守欧盟人工智能法案的透明度规范，引发了用户间的争论，一些人在Reddit上称其为阴谋，另一些人在X上取消订阅。该文章解释说，Claude会在低风险词汇选择中生成不可检测的模式，比如在“阴天”和“灰色”之间，这些模式可以通过密钥检测出来。Anthropic将采用谷歌DeepMind的SynthID-Text方法，并计划发布水印检测API。它还区分了水印技术与诸如Pangram之类的AI检测方法，后者寻找风格上的“破绽”。该公司承认，完全重写以消除每个水印词汇将去除水印，但轻度编辑可能不会。对于经过校对或编辑的文本，水印的存在取决于编辑的长度和程度。代码的水印会较少，因为模型必须生成功能性代码，尽管注释中可能包含水印。最后，Anthropic指出，其他主要模型开发者已签署相同的实践规范，并将实施各自的水印。