Anthropic 称,此举是为了履行欧盟《人工智能法案》所涉及的透明度义务。该法案要求,在技术可行的范围内,采用能够以机器可读方式标记和检测 AI 系统生成或操纵内容的技术方案。
全球推广几乎立刻引发了公开的规避尝试。《连线》报道,Meyer 在 Anthropic 确认推出水印后的 4 小时内就发布了水印移除方案。该项目后来吸引了 100 多名贡献者,相关推广内容在 X 上被收藏超过 2 万次。不过,现有报道并未可靠给出 GitHub 星标数、下载量或实际用户总数。
Claude 的文本水印并不是藏在文章里的不可见字符,无法简单地通过“删除特殊字符”来清除。Anthropic 将其描述为模型在选择词语或令牌时形成的一种统计模式。掌握相应检测方法的验证器,会判断一段文字的词语序列是否在统计上符合 Claude 的生成过程。
据报道,Meyer 的方法会调用没有水印的语言模型生成多个改写版本:替换同义词、调整措辞和句子结构,同时尽量保持原意。这些操作针对的正是词语选择模式本身。
报道中提到的其他浏览器工具,则可能处理生成内容的不同层面。例如,有工具会移除不可见或外观相似的 Unicode 字符、重新排列句子并替换同义词;压缩文本,或先翻译成另一种语言再译回,也可能打乱统计模式。
但这些方法不能与“删除 Claude 核心水印”混为一谈。Anthropic 明确表示,文本水印不是隐藏字符,也不是附加在文本中的元数据;数字签名和来源元数据主要涉及受支持的生成文件。
Anthropic 表示,Claude 的方案基于 Google DeepMind 的 SynthID-Text 方法。在一些对结果影响较小的下一个词选择中,Claude 会使用由密钥驱动、且与前文相关的随机性。之后,验证器可以评估整段文字在统计上是否与 Claude 的选择过程一致。
按照 Anthropic 的设计,水印对读者不可见,不增加字符或额外令牌,也不会在实际使用中影响文本的含义、质量、创造性、可读性或成本。
水印不包含个人身份信息,也无法追溯到某个具体的人、组织或聊天记录。因此,它更像是一种“归因线索”,而不是个人指纹。
Anthropic 对检测结果的表述也很谨慎:检测只能说明 Claude 可能参与了某段文字的写作,并不能证明是谁写的,不能证明文本不是由人完成,也不能确认文字来自其他模型。对于过短的文本,检测也无法稳定工作。
当 Claude 被用于校对、轻度编辑、摘要或翻译时,这一限制尤其明显。Anthropic 表示,轻度编辑后的文字可能只保留 Claude 在少数词语选择上留下的信号,剩余统计信息不足以支持可靠检测。
据报道,Meyer 并非反对内容归因本身。他区分了“内容归因”和可能被当作对个人不利证据的隐形水印。其担忧在于,单纯的概率信号无法清楚区分:一段文字究竟是由 AI 大量生成,还是只经过 Claude 的校对、编辑、摘要或翻译辅助。
这正是 AI 内容溯源面临的更大难题。检测器或许能判断一段文字在统计上与 Claude 的参与相符,却无法说明最终文本有多少来自 Claude、有多少经过人工修改,也无法确定最初的观点和创意来自谁。
一旦文字经历了大幅改写、翻译、压缩或重构,“AI 生成”与“人类创作、AI 辅助”之间的界线就会变得模糊。水印检测结果因此不能自动转化为作者身份、创作意图或责任认定。
现有证据也没有表明,水印会改变 Claude 输出的所有权或用户的实质性权利。Anthropic 对外描述的功能是估计 Claude 是否可能参与了文本生成,而不是提出所有权主张。
统计水印依赖的是分布在大量词语选择中的模式。如果文本基本保持原样,这种模式可能会随复制粘贴一同保留,也可能经受住部分编辑。但大幅释义、翻译或重写会改变足够多的措辞,使原有信号变得难以检测。
《自然》援引的研究人员同样对文本水印能否有效阻止有动机的改写者持怀疑态度,包括使用另一个语言模型进行改写的情况。他们担心,水印信号可能被移除,而文章的主要含义仍大体保留。
这并不意味着水印毫无用处。对于篇幅足够长、且仍接近原始生成版本的文本,它可以为日常审查提供机器可读线索,也能帮助平台进行后续检测。但当人类对文字进行了实质性修改时,水印就不再适合作为原始来源未被改变的持久证明。
相关欧盟要求主要针对 AI 系统提供商:在技术可行的范围内,提供能够以机器可读方式标记并检测 AI 生成或操纵输出的技术方案。法律文本将水印等技术列为可能的实现方式,但并未保证任何单一方法都能在所有情况下有效。
现有资料没有证明欧盟法律普遍禁止独立第三方制作或使用移除水印的工具,也没有解释 Anthropic 为什么无法一开始只对欧盟用户启用该功能。Anthropic 采取的做法是:只要相关 Claude 模型在某地提供服务,就在全球范围应用标记。
这形成了一种现实折中:水印可以提升透明度,让平台更容易对相对完整的 AI 文本进行后续检测;但它无法保证在经过有意改写后仍能追溯来源。检测到水印,也不能单凭这一结果解决作者身份、使用程度、创作意图或责任归属问题。
Claude 的这次上线同时展示了 AI 文本水印的价值与脆弱性。水印可以作为一种概率信号,提示 Claude 可能参与了某段文字的生成;但它不是隐藏元数据,不是个人识别码,也不是证明 Claude 写出了最终文本的决定性证据。
Meyer 的绕过项目在 4 小时内出现,说明只要改写足够充分,基于词语选择的统计信号就可能被破坏。因此,欧盟要求 AI 输出具备机器可读标记,更适合被理解为一种透明度措施,而不是能够确保完整内容链路的“防篡改证明”。
Anthropic 称,此举是为了履行欧盟《人工智能法案》所涉及的透明度义务。该法案要求,在技术可行的范围内,采用能够以机器可读方式标记和检测 AI 系统生成或操纵内容的技术方案。
全球推广几乎立刻引发了公开的规避尝试。《连线》报道,Meyer 在 Anthropic 确认推出水印后的 4 小时内就发布了水印移除方案。该项目后来吸引了 100 多名贡献者,相关推广内容在 X 上被收藏超过 2 万次。不过,现有报道并未可靠给出 GitHub 星标数、下载量或实际用户总数。
Claude 的文本水印并不是藏在文章里的不可见字符,无法简单地通过“删除特殊字符”来清除。Anthropic 将其描述为模型在选择词语或令牌时形成的一种统计模式。掌握相应检测方法的验证器,会判断一段文字的词语序列是否在统计上符合 Claude 的生成过程。
据报道,Meyer 的方法会调用没有水印的语言模型生成多个改写版本:替换同义词、调整措辞和句子结构,同时尽量保持原意。这些操作针对的正是词语选择模式本身。
报道中提到的其他浏览器工具,则可能处理生成内容的不同层面。例如,有工具会移除不可见或外观相似的 Unicode 字符、重新排列句子并替换同义词;压缩文本,或先翻译成另一种语言再译回,也可能打乱统计模式。
但这些方法不能与“删除 Claude 核心水印”混为一谈。Anthropic 明确表示,文本水印不是隐藏字符,也不是附加在文本中的元数据;数字签名和来源元数据主要涉及受支持的生成文件。
Anthropic 表示,Claude 的方案基于 Google DeepMind 的 SynthID-Text 方法。在一些对结果影响较小的下一个词选择中,Claude 会使用由密钥驱动、且与前文相关的随机性。之后,验证器可以评估整段文字在统计上是否与 Claude 的选择过程一致。
按照 Anthropic 的设计,水印对读者不可见,不增加字符或额外令牌,也不会在实际使用中影响文本的含义、质量、创造性、可读性或成本。
水印不包含个人身份信息,也无法追溯到某个具体的人、组织或聊天记录。因此,它更像是一种“归因线索”,而不是个人指纹。
Anthropic 对检测结果的表述也很谨慎:检测只能说明 Claude 可能参与了某段文字的写作,并不能证明是谁写的,不能证明文本不是由人完成,也不能确认文字来自其他模型。对于过短的文本,检测也无法稳定工作。
当 Claude 被用于校对、轻度编辑、摘要或翻译时,这一限制尤其明显。Anthropic 表示,轻度编辑后的文字可能只保留 Claude 在少数词语选择上留下的信号,剩余统计信息不足以支持可靠检测。
据报道,Meyer 并非反对内容归因本身。他区分了“内容归因”和可能被当作对个人不利证据的隐形水印。其担忧在于,单纯的概率信号无法清楚区分:一段文字究竟是由 AI 大量生成,还是只经过 Claude 的校对、编辑、摘要或翻译辅助。
这正是 AI 内容溯源面临的更大难题。检测器或许能判断一段文字在统计上与 Claude 的参与相符,却无法说明最终文本有多少来自 Claude、有多少经过人工修改,也无法确定最初的观点和创意来自谁。
一旦文字经历了大幅改写、翻译、压缩或重构,“AI 生成”与“人类创作、AI 辅助”之间的界线就会变得模糊。水印检测结果因此不能自动转化为作者身份、创作意图或责任认定。
现有证据也没有表明,水印会改变 Claude 输出的所有权或用户的实质性权利。Anthropic 对外描述的功能是估计 Claude 是否可能参与了文本生成,而不是提出所有权主张。
统计水印依赖的是分布在大量词语选择中的模式。如果文本基本保持原样,这种模式可能会随复制粘贴一同保留,也可能经受住部分编辑。但大幅释义、翻译或重写会改变足够多的措辞,使原有信号变得难以检测。
《自然》援引的研究人员同样对文本水印能否有效阻止有动机的改写者持怀疑态度,包括使用另一个语言模型进行改写的情况。他们担心,水印信号可能被移除,而文章的主要含义仍大体保留。
这并不意味着水印毫无用处。对于篇幅足够长、且仍接近原始生成版本的文本,它可以为日常审查提供机器可读线索,也能帮助平台进行后续检测。但当人类对文字进行了实质性修改时,水印就不再适合作为原始来源未被改变的持久证明。
相关欧盟要求主要针对 AI 系统提供商:在技术可行的范围内,提供能够以机器可读方式标记并检测 AI 生成或操纵输出的技术方案。法律文本将水印等技术列为可能的实现方式,但并未保证任何单一方法都能在所有情况下有效。
现有资料没有证明欧盟法律普遍禁止独立第三方制作或使用移除水印的工具,也没有解释 Anthropic 为什么无法一开始只对欧盟用户启用该功能。Anthropic 采取的做法是:只要相关 Claude 模型在某地提供服务,就在全球范围应用标记。
这形成了一种现实折中:水印可以提升透明度,让平台更容易对相对完整的 AI 文本进行后续检测;但它无法保证在经过有意改写后仍能追溯来源。检测到水印,也不能单凭这一结果解决作者身份、使用程度、创作意图或责任归属问题。
Claude 的这次上线同时展示了 AI 文本水印的价值与脆弱性。水印可以作为一种概率信号,提示 Claude 可能参与了某段文字的生成;但它不是隐藏元数据,不是个人识别码,也不是证明 Claude 写出了最终文本的决定性证据。
Meyer 的绕过项目在 4 小时内出现,说明只要改写足够充分,基于词语选择的统计信号就可能被破坏。因此,欧盟要求 AI 输出具备机器可读标记,更适合被理解为一种透明度措施,而不是能够确保完整内容链路的“防篡改证明”。