引言
自语言模型能够生成与人类无法区分的文本以来,其可追溯性问题便成为核心议题。2026年8月11日,Anthropic宣布自2026年8月2日起推出的模型将在Claude的文本输出中集成"隐形"水印,并逐步扩展至更早的模型(TechCrunch)。这一想法颇具吸引力:借助离散的统计模式,人们终于可以判断某内容是否由人工智能生成。
这一承诺引发若干问题。
我们能信任一种只有其创造者才知道如何检测的水印吗?它能抵御文本的变换吗?更重要的是,一个仍具概率性质的信号在法律上有何价值?
Anthropic水印的工作原理
该机制基于一种统计隐写术:通过特定token的分布,将一种模式直接编织进生成的文本中,无需依赖单独的元数据。
Anthropic明确指出:"由于水印是文本的一部分,当文本被复制粘贴到其他地方时,它会随文本一起传播,并能在某些修改后继续存在。"
标记在模型层面生效,因此无论使用何种产品(Claude、API、Claude Code、Claude Cowork、Claude Tag),包括通过第三方平台,均适用。
对于生成的文件(.png、.jpg、.svg格式的图像),Anthropic采用开放的C2PA标准,该标准关联了数字签名的来源元数据,可信度要高得多。与任何持有公钥者都能验证的密码学签名不同,文本水印的检测需要专用工具。
Anthropic表示计划向第三方提供检测工具,但这一承诺仍有待落实(Business Insider)。
技术局限
统计水印远非无懈可击的防线。Anthropic承认,若文本被大幅改写,文本标记可以被抹除;若文件格式改变或仅进行简单截图,文件的元数据也可能消失(Forbes)。
换言之,面对复制粘贴所宣称的稳健性,无法抵御实质性改写、翻译或编辑加工。Anthropic还强调了一个重要细微差别:该标记仅表明Claude"参与"了内容,而非模型生成了全部文本(Fortune)。
另一局限在于:该政策仅适用于2026年8月2日起推出的模型,更早的模型尚未被覆盖,这在当前相当一部分使用场景中留下了灰色地带(Wavect)。最后,只要检测工具仍为专有且并非普遍可及,信息不对称就会持续存在:只有发行公司或其指定(但尚未认证)的合作伙伴才能确定地验证该信号。
法律背景:AI法案第50条
这一举措直接回应了2026年8月2日生效的欧洲人工智能法规(AI法案)第50条。该条款要求生成式AI系统的提供者确保其输出(音频、图像、视频或文本)以机器可读的格式进行标记,并可被检测为人工生成(EU AI Act)。
第50(4)条为传播者增设了一项独立义务:除非经过人类编辑控制,否则必须明确披露任何深度伪造内容,以及为向公众通报普遍利益事项而发布的任何AI生成文本(Paul Weiss)。
相关的《行为准则》明确指出,对于文本而言,统计水印仍是一种过渡性解决方案,因为文本标记技术本质上比图像或音频更难标准化(AI Policy Desk)。
对于2026年8月2日之前已上市的系统,已获准延期至2026年12月2日;而各供应商之间检测机制的互操作性预计要到2027年2月2日才能实现(Paul Weiss)。
不遵守这些义务可能导致AI法案项下的重大处罚。《行为准则》还要求在实践中结合至少两种标记技术(防篡改元数据和不可感知水印),并禁止用户移除这些元数据(Paul Weiss)。
法律上脆弱的证据
问题的症结在于明眼的技术专家一眼便能看出:统计签名并非法律意义上的直接证据。
在民事或商事诉讼中,证据原则上必须清晰、可复现且可供双方验证;然而,只要检测工具仍为专有,法官和对方当事人均无法独立地质疑或佐证它。
AI法案本身区分了两种不同逻辑:第50(2)条要求可通过技术工具检测的标记,而第50(4)条要求人类可直接感知的披露。一家律师事务所还指出,符合第50条的水印本身并不足以满足第50条的人类披露义务(Two Birds)。
这一区分证实:技术水印首先是大规模检测和合规监管的工具,而非法庭上独立的证明工具。此外,由于举证责任通常落在主张某一事实的一方,任何声称某文本由Claude生成的人,都须依赖其他要素(独立鉴定、背景、自认、其他物证)——单纯的统计指标本身即可被质疑,尤其在目前尚无公认的独立认证机构对这些方法进行审计的情况下。
总之,仍是宣传效应……
Anthropic的公告构成了一项技术进步,使其得以遵守自2026年8月2日起生效的法规。它体现了一种努力,以回应AI法案的透明度要求,且部署范围刻意覆盖全球,而非仅限于欧盟(Euronews)。
但在证明层面,这一水印仍然只是众多技术指标之一,而非无可辩驳的证据。它可以被实质性改写抹除,尚未覆盖所有模型,其验证也依赖于对独立第三方而言可用性与可靠性尚待证明的工具。
在独立且可互操作的认证框架全面运作之前(互操作性预计2027年2月才可实现),这一"算法签名"将更多地是一种内部可追溯性与合规工具,而非在民事或商事法庭上可对抗的独立法律证据。
来源:TechCrunch、Euronews、Forbes、Fortune、Business Insider、Wavect、EU AI Act、Paul Weiss、AI Policy Desk、Two Birds
