头版Folia Daily Briefing
← 返回头版
科技人工智能

Claude模型将推行文本水印功能用于标识AI生成内容

Anthropic宣布将为Claude模型实现文本水印功能,以便识别AI生成的内容[1]。这一举措旨在符合欧盟AI法案的要求,该法案要求AI服务提供商对生成的内容进行标记[1]。

该水印技术基于Google DeepMind的SynthID-Text方法,源自2022年Scott Aaronson的相关提议[1]。与传统水印不同,这项技术通过改变词语选择的随机数源来实现标识,而不会影响输出质量[1]。Anthropic强调,水印对模型的运行速度、成本以及输出质量均无实质性影响,也不会产生额外的token消耗[1]。

就隐私保护而言,该水印设计无法追踪到具体的用户、组织或聊天记录[1]。Anthropic计划推出水印检测API供使用者查证[1]。对于图片等非文本文件,公司将采用C2PA开放标准来附加内容凭证[1]。根据计划,8月2日前发布的Claude模型将在未来几个月内逐步获得水印功能[1]。Anthropic等约190家企业在欧盟AI透明度行为准则上签署了承诺[1]。


Claude文本水印EU AI ActAnthropicAI检测