Anthropic隐形水印引发去水印竞赛
Anthropic最近为其Claude模型生成的文本推出了“隐形水印”,旨在使AI输出更易于识别。该水印通过Claude词汇选择中的统计模式嵌入,即使用户复制粘贴内容也会保留。该公司表示,此举符合其在欧盟AI法案下的承诺。
但技术社区很快进行了反击。许多用户和专业人士担心,即使是校对、翻译或摘要等日常任务也会将隐藏标记带入最终输出。一些用户甚至取消了Claude订阅以示抗议。这一反弹引发了去除AI文本标记工具搜索量的激增。
开发者迅速响应。巴黎科技企业家、AI电商工具Memo创始人Guillaume Meyer在Anthropic宣布后几天内就推出了名为Watermarks Remover的开源项目。该工具去除隐藏字符和元数据,同时重写文本以保留含义,从而破坏携带水印的统计模式。Meyer表示他花了大约五个小时构建,并迅速在GitHub上获得超过14000颗星。不过,他承认无法保证100%去除。
Meyer一直直言不讳:他支持内容归属,但反对他所称的“非理性水印技术”,这种技术将作者身份简化为简单的非黑即白分类。与此同时,提供AI教育服务的Sabrina Ramonov在社交媒体上分享说,她开发了一个免费的基于浏览器的Watermark Remover。它声称可以从文本、PDF、Word文档、网页、图像和数据文件中去除隐藏的AI标记。东京软件开发者Ansh Aneja也在该功能宣布当天为Claude创建了一个专用工具,后来发布了名为MarkScrub的本地开源版本。他报告称一天内用户显著增加。
从技术和法律角度来看,这些去水印工具处于灰色地带。苏黎世联邦理工学院研究员Thibaud Gloaguen指出,它们凸显了水印技术长期存在的局限性——总会有通过改写等方法去除水印的方法。
在法律方面,欧盟AI法案要求AI服务提供商使其内容标记系统能够抵御常见修改和对抗性操作。它还要求评估去除或更改水印的潜在威胁。然而,该法案并未明确禁止第三方开发或尝试去除AI水印。法律专家警告说,如果用户使用此类工具恶意将AI生成的内容伪装成人类创作,可能会违反Anthropic的服务条款,该条款禁止冒充人类。
随着Anthropic计划在下一代模型推出时推出文本检测API,并逐步将水印扩展到旧模型,水印与去水印之间的拉锯战可能会加剧。问题仍然存在:在AI时代,透明度和用户自由能否共存?
关键要点
- Anthropic在Claude中引入隐形水印以遵守欧盟AI法案。
- 用户和开发者迅速反应,出现了多个开源去水印工具。
- 像Watermarks Remover和MarkScrub这样的工具旨在去除隐藏标记,同时保留文本含义。
- 法律和技术挑战持续存在,因为水印并非万无一失,去除工具处于灰色地带。
- 随着Anthropic将水印扩展到更多模型,冲突预计会升级。