Anthropic在Claude上秘密添加水印引发Reddit热议

Anthropic已悄悄开始在其AI聊天机器人Claude生成的文本中嵌入隐形水印，此举旨在帮助监管机构识别AI生成的内容。该政策与欧盟的《人工智能法案》一致，要求科技公司为AI生成或编辑的材料添加计算机可读的标识。虽然这可能会让监管机构满意，但在用户中引发了激烈辩论，许多人纷纷在Reddit上表达他们的担忧。

这场争议源于一位名为visionode的用户（其账户注册不到三周）发布的一篇尖锐批评。他将水印系统描述为一场“严格的阴谋”，使无辜的聊天机器人用户成为受害者。他的核心论点是：精通技术的专家可以轻松去除或绕过水印，而普通用户——学生、记者、作家——则暴露在风险之中。他生动地描绘了这些“受害者”的形象：让Claude重新组织论文的学生，用AI总结数百页采访内容的记者，以及寻找同义词的小说家。“他们最终都会在额头上留下数字纹身，”他警告道。

但他的帖子并没有得到他预期的同情。其他用户很快指出了他逻辑中的缺陷。如果记者只是用AI来总结源材料，除非他们逐字复制AI的总结，否则水印不会出现在最终文章中——而这将构成另一种道德违规。同样，将AI修改后的段落粘贴到论文中的学生已经违反了学术诚信。一些评论者只是嘲笑这个帖子，有人写道“看看这家伙”，还有人建议visionode“深呼吸”。

另一位批评者更进一步，称水印“不道德”且“令人厌恶”。他们认为，在与Claude的互动中，他们提供了指令、背景和多次编辑，为什么AI要居功？反对者反驳说，水印与功劳无关——它关乎在AI生成内容可能带来风险（如虚假信息或欺诈）的情况下实现可追溯性。

一些用户提出了一个更深层次、更具哲学性的担忧：由于尖端AI模型是在大量人类创作的作品上训练的，给AI输出添加水印带有一种“令人恐惧的讽刺”意味。这就像AI在声称对源自人类创造力的内容拥有作者身份。

尽管有这些反对声音，Reddit上的总体情绪似乎支持水印。一位用户的评论抓住了主流观点：“不希望这种机制存在的唯一原因是你想对别人撒谎。”这种务实的立场表明，大多数用户认识到透明度的价值，即使它带来一些不便。

这场辩论凸显了AI行业日益紧张的局势：如何在问责需求与无缝、不引人注目的用户体验之间取得平衡。随着AI越来越融入日常生活，关于作者身份、透明度和信任的问题只会变得更加紧迫。目前，Anthropic的水印政策开启了一场远未结束的对话。

要点

• Anthropic在Claude的输出中添加了隐形水印，以符合欧盟《人工智能法案》。
• Reddit用户意见不一，有人称其为“数字纹身”，不公平地针对普通用户。
• 批评者认为，专家可以绕过水印，使不太懂技术的用户容易受到攻击。
• 支持者表示，水印对于透明度和可追溯性是必要的。
• 这场辩论反映了AI监管与用户自由之间更广泛的紧张关系。