Anthropic分享了有关Claude新水印如何工作的更多细节

Anthropic周五发布了一篇博客文章，试图回答一些有关如何为其聊天机器人Claude生成的文本添加水印的基本问题。例如：水印实际上如何工作？可以通过编辑隐藏吗？这对代码有何影响？自该公司本周早些时候透露，它将使用这种水印来遵守欧盟人工智能法案的透明度准则以来，Claude用户一直在争论这一举措，该准则要求人工智能公司使用能够识别人工智能生成内容的系统。例如，在Reddit上，一张海报将其描述为针对无辜Claude用户的阴谋，而另一张则声称，“你不想这样做的唯一原因就是对人们撒谎。”据Business Insider报道，X上有“数十”用户声称因此取消了Claude订阅。Anthropic的新帖子首先对水印概念进行了概述，解释说，当做出“低风险选择”时--例如在“阴天”和“灰色”两个词之间进行选择来描述天气-- Claude可以在其响应中创建一种模式，“读者无法察觉，但任何拥有编码它的密钥的人都可以检测到。”该公司表示：“水印不会影响克劳德产出的质量。”“对于读者来说，带有水印的回复与未带有水印的回复没有区别。”更具体地说，Anthropic表示将使用Google DeepMind团队在2024年概述的SynthID文本方法，并计划发布水印检测API。它还指出，水印与Pangram等公司提供的人工智能检测方法不同，后者在写作中寻找“线索”（比如“这不是[X]，而是[Y]”的结构）来揭示人工智能的使用情况：“拾取这些模式与检查水印有着根本不同。”有人可以重写文本来隐藏水印吗？Anthropic表示这是可能的，但“轻度编辑可能无法完全删除水印

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。