有人认为,获得更强的计算能力只是时间问题——即随着摩尔定律的继续推进,计算资源也将越来越便宜,人工智能自然会超过人类智能。其实这是不对的,事实上,我们并没有从本质上理解通用的学习原理。我们现在担忧人工智能的安全性,就如同两百年前担心要是以后有飞机了飞机坠毁怎么办一样。如果我们总是过度担心安全性,我们就不可能造出飞机。不管怎么样,我们要先造出飞机,再担心飞机的安全性。
我们过度担忧人工智能,将阻碍人工智能实际的进步。我们要认识到无人驾驶汽车可能可以帮助我们减少车祸的发生,而且人工智能系统甚至能够帮我们诊断疾病,所以因为担心安全性而阻碍人工智能的进步可能是最糟糕的选择。