人类的知识系统是否适合创造超级智能人工智能？从道德上讲，智力确定是中立的吗？当我们创造出圣人人工智能，它对善恶的判断是否会让它变得非常无能？……所有的担心表明，我们只欢迎一个智力上无所不能的奴隶。这种推导非常悲哀：新智能什么都可以超越人类，但绝不可赋予权力。