论文部分内容阅读
人工智能的发展所带来的不仅是对技术奇点的狂想,同样也包括对其安全性的日益担忧。这些担忧通常涉及了两种不同的后奇点前景:机器超越人类和机器取代人类。前者涉及的风险包括尊严风险和道德风险,即机器可能危及人类的优越性,以及可能受到人类的虐待;后者主要涉及生存风险,即人类可能面临机器的生存威胁。通过引入人工智能哲学中的相关讨论,我们认为:在生成人工智能实现之前,人工智能既不会超越更不会取代人类,尊严风险、伦理风险和生存风险都不太可能存在;在当前人工智能范式下,真正的风险是人工智能的决策风险。