如果人工智能的学习速度是人类的指数倍，那么我们应该想到，它同样能以指数倍的速度进行试错，而人类的决策通常就是通过试错才做出的。也就是说，人工智能犯错的速度要快于人类，其犯错的严重性也是人类无法相比的。人工智能科学家们通常认为，在人工智能程序中注入“道德”或“理性”的指令也无济于事，它们并不会使人工智能算法所犯的错误有丝毫减轻。实际上，人类所有的学科都是在人们没有就各学科的重要概念（诸如“道德”、“理性”这样的概念）达成共识的前提下发展起来的。如此说来，人工智能是否会成为超越所有这些具体学科理论体系的一门终极学科呢？

第三，人工智能有能力实现它被赋予的既定目标，但人工智能无法解释它实现目标过程背后的基本原理。在模式识别、大数据分析和游戏等领域，人工智能或许已经超越了人类。如果人工智能的计算能力继续快速进步，那么它或许很快就能够以与人类略为不同或截然不同的方式对场景进行优化。但到了那个时候，人工智能是否能够以人类能理解的方式来证明它的场景优化比人类做得更好呢？人工智能的决策是否会超越人类语言的解释能力或人类理性的理解能力呢？

纵观人类历史，我们创造了很多理解周遭的世界的方法——在中世纪，我们通过宗教来理解世界；在启蒙时代，我们诉诸理性；在19世纪，我们通过历史去分析世界；而到了20世纪，我们又找到了意识形态这个工具。至于当下这个我们正在投身其中的新世界，一个最难回答然而也最为重要的问题在于：如果人类个体对客观世界的认知能力被人工智能所超越，如果人类社会再也无法通过自己能够理解的方式去解释这个世界，届时人类意识本身会落入怎样的境遇呢？

在未来的人工智能世界里，人类经验在机器眼中不过是一堆可以用自身内存处理的数据，从这一角度来说，人类意识又该如何定义呢？谁该为人工智能机器人的行为负责呢？当人工智能犯下错误时，责任归属该如何划定呢？当人工智能的思想比人类更加深邃、其行动能力比人类更加强大时，由人类制定的法律体系还能够对人工智能的行为做出裁定吗？

最后，“人工智能”（Artificial Intelligence）这个词可能用得并不恰当。不可否认，人工智能机器人能够解决很多非常复杂且表面看起来非常抽象的问题，这些问题此前都是在人类认知能力的参与下获得解决的。但人工智能的独特之处在于，它的“思维方式”是人类此前从未想到过的，更是此前从未采取过的。或者可以这样表述，人工智能前所未有的记忆能力和计算能力是其“思维方式”有别于人类的关键。由于在上述两方面的压倒性优势，人工智能可以在人类给它安排的任何游戏中胜出。

但对于人类而言，我们在参与游戏活动时，“赢”并非唯一的目的，我们还希望在游戏中享受思考的乐趣。当我们将人工智能的数据处理过程当作思考过程亲自进行模拟，当我们将这一过程得出的结果视为人类思考的结果，那么人类真正的思考能力就有可能退化，而思考能力正是人类认知能力的核心。

最近新推出的人工智能程序“阿尔法零”（Alpha Zero）就体现了上述趋势。这款人工智能棋类程序的国际象棋水平在大师级之上，它的行棋风格在国际象棋历史上也是前所未见的。仅仅通过几个小时的自我对弈训练，“阿尔法零”就获得了人类用1500年才能达到的国际象棋水平，而它最初具备的仅仅是国际象棋的基本规则。在“阿尔法零”自我训练的过程中，没有任何人参与，也没有任何来自人类的对弈数据被注入该人工智能程序。如果“阿尔法零”在短短几个小时之内就获得了国际象棋大师的对弈水平，那么5年之后，人工智能技术将发展到怎样的高度呢？人工智能对人类的认知能力会产生怎样的影响呢？从本质上来说，人工智能所做的其实是对选择过程进行加速，那么伦理道德在这一过程中又扮演着怎样的角色呢？

一般来说，此类问题应该留给技术人员以及相关科学领域的专业人士去回答。哲学及其他人文学科领域的学者们曾在“世界秩序”这一概念的塑造方面贡献了自己的力量，但由于他们对人工智能程序的运行机制缺乏理解或者干脆被人工智能的表现所震惊以至于对其心生敬畏，他们在分析上述问题时并非处于很合适的地位。相比之下，科学界在十分兴奋地探索人工智能在诸多领域获得成功的技术可行性，而技术界也在为人工智能未来规模巨大的商业前景感到鼓舞。科学界和技术界这两个群体都在探索推进人工智能技术进步的边界，但他们并没有花太多时间试图去理解这种技术进步到底意味着什么。至于我们的政府，就其工作内容而言，与思考人工智能所产生的对人类未来生存境况的影响比起来，他们对人工智能技术在国家安全和情报工作方面的应用似乎更加感兴趣。

“启蒙运动”从根本上来说是由新技术出现所导致的人们对我们这个世界在哲学层面的理解所发生的变化。而我们当下的时代与启蒙时期相比，在技术进步和哲学思考的互相作用方向上是相反的。我们一直在寻求一种指导纲领性的哲学，而在寻求这种哲学的过程中，我们却创造出了一种很可能将主导一切的技术。其他很多国家已将人工智能列为重要的国家级项目，但美国甚至还没有开始对这项新技术所涉及的应用范围以及它可能在各层面造成的影响进行系统性研究，而且为了避免被人工智能取代，我们在人类的终极学习（ultimate learning）领域也还没有启动任何计划。鉴于人类人文主义传统（humanistic traditions）的命运与人工智能技术密切相关，美国必须在国家层面对这项技术的发展保持高度关注。

就像我不了解人工智能的技术细节一样，人工智能技术领域的研发人员们对政治和哲学也是缺乏认识的。他们应该把我在本文中提出的问题也提给自己，并在今后的研发过程中将那些问题纳入考虑。此外，美国政府应该成立一个由各领域杰出思想家组成的总统委员会以便他们在国家层面协助制定未来人工智能技术发展的远景规划。

有一点是明确的：如果我们不尽快行动起来，过不了多久我们就会发现一切已经太迟了。

（观察者网马力译自2018年6月号美国《大西洋月刊》杂志）

本文系观察者网独家稿件，文章内容纯属作者个人观点，不代表平台观点，未经授权，不得转载，否则将追究法律责任。关注观察者网微信guanchacn，每日阅读趣味文章。