互联网的出现和计算能力的提高为海量数据的积累和分析提供了极大便利，人类的理解能力因此获得了前所未有的提升。在这一过程中，意义最为重大的技术创新出现在人工智能领域。人工智能技术能够通过类似人脑才具有的信息处理能力进行创新性思维并解决复杂的、看似抽象的问题。

这已经远远超出了我们对“自动化”的理解。所谓“自动化”仅是针对手段而言，自动化技术通过对生产工具进行机械化或合理化改进来实现确定的生产目标。与自动化技术大为不同，人工智能技术是针对结果而言的，人工智能可以自行确定自身行为的目标。由于在某种程度上来说人工智能所实现的目标部分取决于其自身，所以人工智能具有一种内在的不稳定性。人工智能系统在实际运行过程中不断获取新的数据并即时对这些新数据进行分析，在分析结果的基础上，人工智能系统可以不断对自己的算法进行优化。

所以说，人工智能系统是一个不断变化的、处于动态中的系统。在这一动态过程中，人工智能系统表现出了一种此前被认为仅有人类才会具有的信息处理能力。它可以对未来做出战略判断，有些判断是基于以代码形式事先注入的数据（围棋规则），有些判断则是基于人工智能系统自身所收集到的数据（与自己进行100万次对弈过程中出现的各种情况）。

以无人驾驶汽车为例，它体现了传统上以软件驱动、完全受到人类控制的车载计算机行为与渗透进驾驶过程每一个细节的人工智能行为这两者之间的区别。人类驾驶汽车时需要面对数不清的各种情况，并需要在每一具体情况下做出特定的判断，我们根本不可能预先想到所有的情况并事先为每一种可能的情况编写程序。我们以一个十分有名的假设为例来进行说明：当一辆由人工智能控制的无人驾驶汽车不得不在一位老人和一个小孩之间做出选择必须撞向其中一人时，它会如何选择呢？其背后的原因何在？它在做出选择时会更看重哪些因素？它能够自圆其说吗？如果人工智能程序能够与人类交流的话，它很可能会这样回答上述问题：“我不知道，我驾驶汽车时遵循的是数学原理，我不懂人类的那套规则”，它也可能这样回答：“你搞不懂我的，我曾受到大量训练来应对各种驾驶情况，但我从未受到训练向人类解释为何我会那样应对那些情况”。这就是人工智能无人驾驶技术当下的现实，不过不出10年，无人驾驶汽车很可能将行驶在我们的每一条街道上。

截至目前，人工智能技术仅在有限几个领域里获得了应用。如今，人工智能科学家们正试图将这一技术的应用领域扩大到社会生活的各个方面，未来的人工智能将可以执行多种任务。在不远的未来，将有越来越多的人类工作被人工智能算法所取代。不过，这些算法只能对所观察到的现象进行数学性理解，算法并不能理解现象背后的原因。令人感到矛盾的是，随着我们的世界越来越透明，人工智能算法却会变得越来越神秘。未来的新世界与我们早已习惯的今日世界会有哪些不同呢？我们将如何在那个新世界里生活呢？我们该如何管理人工智能？该如何改进它？该如何避免它对人类造成伤害？该如何避免比人类更快、更好掌握某些能力的人工智能（对它来说欲获得那些能力仅需处理一些数据）使人类的能力趋于退化或使人类的境况趋于恶化？

人工智能迟早将为医学科学、清洁能源和环境保护等领域带来极大的进步。不过，正因为人工智能所面对的未来正处于不断演进之中，它为我们带来的结果就内在地具有某种模糊性和不确定性。在这方面，有如下四点值得我们注意：

首先，人工智能可能为我们带来意想不到的后果。在科幻小说的情节中，人工智能机器人已经将其创造者列为攻击目标了。不过，另一种情况的可能性更大，由于人工智能并不是在一个完整的语境中理解信息的，它很可能无法正确理解人类的指令。最近一个有名的例子来自一个名为Tay的通过自然语言同人进行交流的人机智能对话系统，科学家的设计初衷是希望Tay能够以一个19岁女孩的身份和语言特征与人们进行友善、理性的交谈。不过，结果证明，这个智能对话系统并不能真正理解“友善”和“理性”的含义，Tay所使用的语言反而体现出种族主义者和性别歧视者的一些特征，有时候“她”讲的话甚至能将人激怒。

一些专业技术人员认为，人机智能对话系统Tay的设计思路不够合理，具体研发过程也出现了很多问题。不过，我们仍然能够借此就其背后的模糊之处提出一些疑问：我们能在多大程度上使人工智能系统理解人类指令的具体语境？当人类也未能就“冒犯”一词的准确含义达成共识的时候，我们能通过什么办法帮助Tay获得“冒犯”一词的准确概念？当人工智能系统的运行偏离其设计者的意图时，我们能早期发现并进行修正吗？如果我们对人工智能系统不施加任何干预，它会不会不可避免地在初期略微偏离设计意图甚至久而久之沿着偏离的轨道滑向灾难性的深渊？

第二点，在实现既定目标的过程中，人工智能可能会改变人类的思维方式和价值观。阿尔法狗在击败围棋世界冠军时所采用的策略是前所未见的，人类从未想到过围棋会有那种走法而且至今也未能想出针对那种走法的应对之策。阿尔法狗所采用的围棋走法是否已经超出了人类大脑的理解能力？人类是否能够学会那种走法呢？

在人工智能涉足围棋领域之前，人类在进行围棋对弈时往往抱着各不相同的甚至是多层面的目的：棋手们所追求的不仅是赢得棋盘上的胜利，他们还希望通过对弈过程领悟出可以在生活中其他领域获得应用的策略和智慧。而对于人工智能来说，它在棋盘上的目的只有一个：战胜对手。

人工智能不是像人类那样通过对概念的理解而是通过数学运算来进行“学习”的，具体表现在对算法的微调。所以，在学习如何赢得围棋比赛的过程中，人工智能与人类的思维方式是完全不同的，它已经改变了围棋对弈的本质以及人类围棋对弈的传统思维范式。这样一种对胜利毫无杂念的渴望是否是所有人工智能程序的共同特征呢？

已经有人工智能项目希望通过研发能够回答人类各种问题的设备来改变人类的思想。这种设备能够回答一些事实性的诸如“现在外面气温如何”这样的问题，但在回答关于存在本质或人生意义这样的问题时，你会发现它可能给人类带来一些深层的忧虑：我们真得愿意自己的孩子在与不受束缚的人工智能算法进行交谈时形成自己的价值观吗？为了保护提问者的隐私，我们是否应该限制人工智能算法对提问者的了解呢？在得出上述两个问题的答案之后，我们又该如何确保人工智能遵从我们的意愿呢？