尤瓦尔·赫拉利：

是的，今天我想和大家谈的是人工智能和人类的未来。

我知道这次会议的重点是人类正面临的生态危机，而人工智能无论好坏都是这场危机的一部分。人工智能可以在很多方面帮助我们解决生态危机，但也可以加剧危机。

事实上，人工智能可能会改变生态系统的意义。因为，40亿年以来地球的生态系统只包含有机生命形式，而现在或不久的将来我们可能会看到第一批无机生命形式的出现，或至少是无机媒介的出现。

自二十世纪中叶计算机时代开始，人们始终对人工智能怀有恐惧，这种恐惧激发了许多经典科幻作品的诞生，如《终结者》《黑客帝国》等。

虽然这类科幻场景已经成为文化符号，但它们通常不会在学术、科学和政治辩论中被严肃对待。这也是可以理解的，因为科幻作品一般会作这样的假设：人工智能构成对人类的重大威胁之前，它必须跃过两个重要的里程碑——

首先，人工智能必须变得有知觉，发展出意识、感觉和情感，否则它为什么想要接管世界；其次，人工智能必须适应在物理世界中给自己定位，机器人必须能够像人一样高效地在房屋、城市、山脉和森林中移动和运转，如果他们无法在物理世界中移动，那怎么可能接管这个世界？

在2023年4月之前，人工智能似乎还远远没有到达这两个里程碑，尽管人们围绕ChatGPT和其他新的人工智能工具进行了大肆宣传，但没有证据表明这些工具有一丝意识、感觉或情感。至于在物理世界中活动，虽然自动驾驶技术一直算热门话题，但汽车主宰人类道路的时间仍一直在推迟。

然而，坏消息是人工智能要威胁人类文明的生存，并不真正需要意识，也不需要在物理世界中移动的能力。在过去的几年里，新的人工智能工具被运用到公共领域，可能会从一个非常意想不到的方向威胁到人类文明的生存。我们甚至很难理解这些新型人工智能工具的能力，以及它们持续发展的速度。

事实上，因为人工智能能够自我学习并自我改进，即使是这些工具的开发者也不知道他们所创造的东西的全部功能，他们自己也经常对这些工具的新能力和高品质感到惊讶。

我想在座的每个人都已经了解新型人工智能工具一些最基本的能力，像写作、绘画、作曲和编写代码等能力。但还有许多其他功能正在涌现，比如深度伪造人们的声音和图像，起草法案，找出计算机代码、合同和法律文书中的漏洞。但也许最重要的是，新的人工智能工具有能够与人类建立深厚而亲密的关系的能力。

这些能力中的每一项都值得充分讨论，我们很难理解它们的全部含义，所以把这个问题简单化。如果把所有这些能力当作一个整体，就可以总结为一个非常非常大的东西——操纵和生成语言的能力，无论是用文字、图像还是声音。

当前人工智能革命最重要的方面是，人工智能正在以超过人类平均水平的能力掌握语言。通过掌握语言，人工智能正在掌握打开从银行到寺庙等所有机构大门的万能钥匙。因为语言是我们用来向银行发出指令的工具，也是我们头脑中做出重大决定的工具。

从另一个角度来看这个问题，那就是人工智能刚刚入侵了人类文明的操作系统。历史上每一种人类文化的操作系统都是语言，在这个文明世界的开端，我们用语言创造神话和法律，创造神和金钱，创造艺术和科学，创造友谊和国家。

例如，人权不是生物学上的客观事实，它没有刻在我们的DNA中，人权是我们用语言通过讲故事和制定法律创造出来的东西；神也不是生物的或物理上的现实，而是我们人类用语言再通过传说和经文创造出来的；金钱当然也不是物理存在，钞票只不过是一张张毫无价值的纸，而目前世界上90%以上的钱甚至都不是钞票，它只是电脑中传输的电子信息，能赋予金钱各种价值的只有故事。不少银行家、财政部长和加密货币大佬他们并没有创造多少真正有价值的东西，但他们都是极有能力的故事讲述者。

今天，在像国际象棋这样的游戏中，没有人能打败计算机。如果同样的事情发生在我们的政治、经济甚至宗教领域呢？

当人们想到ChatGPT和其他新的人工智能工具时，经常会被这类例子吸引，比如孩子们使用ChatGPT写论文。一旦孩子们用ChatGPT写论文，学校系统将会发生什么？太可怕了。

但这类问题忽略了大局，姑且放下学校的论文吧，比如说，我们应该谈论2024年的下一届美国总统大选，尝试着想象新的人工智能工具可以带来的影响，这些工具可以为某种新的邪教利用，大规模制造政治宣言、假新闻故事和这一教派自己的圣经。未来，我们可能会看到历史上第一个由非人类智能创作圣经的宗教。

当然，历史上的宗教都声称他们的圣经是由非人类智慧创作的，这在此之前是不可能的，但很快就会成为现实，并影响深远。

现在，在一个更平淡的层面上，我们可能很快就会发现和自己在网上长时间讨论堕胎、气候变化或俄乌冲突的人——你以为是人类同胞，实际上是人工智能机器人。

问题是，我们浪费时间试图说服人工智能机器人改变其政治观点是毫无意义的，但我们与它交谈的时间越长，它就越了解我们，了解如何磨练它的信息，以改变我们的政治观点、经济观点或其他任何东西。

通过对语言的掌握，人工智能也可以与人建立亲密关系，并利用亲密的力量来影响我们的观点。

正如我所说，没有迹象表明人工智能有任何意识或自己的感情，但为了与人类建立虚假的亲密关系，人工智能不需要自己的感情，它只需要能够激发我们的感情，让我们对它产生依恋。

2022年6月，谷歌工程师布莱克·莱莫因（Blake Lemoine）公开声称，他正在研究的人工智能聊天机器人LaMDA已经有了感知能力。这件事最有趣的不是莱莫因的说法，他的说法很可能是错的，他最终也失去了工作。真正有趣的是，他愿意冒着失去高薪工作的风险去保护这个人工智能聊天机器人。

如果人工智能可以影响人们去冒失去工作的风险，它还能诱使我们做什么呢？

在每一场心灵和思想的政治斗争中，亲密关系是最有效的武器。人工智能刚刚获得了与数亿人大规模产生亲密关系的能力。

你们可能都知道，在过去的十年里，社交媒体已经成为控制人类注意力的战场。现在，随着新一代人工智能的出现，战场正从注意力转向亲密关系，这是一个非常坏的消息。

当人工智能为了与我们建立亲密关系而战斗时，人类社会和人类心理会发生什么变化？这些关系也可以用来说服我们购买特定的产品或投票给特定的政治人物。

即使没有制造虚假的亲密关系，新的人工智能工具将对人类的观点和世界观产生剧烈的影响，并且成为人类需要的所有信息的来源。