【文/观察者网专栏作者 席亚洲】

本周，路透社报道“韩国大学研制AI武器，遭多国专家断交”，艾伦·马斯克照例来秀了一把存在感，也有一些在人工智能领域有些名气的专家发表了一些观点。但是这并没阻止美国国防部先进技术研究局开始“攻击性蜂群”竞赛项目的热情。以及各国军方在新技术发展规划中纷纷写明要研究AI系统在军事领域的运用。那么，“天网”会降临我们的现实世界吗？本文来试着分析一下。此外，本周印度又跑出来搞笑，要买20万把新枪来对抗中国。印度轻武器选型还有多少好玩的事，我们来扒一扒。

“天网”会降临吗？

其实关于“坏”人工智能的故事，早就已经是科幻小说的常见话题了，事实上，它甚至要比喜欢讨论人工智能的“赛博朋克”小说出现的更早。

阿西莫夫当年的《钢窟》系列就有不少关于机器人利用逻辑漏洞，突破“机器人三大定律”实施杀人犯罪的故事。

当然，笔者最喜欢的关于人工智能的故事，是一本想不起名字的经典小说，其中描写的是人类自我毁灭后，一个AI试图了解什么才是人类，但却无论如何也做不到，最后他克隆了一具没有意识的人类身体，将自己的意识注入这具躯体。瞬间，他真正用人类的感官体验了这个世界，然后，他成为了第一个复活的人类。这是让我这个“唯物主义蠢货”（睿智的群星玩家）感到“舒服”的一个故事——意识、情感、逻辑……这一切都是基于我们的身体和感知搭建起来的，所以就像AI无法想象人类的感受，人类也注定难以理解AI的“感受”。

而大家熟悉的，更多的AI故事则是来自于电影和游戏，《终结者》大概是说起AI毁灭人类，大家首先想到的一个故事。而《终结者》的故事，也正是无数“科学大咖”们试图描绘的，人类应该避免的一幅图景。

毁灭人类的终结者大军，实际上代表了人类对无法理解AI的恐惧

在1984年电影《终结者》中，超级AI“天网”是由美国军方开发的一套战略决策系统，他们让它掌握了美国的核武器，结果，这个“天网”在开始运转后几分钟，就发现对于它来说，人类是最大的威胁，为了毁灭人类，它向苏联发射了核武器，引发核大战，毁灭了大部分人类。然后，它又利用其控制的工厂，生产出冷酷无情的机器人杀手“终结者”，来彻底消灭残存的一小部分人类。

这个故事的核心在于，人类无法理解AI，无法理解一旦AI产生自我意识后，会做出什么样的反映。

而当AI试图接近人类的表现和情感，变得“可以理解”的时候，它就由恐怖杀手变成了忠实的伙伴