马斯克们担心的超级人工智能，和你手机里的小冰有什么区别？

和《终结者》里发射核弹，奴役人类的“天网”不一样，现在和大家密切相关的人工智能实际上还很弱。

在中文聊天机器人里最流畅的微软小冰，能做的事情大概是和你聊上几十个回合，猜一猜你心里想的哪位名人，最后给你唱首歌。但她距离和你成为真正的朋友还有距离。

智能助手里最厉害的 Google Assistant，可以从聊天记录你整理日程，给你提前选择好出行路线，或者告诉你搜过的某个航班的动态。但是它还没办法按照你交代的提纲帮你记篇日记。

懂得语言最多的 Google 翻译或是微软翻译，他们能翻译世上几乎所有语言，甚至懂的瓦雷利亚语和克林贡语。但对于一个没有学习过的新语言，它们是无能为力的。

换句话说，现在的 AI 人工智能，最多算是某种特定功能的自动工具。按照严格的“人工智能”来理解，它们是人工的、但还没有智能。按照人工智能业界的定位，他们可以称为“弱人工智能”。

在这些基础人工智能之上，可以实现通用人工智能，最后达到超级人工智能的层次。

但其实虽然有这个层次的分野，但我们最多知道“通用人工智能”大概是能和人类一样思考和学习，能够举一反三，甚至产生独立意识。但究竟什么是超越人类的超级人工智能，现在还只是幻想。

而且所谓人工智能，这个东西不是一开始就和人类的“智能”有关。最大的问题是，现在还没人知道人脑怎么工作，也没有关于如何模拟人脑思考的算法。

Palm 创始人、硅谷著名科技创业者，同时也是脑科学家的杰夫·霍金斯的故事很好的说明了人工智能研究的局限。

霍金斯在 1979 年进入英特尔之后，萌发了了对脑科学的强烈兴趣。但当时的主流研究对大脑一无所知。1979 年 9 月的《科学美国人》杂志做了一份关于大脑的专刊，DNA 的发现者之一佛朗西斯·克里克博士在刊中写道：人类现在对大脑几乎一无所知。克里克说，脑科学研究不仅是没有理论，连框架都没有。

受启发想投入脑科学研究的杰夫·霍金斯申请麻省理工人工智能实验室的学习，来开始对脑科学的研究。作为一个计算机科学研究者，他当时认为人工智能和人类的智能，也就是大脑的科学是密不可分的。

但麻省理工人工智能实验室拒绝了杰夫·霍金斯的申请。麻省理工当时认为，人工智能只是计算机科学，和大脑关系不大。

做公司赚到钱的霍金斯 2002 年在加州成立了红木神经科学研究所，专门从事脑神经科学方面的研究。他在演讲中说道，脑科学研究非常重要，只有明白了大脑怎么运作，才能制作拥有智能的机器。

但目前的人工智能研究依然是在对人脑一无所知的前提下工作的。现在的人工智能，无论是小冰这样的聊天机器人，还是特斯拉 Model S 这样的自动驾驶机器，都是按照“输入数据——产出行为”这种模式来研究的。

一年来热度最高的人工智能项目，围棋人工智能 AlphaGo 的研发过程比较典型的展示了所谓“弱人工智能”如何学习。

AlphaGo 基于一个算法，这个算法让机器知道围棋的基础规则，但它增强棋力的方式需要很多样本，也就是下棋的棋谱。在一开始 AlphaGo 是通过模仿人类的棋谱来学习的，但 AlphaGo 最大的突破在于开发了“增强学习”的模式，让机器自己对弈，产生更多的棋谱，同时让这些样本产生足够多的差异而不至于收敛，最终 AlphaGo 达到超越人类的成绩。

可以看出，AlphaGo 的学习过程和人类是截然不同的。

主持发布小冰的时任微软全球执行副总裁陆奇 图片来源：好奇心日报

2016 年 8 月，《好奇心日报》在微软小冰的发布会上采访了时任微软全球执行副总裁的陆奇。在问道关于现在生物学家还不清楚人类如何思考的当下，计算机科学界如何完成人工智能的研发这个问题，陆奇这样的回答可以说明问题。

“工程学届有一个想法，认为就算人类知道鸟儿如何飞翔，但发明飞机也不是对鸟的模仿。”他说，计算机工程学可以建立一个系统，模仿人类学习知识，产生行为的过程，就是人工智能。

换句话说，现在的人工智能还只是对智能行为的模仿。如果用一个人来作比方，弱人工智能注重行为，也就是你和他说一句话，他回答了，那么智能行为成立。但如果要开发一个通用人工智能，这个“人”即使在你不对话的时候也会思考，就像你我躺在床上冥想一样，这时候即使不说话，你的智能依然存在。

总的来说，通用人工智能还是距离现在比较遥远的东西。至于更高级的超级人工智能，我们只能从人类的基础上加以幻想：你下一道命令，说“预测一下战争的走向”，接下来这个 AI 从互联网上检索内容，分析将领的性格，新闻的趋势，经济情势的变化，历史上类似战例的结果，最后在一秒内得出一个报告。这大概可以算是超级人工智能。

研究缓慢也是反对者认为马斯克们想多了的原因。毕竟，现在硅谷还只是造出更多更快更好用的“工具”，看上去并没有更接近“智能”。

马斯克们目前的倡议是建立一个系统来评估智能程度，同时真的针对人工智能灾难进行技术预案，同时建立一个类似“机器人三定律”的规则来规定人工智能的行为。监管介入在这里也是必不可少的。

在预防人工智能作恶这件事上，马斯克们有些事没有说出来

OpenAI 吸引投资、拉小公司入伙。在呼吁监管、预防人工智能威胁意外，它们做的另一件事情是集合小公司的力量，在 AI 的研发上缩短和大公司的距离。

从最初的参与者就能看出来。

OpenAI 有一个高尚的使命，防范人工智能研发走偏。但全球最大的五个科技公司，苹果、Google、Facebook 没有一个参与其中。

微软和亚马逊出现在支持者名单里，只是因为它们的云计算平台被用于 OpenAI 参与者的计算。

这五个公司各自拥有超过十亿用户，掌握海量数据，并且都组建了至少数百人的团队研发人工智能。

而 OpenAI 参与者都是对人工智能研发有诉求，但相对这些巨头，又相对缺少数据和资本的公司。

马斯克的特斯拉汽车，最重要的卖点就是自动驾驶 图片来源：The Daily Beast

伊隆·马斯克自己的公司特斯拉重点放在自动驾驶上面，人工智能是非常依赖的未来。

奥尔特曼作为孵化器 YC 的老板，旗下孵化了数十家市值规模在几十、几百亿不等的创业公司，其中有众多人工智能项目，比如聊天机器人 msg.ai，开源的深度学习算法 Skymind。

另两位参与者，LinkedIn CEO 霍夫曼和彼得·蒂尔都是著名的投资人。尤其是蒂尔，他自己的创业公司 Palantir 是一家和大数据以及人工智能相关的数据公司，主要业务是帮助政府执法机构分析潜在威胁等等。而且作为 Deepmind 的早期投资人，也就是开发AlphaGO，后来被 Google 收购的那家公司，他拥有的股份超过 25%，甚至远远超过了创始人哈萨比斯。

风险投资机构 Andreessen Horowitz 曾说，在人工智能等前沿领域，大公司拥有的资源可以让他们吸引更多的研究者，比如 Google、Facebook、亚马逊、微软，甚至后来的苹果。对于现在的人工智能研究者来说，用来训练人工智能的数据非常宝贵而稀有，小公司联合起来能缩短和大公司的差距。

没什么比一个非盈利的开放联盟更适合一起分享数据。

他们可能确实担心有一天人工智能毁灭世界。但像平常一样，商业领袖们站队也都没有违背公司的利益。