通用人工智能降低公民素质，并放大我们不乐见的社会发展趋势。

对新自由主义的一种常见批评是，该意识形态使我们的政治生活变得扁平化，一切都在围绕效率进行重新洗牌。

1960年刊登的《社会成本问题》（The Problem of Social Cost）一文堪称新自由主义的经典作品。该文鼓吹制造污染的工厂及其受害者不应将纠纷诉诸法庭，因为这样做将导致效率低下并妨碍市场活动的正常进行。毕竟，谁会在乎公平正义呢？该文指出，双方其实应该私下就赔偿问题达成和解，然后皆大欢喜，各回各家。

这种对效率的痴迷导致我们在“解决”气候变化问题时，让破坏环境最严重的违法者继续逍遥法外。他们逃避环境监管部门监管的办法是，设计一项制度，在此称为“碳税”——制造污染的公司可以根据自己的碳排放量购买排放额度。

在一味追求效率的文化里，一切事物的价值都由市场衡量，公平正义不复存在，这将不可避免地导致社会道德体系的崩塌。

著名黑色科幻剧《黑镜》剧照，人们生活在依靠电脑打分的社会系统里，根据人工智能判定的“社交分数”进行选择性社会交往。

由此产生的问题随处可见。学者们担心，在新自由主义的影响下，科研和教学已经商品化。医生们抱怨说，医院优先考虑提供更有利可图的服务，比如选择性手术，而不是急救服务。此外，编辑们也不希望用流量来衡量自己所撰写稿件的价值。

现在我们可以设想一下，让通用人工智能带着“解决问题”的崇高使命在这些受人尊敬的机构里（大学、医院、新闻机构等）获得广泛使用。这些机构在价值体系里有自己的追求，而这样的追求对通用人工智能系统来说是无法理解的，甚至在年度报告中也不太容易被量化。而通用人工智能系统正是在那些报告中获得训练。

毕竟，哪个老师会吹嘘来上自己文艺复兴历史课的学生屈指可数呢？某位编辑会很高兴看到自己关于某个遥远国度腐败问题的报道只有十几次的浏览量吗？效率低下，不产出效益，即便在当前的体制中，这些“异类”也奇迹般地生存了下来。一些公共机构一直在暗中向此类人物提供补贴，因为这些机构优先考虑自己看重的价值，而不是利益驱动的“效率”。

在通用人工智能构建的乌托邦中，情况还会是这样吗？人工智能系统会像一个无情的顾问那样，整顿我们的公共机构吗？通用人工智能系统提供基于数据的“解决方案”，以便最大限度地提高效率。然而这些“解决方案”往往无法把握公共机构的价值观、使命和传统之间复杂的关系，如果你只触及报告中表面的那些数据，你就很难看清这其中复杂的关系。

事实上，从设计角度来讲，类似ChatGPT这样表现卓越的人工智能系统是无法在超越表面数据的更深层面上把握现实的。

因此，早期的人工智能系统依赖于明确的规则，它们需要像牛顿这样的人来将引力理论化（把苹果如何以及为什么会掉下来写入系统），而像通用人工智能这样当下出现的新技术，只能通过数百万次观察苹果掉到地上来学习该如何预测重力对物体的作用。

然而，如果通用人工智能系统看到的都是在为生存苦苦挣扎的、缺乏资金的公共机构，那么它很可能永远无法推断出这些机构真正推崇的价值。若人工智能系统观察的是那些以获得利润为目标的医院，那么祝你好运，希波克拉底誓言对该人工智能系统来说就是没有意义的。

玛格丽特·撒切尔夫人另一句著名的新自由主义言论是，“这个世界上并不存在‘社会’这种东西”。

通用人工智能游说团体无意中也散播了这种悲观论调。对他们来说，值得发展的智能存在于人类个体头脑中，而不存在于社会中。

不过，人类智慧既是基因和天赋的产物，也是政策和制度的产物。在国会图书馆当研究员，比在一个没有书店、甚至连基本的无线网络都没有的地方打好几份工要更容易学到知识。提供更多的奖学金和图书馆资源无疑将有助于提高社会的知识水平，这一点似乎是没有争议的。但对于硅谷的“解决主义者”来说，提高知识水平主要是一个技术问题，因此他们才对通用人工智能的实现感到兴奋。

然而，如果“通用人工智能主义”真的是新自由主义的另一种表现形式，那么我们应该为如下结果做好准备：致力于提高社会知识水平的公共机构将会越来越少。此类机构毕竟是可怕的“社会”残余，对于新自由主义信徒们来说，“社会”就不该存在。人们开发通用人工智能技术的目的本来是提高人类的智力水平，结果却适得其反，人类的智慧反而会趋向萎缩。

2017年《纽约客》（New Yorker）十月刊封面：机器人统治世界

由于受到“解决方案主义”的偏见影响，即便是看似新颖的通用人工智能技术政策也无法令人兴奋起来。以最近提出的“人工智能安全之曼哈顿计划”（Manhattan Project for A.I. Safety）为例，该计划基于一个错误的前提，即除了发展通用人工智能，人类别无选择。

但是，如果我们的政府提出“文化教育之曼哈顿计划”，并为相关机构提供资金，我们提高人类知识水平的努力不是会更加有效吗？如果我们不这样做，现有公共机构所掌握的文化资源很可能会沦为通用人工智能初创公司的训练数据库，这样的局面会让更多的人接受新自由主义者所宣称的“社会并不存在”的谬论。

若机器人不背叛人类或其背叛行为威胁性较弱，那么通用人工智能技术就不会被视为对人类的生存威胁。然而由于通用人工智能的反社会倾向和新自由主义特征，“通用人工智能主义”的崛起意味着，我们不必等待很久，Roombas扫地机器人就会对自己的工作使命提出质疑。

（原文刊载于6月30日《纽约时报》）

本文系观察者网独家稿件，文章内容纯属作者个人观点，不代表平台观点，未经授权，不得转载，否则将追究法律责任。关注观察者网微信guanchacn，每日阅读趣味文章。