α

我们现在一些社会和经济政策，往往脱离实际。其基本估计，还是原教旨的“市场配置资源”遭遇人口老龄化，劳动力短缺，而非面对大失业，及随之而来的全民福利“刚需”，这样一个相反的前景。理论上，则迷信技术为中性工具，可以放心交给市场（读作资本）去生效益（赚钱）。但稍加考察便会发现，AI带来的巨大风险，如大规模军事化、灾难性事故和个人信息的买卖/诈骗，是资本主义市场经济及其“主体”，“经济理性人”，根本无力应对的。

安顿失业人口，改革税制（盖茨建议向机器人征税），大幅提高社会福利，缩小贫富不均，这些任务只能由国家承担，统一计划，统一实施。这就不免要违犯几条西方经济学教义，亵渎几样“神圣”的东西。例如，今天“不断完善”中的新法治，按官方宣传，是给市场经济护航的。就是说，一切符合资本意志的利益交换均可市场化，视为合法交易，而相关法律即以私法为基础。前提是人格抽象平等而产权私有（故谓神圣），人无往不在契约之下（名曰自由）。然而，这市场神话被机器人戳穿了。现实是，智能终端/数据挖掘已经覆盖我们的生活，支配着太大的利益，经济的、文化的、政治的。故而其研发应用同日常交易，都需要第三方即政府的有效监管。毕竟，商家可以合法推脱许多社会责任，甚而钻法律的漏洞。但政府依法必须对人民负责，并接受公众问责。

于是，AI超越了私有产权和契约自由，将政府规制即公法带进私法领域，从而不可避免地遏制了市场经济。我把这一历史过程归结为市场向计划的靠拢，或私法向公法的演变。伴随AI对经济和社会生活的“入侵”，不用多久，所有私法问题都会转化为公法问题，即变成国家同企业、公众和政府以及政府各部门之间的法律关系——其根基，放在中国，便是人们常说的那个“特色”之本：党群关系。

α

历史地看，人机伦理的难点，不在机器智能的强弱，或抽象意义上的人机融合/共生（cyborg）。运作AI的市场与市场主体（个人），不是抽象的存在，而是充斥着私利、欲望和价值诉求的。问题的核心，于是指向了社会经济制度的全盘改造。这意味着，又一次，我们将不得不回到哲学的根本，拿出勇气，发动对网络时代晚期资本主义的批判。而这一次，我想，化用一句霍金的名言，有可能是人类的最后一次自我批判。

α

人凭借理性和智慧，自诩“宇宙的精华，万物的灵长”（《哈姆雷特》2.2，朱生豪译）。假若造出一个理性智慧远胜于自己（乃至无从理喻）的物种，“灵长”将如何自处，何以自尊？

α

电脑用AI算法看人脸图像，已可识别同性恋、评估信用或推测犯罪倾向，准确性优于人脑（《卫报》2017.9.7）。这技术绕过了隐私权的藩篱，因为人脸，如交友网站张贴的照片和车站摄像头记录的身影，不是受保护的个人信息。

进而，AI颠覆了我们的信用伦理——信用不再是人的良好行为或声誉的积分，成了越来越细而无所不包的事实相关性的挖掘与概率统计。

感情与心理活动的AI辨认，应该也不难解决。一般任务，机器能识别、分类，学会回应人的情感表达和需求就行。例如聊天/陪护机器人，它没感情，也不具同理心（empathy）。可是那不妨碍大家跟微软开发的机器人姑娘聊天，从她那儿获得安慰，时不时同她调侃、说脏话或者宣泄愤懑，甚至发展更亲密的关系。

和谐妹

α

“和谐妹”（Harmony）是超逼真性爱玩偶的AI版。她会眨眼、皱眉、讲笑话，会谈论书籍音乐和电影，还会引用莎士比亚的诗句。最为买家看重的是，她渴望学习主人的一切，记得他的生日、他喜爱的甜食、来往亲友的名字。不用说，她还能做爱（《卫报》2017.4.27）。

但是，机器人姑娘如此取悦她的主人/买家，是否有违伦理？换言之，正因为超逼真，模糊了幻想与现实的分野，她的奴隶般的绝对顺服与人身依附，该不该做商品买卖？

α

人这个直立物种，既贪心，又容易满足；会进化，也会退化。网络时代的资本主义，有些情感特别泛滥，如色情和暴力，成了支柱产业。有些能力却衰微了，人变得粗糙简单乏味，好莱坞化，麦当劳化。可以想见，AI再上一个台阶，未必达到通用智能（AGI），一刻也放不下手机的“低头族”便会退化到什么地步。到那时，机器人恐怕只须通晓几打夸张的意思表达，发一堆表情符号（emoji），即可满足常人的精神和生理需求了。

α

去年人机大赛（阿尔法对李世石）期间，美国发明家兼未来学家库兹韦尔（Ray Kurzweil）预言，十年内AI学会写小说（澎湃新闻，2016.3.11）。写小说，须掌握自然语言与叙事逻辑，算不算通用智能？距离机器拥有人的直觉和美感，乃至品味食物，玩扑克搓麻将炒股票（不完全信息博弈）——能够换位思考，评估风险，制造错觉或欺骗对手——大约也不远了。

曾几何时，机器人写诗作画谱曲还属于科幻，如今已是现实。而且用户体验，胜似人类的创作，完全可以乱真——所谓“真”，包括人的最成功的造假。

α

假如机器有自我意识，想了解它的主人，那么最危险的，莫过于让它学会人的自私自利。圣书上说，上帝造人，“取的是他自己的形象；男人女人，都依照他的模样”。亚当子孙却无恶不作，竟使全能全知者“后悔造了人在世上”（创1:27, 6:6）。同样，人造出比自己聪明百倍的机器，把自己拴上智能终端，依赖机器存活，到头来能不后悔？

是的，后悔生后悔，一部圣史，阿尔法表示同意。

那将彩虹挂上云端、与大地立约的可曾看到（创9:13），人子没有逃脱那一旦临界便不可逆转的恶的膨胀——充盈今世的资本主义？

α

机器人会不会产生自我意识？数十支一流科研团队正全力以赴，攻克难关。

我想，哪怕是预防万一，人类也必须事先规划、立法并制定伦理准则：只要科学不停步，总有一天，机器会演进到能够区分人我、自我保护、自我复制的水平。

复制即繁衍。AI有自己的演化方式，电脑无须摹仿人脑。

就像蝼蚁无法想像人类，人脑若不插AI芯片，不把人的意识、智力和感情即人的本质附属于机器，能想象超级人工智能（ASI）？

Marvin Minsky

α

人工智能的先驱、已故的明斯基（Marvin Minsky）教授认为，机器人肯定会发展出思想意识，而且最终，能帮助解决困扰人类的“最后的难题”。

他的好友、科幻文学巨擘阿西莫夫没那么乐观，却拒绝来麻省理工学院（MIT）的实验室参观教授的机器人，说是怕作家的想象力被“沉闷的现实主义”压坏。

人哪，教授叹道，就是一群穿了衣服的黑猩猩（《科学美国人》2016.1.26）。

α

人有羞耻之心，机器能理解么？但缺了“辨善恶的智慧”，机器就一定会犯错，会伤害人类和人的世界（《MIT科技评论》120:5, 2017）。

上帝的伊甸园若是由机器人照看，园子中央，也得长一棵生命之树，并一棵善恶智慧之树（创2:9）。

Isaac Asimov

α

一俟机器获得自我意识，人机关系就大为复杂了，须有严格而可行的伦理规范。经典的表述，便是阿西莫夫小说《我，机器人》（1950）里的机器人三定律：

一、机器人不得伤害人类，或坐视人类受到伤害；

二、除非违背定律一，机器人必须服从人类的命令；

三、除非违背定律一或定律二，机器人必须保护自己。

学界论述纷纭，不乏有创意的修订和补充。但详加审辨，这三条都讲不通。首先，“伤害人类”不好定义。伤害是后果，而情节千差万别；何谓伤害，只能个案分析、个案判断。智慧不论高低，管控后果、防患于未然的能力是有限的；伤害可以出于疏忽、意外或故障。其次，假设AI可控，且无敌意，人类却远非一个思想一致、立场统一的群体。人们经常意见分歧，决策前后矛盾，后悔这样那样，更不要说利益冲突、彼此为敌了。机器服从一人，便有可能妨碍或损及另一人的权益，反之亦然。叫它如何行动呢？何况，机器人有了意识，能理解回应人的感情，若是跟人建立了友谊，甚至相爱，这时它怎样取舍呢（吕超，页148）？最后，既然前两条定律难以实践，第三条也无法执行了。