-
耶夫根尼·莫洛佐夫:人工智能的真正威胁是什么?
【文/耶夫根尼·莫洛佐夫 译/马力】
今年5月,350多名技术高管、研发人员和学术专家共同签署了一份声明,警告称人工智能技术将给人类带来生存威胁。签署者们警告说:“降低人工智能带来的灭绝风险应与瘟疫、核战,以及其他大型社会风险一起成为全球优先事项。”
此前,埃隆·马斯克(Elon Musk)和苹果公司联合创始人史蒂夫·沃兹尼亚克(Steve Wozniak)等人签署了一封备受瞩目的公开信。他们在信中呼吁,人类应暂停开发高级人工智能系统六个月。
3月,埃隆·马斯克联合行业专家发表公开信,要求暂停人工智能训练至少六个月。
与此同时,拜登政府敦促开展负责任的人工智能创新(responsible A.I. innovation),提出“为了抓住人工智能技术所带来的机遇,必须首先进行风险管理。”在国会上,参议员查克·舒默(Chuck Schumer)呼吁就人工智能技术的潜力和风险召开“首次”听证会,为行业高管、专家学者、民权人士和其他利益相关者提供速成课程。
人们对人工智能技术的焦虑日益严重,这不是出于对那些乏味但可靠的技术的担忧——输入法的自动联想或者吸尘机器人躲避障碍物并不会让人们如此忧虑。在专家们看来,通用人工智能(Artificial General Intelligence, AGI)的崛起才是最大的问题。
目前,通用人工智能还没有出现,但一些人认为,美国人工智能公司OpenAI旗下ChatGPT迅速发展的能力表明,距离这种技术的出现已经近在咫尺。OpenAI的联合创始人萨姆·奥特曼(Sam Altman)将其描述为“整体而言比人类更聪明的系统”。研发这种系统是一项艰巨的任务(也有人说是不可能完成的任务),不过其中的利益也极其诱人。
想象一下,Roombas(美国著名机器人公司iRobot的旗舰产品)不再只是自动吸尘器,而是进化为全能机器人,甚至可以在未被编程的情况下就在早上为你煮好咖啡或熨好衣服。
这听起来的确很有吸引力。但是,如果这些全能机器人变得过于强大,它们背负着“创造一个一尘不染的乌托邦”的任务,就会给到处散播灰尘的主人(也就是人类)造成很大困扰。至少我们曾经相处得还不错。
美剧《生活大爆炸》剧照
关于通用人工智能的讨论往往充斥着这样世界末日般的场景描绘。然而一个由学者、投资人和企业家组成的新兴通用人工智能游说团体反驳说,一旦通用人工智能的安全性得到保证,它将为人类文明带来福音。萨姆·奥特曼作为这次活动的代言人,已经开始了全球巡回演讲,以说服立法者们。他在今年早些时候写道,通用人工智能甚至可以加速经济发展,推动科学技术进步,并“通过增加财富来提高人类素质”。
这就是为什么,即使忧心忡忡,还是有许多科技行业的聪明人在努力开发这种备受争议的技术:不用它来拯救世界似乎已经变得不道德了。
他们普遍受到一种观点的影响,即这项新技术的出现是不可避免的,而且当该技术变得安全时,将惠及全人类。支持者们认为通用人工智能是弥补人性缺点、提升人类智慧的最佳方案。
但这种观点(姑且称之为“通用人工智能主义”)搞错了。通用人工智能的真正风险在于政治方面,而这个问题是无法通过平定机器人起义来解决的。即便是最安全的人工智能,也无法向游说组织承诺的那样,提供进步的灵丹妙药。而且,把该技术的出现说成是不可避免的,分散了人们寻找更完善的人工智能技术的注意力。
通用人工智能的拥护者们并不知道,“通用人工智能主义”只是一种更宏大的意识形态的“私生子”。关于这种意识形态,英国前首相玛格丽特•撒切尔(Margaret Thatcher)夫人曾有一个著名的说法:人类除了拥抱市场,别无选择(There is no alternative)。
与其说通用人工智能——或者至少是急于建立通用人工智能的行为——会像奥特曼先生暗示的那样,伤害资本主义,不如说它更有可能为新自由主义——资本主义最具破坏性的信条——创造出一个强大的(而且更时髦的)盟友。
新自由主义的理念家们为私有化、市场竞争和自由贸易着迷,希望通过市场经济和放松管制来推动并改造停滞不前的、劳动力友好型经济。
他们这样做,的确带来了一些转变,但代价也是巨大的。多年来,新自由主义受到了许多批评。人们认为经济大衰退、金融危机、特朗普主义、英国脱欧和其他许多问题都是新自由主义引发的结果。
这样看来,拜登政府与这种意识形态保持距离,并承认市场有时会出错,也就不足为奇了。一些基金会、智库和学术界人士甚至已经为后新自由主义(post-neoliberal)的前景作出了设想。
然而,新自由主义还远未消亡。更糟糕的是,它在“通用人工智能主义”的崛起中找到了盟友,后者也持有甚至更加强调新自由主义的某些主要偏激观点,即私人行为者的表现要优于公共行为者的表现(市场偏见),与其改变现实不如适应现实(适应偏见),提高效率比回应社会关切更加重要(效率偏见)。
这些偏见完全颠覆了通用人工智能背后诱人的前景:人们为研发技术所付出的努力非但没有拯救世界,反而只会让这个世界变得更糟。接下来我将解释为什么。
通用人工智能永远无法克服市场对利润的渴望。
还记得优步(Uber)曾以低廉的价格吸引众多城市将自己纳入公共交通系统吗?最初一切都很美好,优步承诺,未来将实现自动驾驶和最低劳动力成本,提供难以置信的廉价乘车服务。财大气粗的投资者看好这一愿景,甚至愿意承担优步数十亿美元的亏损。但现实情况是,自动驾驶技术迟迟无法落地。投资者们需要回报,于是优步被迫提高价格。而指望通过优步来代替公交车和火车的用户被丢弃在一边。
-
本文仅代表作者个人观点。
- 责任编辑: 袁逸泓 
-
三大运营商上半年营收万亿,云业务成增长亮点
2023-08-14 00:28 观网财经-科创 -
全球人工智能发展,可能还会走上核武竞争的老路
2023-08-13 08:33 这就是中国 -
如果一家公司或者一个人,利用人工智能把整个世界毁灭……
2023-08-12 09:45 人工智能 -
碧桂园已筹备债务重整 近期启动相关程序
2023-08-11 08:17 观网财经-房产 -
“为了这组高清图,我们前后花了10年时间”
2023-08-10 08:24 -
LK-99只是电阻很高的劣质材料?北大等团队研究结果公布
2023-08-08 22:05 -
香港大学获822.6毫克嫦娥五号月壤样本
2023-08-08 14:12 香港 -
国产薄煤层采煤机打破世界纪录
2023-08-08 07:45 科技前沿 -
美国复现核聚变点火,并突破净能量增益纪录
2023-08-07 12:04 科技前沿 -
可穿戴!我国科学家率先打造出有弹性的铁电材料
2023-08-04 09:38 科技前沿 -
“如果超导这么容易做,那就让大家土法炼钢去”
2023-08-03 10:59 科技前沿 -
专家:韩国团队公布的超导体“极大概率”不能实现室温超导
2023-07-30 18:28 -
韩团队室温超导开启人类新纪元?3小时提交两篇论文,样品被指有瑕疵
2023-07-28 08:22 科技前沿 -
中国科学院上海免疫与感染研究所挂牌,取代原上海巴斯德所
2023-07-27 15:45 -
专访英特尔高管:量子计算产业化,还有哪些“坑”要填?
2023-07-24 09:53 观网财经-科创 -
我国载人登月火箭主发动机试车连续成功
2023-07-23 20:03 航空航天 -
我国成功发射四象01星等4颗卫星
2023-07-23 11:24 航空航天 -
我国载人登月火箭主发动机完成飞行任务要求验证
2023-07-23 09:31 航空航天 -
突破国外长期封锁,国产核磁共振仪实现量产
2023-07-22 22:00 -
专访:除了使用最强光刻机,英特尔制程反超台积电还有哪些招数?
2023-07-22 15:22 观网财经-科创
相关推荐 -
国际刑事法院忍无可忍:再威胁试试 评论 128省级督察组现场核实情况,遭故意封路阻挠 评论 126嫦娥六号成功发射!开启人类首次月球背面取样之旅 评论 339“美军还没撤,俄军就把这里占了” 评论 223土耳其暂停与以色列所有贸易 评论 140最新闻 Hot
-
国际刑事法院忍无可忍:再威胁试试
-
澳大利亚“设卡”,中国在非洲淘到“白金”
-
“半数以上AI最热门领域,中国研究领先”
-
省级督察组现场核实情况,遭故意封路阻挠
-
美国又出新规:想要补贴,电动汽车上不能有“中国制造”
-
“中俄在台海附近军演,逼着美国改计划”
-
他催拜登采取行动:保住内塔尼亚胡,不然逮捕令会落到咱们身上
-
以代表称:没料到美国精英大学里也有哈马斯
-
“内塔尼亚胡决心竞选连任”
-
香港暴徒“屠龙小队”队长:计划使用炸弹杀害港警,至少30个
-
“美国各地逾2000名抗议者被捕”
-
“欧盟得把成年男性遣返乌克兰,上战场”
-
“这样拆掉中国设备,许多农村就没网了”
-
果然,印度和日本破防了
-
“美军还没撤,俄军就把这里占了”
-
“北约发这种提案,简直疯了”
-