-
张维为《这就是中国》第197期| 人类智能时代:从中华文明中汲取智慧
【提问环节】
观众:两位老师好,主持人好,我叫王洪丹,毕业于香港大学,同样是一名互联网从业人员。刚刚两位老师多次提到人工智能是一把双刃剑,今年未来科学研究所也发表一篇公开信,呼吁所有的人工智能实验室停止训练比ChatGPT4更强大的人工智能模型。一方面是担忧人工智能可能会产生一些误导性信息,另一方面是担忧人工智能有可能会超越我们人类的思维,甚至是取代它。在这样一个人工智能发展的时代下,安全和公众的信任接下来将如何发展呢?谢谢。
张教授:我个人感觉大概这样的,可能有点像核能、原子弹发展的历史。当核能开始发展的时候,大家相当积极,但产生原子弹后大家非常悲观,包括爱因斯坦,他的理论为此作出过贡献,但他呼吁一定要停止核武器,他变成反战的和平运动创始人之一。
你刚才讲的科学家们的呼吁,我完全可以理解。但是我自己研究国际政治和国际关系,我的判断是说不定人类还得走过去核武器发展的老路,还是大家不得不发展,不得不竞争。
你看最近的报道,英国跟美国在谈要在今年下半年在英国开一个人工智能国际会议,他们明确地说,要赶在中国人之前制定规则,要让所谓的“民主国家”团结在一起。当然,我认为这将是徒劳无益的,因为中国跟美国已经处在第一方阵。但我担心最终还是要通过这样的竞争,经过摩擦、斗争、交锋到一个点上,人类智慧和理性才会回来。就跟核武器一样,甚至已经使用过了,最后超级大国之间、核武器国家之间才通过谈判达成各种各样的、比如核裁军协议等等,但执行时候还会碰到很多困难。在人工智能领域内,我们可能也会经历这么一个跌宕起伏的过程。总之,我不是十分乐观。
今年3月,图灵奖得主Yoshua Bengio、伯克利计算机科学教授Stuart Russell、特斯拉CEO埃隆·马斯克、苹果联合创始人Steve Wozniak 等在内的数千名对人工智能关注的人士发起一封公开信,呼吁暂停训练比GPT-4更强大的系统,期限为六个月,理由是这些模型对社会和人类存在潜在风险。
孙教授:我同意张教授的判断。这个事不以人的意志为转移,除非全球形成共识,否则停不下来。因为涉及到国家竞争,甚至是终极竞争,通用人工智能还只是在一个很初级的阶段。现在我们担心什么?按它的算法,它现在这个能力都不应该有。但它有了这个能力,就怕模型再做大以后会产生别的东西。
主持人:更何况万一迭代的速度越来越快。
孙教授:对。我刚才演讲专门讲了不确定性和确定性并存。当前程不明确的时候,大家一定想要去一探究竟,这里边主要的动力其实是来自科学、科学研究。因为让机器具有智能,初心实际上是来自科学。所以科学家就会往前走,但是他走到那一步,必然会影响社会,必然会影响产业,这件事就复杂化了。
张教授:这个点还没有到,人类就是这样前进的。我想到德国哲学家康德说过一句名言,大意是谁都知道战争不好,和平好。但最终可能还是要通过无数的战争才能实现和平,所以他认为人应该有智慧直接拥抱和平,而不是通过战争。但遗憾的是人类历史往往不是这样发展的。
这是很有哲理的。我希望我们人类的智慧能够早一点觉悟到这一点,然后形成共识一起来做事情,用中国人的智慧趋利避害,我们要超前十年、二十年、三十年把问题看清楚想清楚。
观众:两位老师好,主持人好,我叫刘浩,是一位科技行业的创业者。现在世界各国都认识到人工智能是关系到国家竞争和战略博弈的一个关键因素,但是也没有形成一个统一的治理模式。我的问题就是现在像欧盟、美国他们有怎样的规范和治理?如何更好地推动人工智能技术在多元文化中的交流,谢谢。
张教授:很多差别已经明显存在了。我们过去讨论人权时候也说过,像欧洲很多国家,包括法国这样的国家,到现在都认为人脸识别是侵犯人权,但中国人拥抱新事物的热情,真的是在基因里的,同时我们能够守正创新,趋利避害,在发展过程中解决可能出现的问题。
至于国际标准的制定,某种意义上,因为中国应用场景和应用实践非常之丰富,我觉得中国现在自己制定的、哪怕是中国国内的各种标准,都可能产生全球的影响。比方说,你现在出门,走半个小时,被拍了一百次,实际上我们的公安系统如果要查人脸识别等,它是有一套比较严格的程序的。再比方说,我们的边检要有明确的授权才能查看你的手机和电脑,而美国的边检可以任意扣押、查看你的手机和电脑,这方面我们管理程序已经比美国严格多了。
孙教授:国外特别是欧洲,包括联合国对人工智能的科技伦理,这几年出台了几个文件。我觉得主要的原则界定得还是比较清楚的。像美国,今年在美国总统科技顾问委员会下面专门成立了一个生成式人工智能的工作委员会,相当于子委员会。
其实在人工智能科技伦理的大原则下,跟我们有很多是相通的,我认为这方面应该在联合国框架下加强国际对话,尽早形成共识。现在关键是在执行层面对这一原则的界定可能有问题。比如说刚才讲的隐私,保护隐私无论东西方都是提倡的,这是一个原则,大家都一样,但到具体领域比如说视频这块你怎么处理,这其实又跟文化有关。所以摆到桌面上,大家心平气和地谈,其实是有可能达成某种共识的。这一块我觉得应该尽早制定国际性准则。比如网信办等七部门发布的规定,再早几年科技部也有关于人工智能科技伦理的规定。这都为我们进行国际对话,打下了非常好的基础。
本文系观察者网独家稿件,文章内容纯属作者个人观点,不代表平台观点,未经授权,不得转载,否则将追究法律责任。关注观察者网微信guanchacn,每日阅读趣味文章。
-
本文仅代表作者个人观点。
- 责任编辑: 朱敏洁 
-
如果一家公司或者一个人,利用人工智能把整个世界毁灭……
2023-08-12 09:45 人工智能 -
碧桂园已筹备债务重整 近期启动相关程序
2023-08-11 08:17 观网财经-房产 -
“为了这组高清图,我们前后花了10年时间”
2023-08-10 08:24 -
LK-99只是电阻很高的劣质材料?北大等团队研究结果公布
2023-08-08 22:05 -
香港大学获822.6毫克嫦娥五号月壤样本
2023-08-08 14:12 香港 -
国产薄煤层采煤机打破世界纪录
2023-08-08 07:45 科技前沿 -
美国复现核聚变点火,并突破净能量增益纪录
2023-08-07 12:04 科技前沿 -
可穿戴!我国科学家率先打造出有弹性的铁电材料
2023-08-04 09:38 科技前沿 -
“如果超导这么容易做,那就让大家土法炼钢去”
2023-08-03 10:59 科技前沿 -
专家:韩国团队公布的超导体“极大概率”不能实现室温超导
2023-07-30 18:28 -
韩团队室温超导开启人类新纪元?3小时提交两篇论文,样品被指有瑕疵
2023-07-28 08:22 科技前沿 -
中国科学院上海免疫与感染研究所挂牌,取代原上海巴斯德所
2023-07-27 15:45 -
专访英特尔高管:量子计算产业化,还有哪些“坑”要填?
2023-07-24 09:53 观网财经-科创 -
我国载人登月火箭主发动机试车连续成功
2023-07-23 20:03 航空航天 -
我国成功发射四象01星等4颗卫星
2023-07-23 11:24 航空航天 -
我国载人登月火箭主发动机完成飞行任务要求验证
2023-07-23 09:31 航空航天 -
突破国外长期封锁,国产核磁共振仪实现量产
2023-07-22 22:00 -
专访:除了使用最强光刻机,英特尔制程反超台积电还有哪些招数?
2023-07-22 15:22 观网财经-科创 -
神十六航天员圆满完成出舱任务
2023-07-20 21:50 航空航天 -
电磁弹射微重力实验装置(4秒)启动试运行
2023-07-19 15:06 科技前沿
相关推荐 -
换一种方式,让国宝“回家” 评论 49矛头直指哈尔科夫,普京首次公开俄军意图 评论 164普京特地去了趟哈尔滨,东北-远东合作前景如何? 评论 210中俄联合声明重量级要点,不只有图们江出海口 评论 306首付、利率双降!央行打出重磅组合拳 评论 422最新闻 Hot
-
中俄联合声明重量级要点,不只有图们江出海口
-
中国废食用油也被刁难,主要美企发声
-
行政瘫痪?联合国、世行及18国大使联合致信越南总理
-
“抱歉我说了这么久,因为感觉就像在自己家里”
-
“史上最宽松首付政策”来了,年轻人的月供终于“可支付”?
-
“规模庞大”、“阵容豪华”,普京随行代表团中都有谁?
-
《联合声明》多次点名美国及其盟友,俄专家这样说
-
首付、利率双降!央行打出重磅组合拳
-
“伤势严重但情况稳定,能开口说话了”
-
美方污蔑:中国太大管不住自己,不能再有第二波“中国冲击”
-
“任他是拜登或特朗普,中国早就准备好了”
-
西门子:撇开中国,办不到
-
“美国对华加税,不一定要变成战争…”
-
印度担心:美国制裁中国,我们却遭殃
-
果然,他们放弃了
-
荷兰特朗普,又杀回来了
-