-
谢耘:治理“生成式人工智能”,相当于要管人的思想
观察者网:这是否会产生一个“空转”的问题呢?因为虽然我们进入了“暴力计算”时代,算力极大丰富,但是算力仍然要消耗物质世界大量的能源和资源。这就在全人类社会的层面上产生了一个效率问题,如果不能提升社会的生产力,而只是产生一个梦境在“空转”的话,这在资本逻辑上是成立的,但是会在物质层面带来大量的“浪费”。
谢耘:这是一个风险,人类的意识借助计算机扩展到社会各个领域,而且空前地被加强了,这可能会让人类更加脱离物质层面,沉浸在意识世界里,颠来倒去地搞一些东西,也就是你说的“空转”。
在农业社会,我们的生存空间基本上就是一个自然世界;在工业社会,绝大多数人生活在城市,城市是一个人工世界,这个时候人类和自然是一种对立的关系,人类要征服自然,要剥夺自然;到智能纪元之后,我们的生存空间变得更复杂,出现了一个虚拟的网络空间,所以人类今天的生存空间是自然空间、人工物质空间和虚拟网络空间,这三个空间的复合。现在,很多人试图把网络空间独立化,也就是“元宇宙”,在这个虚拟空间里我们确实可以不受物理规律限制,完全自由地畅行。
但这还是会遇到物质的制约,“暴力计算”需要消耗大量能源,制造芯片也需要现实产能,人对算力的追求几乎可以是无限的,现有资源是不可能匹配无限的。
同时,还出现了一个非常严重的问题:人与自然分离的倾向。我们看到过新闻,有的孩子沉迷电子游戏产生各种各样的问题,实际上不仅是孩子,这是一个关于生命意义的非常深刻的哲学层面的问题。
物质世界和虚拟世界是什么关系?人类和虚拟世界是什么关系?我们要不要离物质世界越来越远,进入到由思维创造的意识世界里面去?
观察者网:这是不是跟“物质第一性”还是“意识第一性”有关的话题,我会联想到马克思当时对资本主义的批判,因为资本主义的生产方式就是资本家的意志强加于物质生产之上,所谓“木脑袋倒立在地上自己跳舞”,不管这个物质世界的“实然”是怎样的,它就是追求一个意识的“应然”的资本增殖。
谢耘:对,按照马克思的说法,资本最后追求的是资本无限增殖这么一个虚无缥缈的目的。所谓资本增殖,其实就是脱离实质的物质生产,就活在意识世界里面。如果按照这个逻辑,我们面临的挑战非常大、非常现实、而且非常本质,甚至触及到人类生存的价值问题。
比如“数字孪生”,是人类又创造出另外一个和现实世界一样的世界吗?不是的。物质世界和虚拟世界之间是一个映像的关系,而不是孪生的关系。
什么叫孪生?是指两个世界是对等的关系。你的照片和你是对等的关系吗?不是,它是映像的关系。所以,当我们把物质世界信息化,放到虚拟世界里之后,它只是物质世界里的一个映像,而绝不是一个孪生。
第二,两者也不是同一关系。同一关系是两者密不可分,但现实世界与虚拟世界不是密不可分。举个例子,区块链产业化的谎言之一就是物品溯源,区块链的系统的数据是高度可信任、可追溯、不可篡改的,但这三个属性仅仅是指向区块链中的数据,而我们要溯源的是物质世界中的商品,区块链中的数据能和物质世界中的商品在时空上牢牢绑在一起吗?做不到。
所以,对信息技术要辩证地看,它是人类意识性的工具,意识可以反作用于物质,但意识世界不是物质世界。
观察者网:很有趣,能不能再谈一下“生成式人工智能”相对于信息技术的一般性和特殊性在哪里?为什么这次突然让大众对它产生了强烈的感知?
谢耘:我觉得这一次引起大众的强烈反应,就在于大家发现机器确实能和你说话。给大众的震撼更多是一种感性体验带来的。
从技术本质上来讲,人工智能这一轮进步并不是因为我们对智能原理有了新的认识,包括大模型等等的技术核心主要还是依赖于大量的数据统计,在这一点上,目前大家是有共识的。假设这个结论是正确的话,那就要说一下数据统计的技术能做到什么和不能做到什么。
从信息论的角度来讲,数据统计作为一种信息处理方式,它输出的信息量一定小于输入的信息量,也就是说,它不可能产生更多的信息。
第二,它输出的信息本质上都包含在输入的信息当中。这句话非常重要,只不过它把输入的某些信息做了进行了筛选、过滤、组合,或者以新的方式展示。
换句话说,它只是在输入的集合当中做事情,其产出也没超出这个集合。但是,因为模型的信息量非常大,所以对于一个人类个体来讲,他会觉得很新鲜。但是相对于向机器输入的大量数据来讲,这些信息在本质层面不是什么新鲜的东西,没有增加新的东西给这个世界,这一点非常重要。
观察者网:我们原来去训练人工智能,期望的一个方向是它能够给我们确定性的结果,告诉我们一个精确的东西,从而推动产业应用。但ChatGPT不是,它正是牺牲了精确性,来使大众感觉它是一个“真人”。
谢耘:其实人类在用到人工智能这种统计方法之前,我们都希望工具给出一个确定性的结果,包括用计算机做计算。
但现在基于统计的这些人工智能的方法,给出的是概率性的结果,所以,我们不能把它和以前的工具和方法等量齐观地去看待。
观察者网:既然它是一个意识的工具,我们是不是需要担心来自少数人的意识,尤其是可能来自境外的意识,通过信息技术的赋能,来影响多数人的思维和行为的方式?
谢耘:确实非常危险,这不仅是社会问题,首先还是个体问题,如果一个人没有很强的独立意识的话,是很容易被别人左右的。
信息技术的发展让影响他人的意识这件事变得更加高效,甚至更加隐蔽。机器学习或者机器搜索出来的结果,不是中立的,它是被人训练出来的,它有人的“外意识”的本质。
观察者网:但是像传统的教育,其实也是这样的一个过程,只是现在它产生了一个效率上的提升,是不是能够这样理解?
谢耘:它影响的规模空前,借助网络,可以轻易实现复制、传播等等,在一件事情规模有限的时候,社会对它进行管理是比较容易的,如果规模巨大之后,管理是非常困难的。
观察者网:那么如果站在政府立场要去治理它,可以有哪些抓手呢?
谢耘:我确实没有站在政府的角度仔细考虑过到底该怎么治理的问题,
但是虚拟空间有其赖以存在的一个基础和两个锚点。这是否能作为治理的抓手?我们可以讨论。
首先,构建虚拟空间的基础就是逻辑数值计算。
其次,它有两个锚点,一个锚点是人,人类在创造这个空间,空间中的东西最终又被人所利用;第二个锚点是物质世界,人的意识不能独立于物质世界而存在,虚拟世界作为“外意识”,其信息同样来源于物质世界,信息从物质世界进入虚拟空间,在虚拟空间被处理完之后,又回到物质世界,应用在物质世界之上。
所以整个虚拟世界有一个基本的内在的基础,有两个外部的锚点,不论它怎么发展,这三个要素是不会变的。
观察者网:能不能从“两个锚点”的视角来看这次的《生成式人工智能服务管理办法(征求意见稿)》?
谢耘:不论利用信息技术做什么,终归应当是服务于人,也就是服务于我们真实社会的,这是一个基本的出发点。
要治理“生成式人工智能”,一个抓手当然是“人”,也就是现有的社会秩序。所以《征求意见稿》开宗明义,其依据是一系列现有法律和行政法规制定;其次,“研发、利用生成式人工智能产品,面向中华人民共和国境内公众提供服务的,适用本办法”,这就是说,不但本土相关企业要守规矩,境外的公司的相关产品或服务如果要进来,也要守规矩。
在《征求意见稿》中非常强调技术提供者的责任,把技术提供者作为主要管理目标。因为意识性工具和物质性工具不一样,物质性工具的生产者,一般生产一个静态的东西,只要产品符合标准,就完成了主体责任;而意识性工具提供者的产品很难界定,它是一个“活的”东西,所以必须持续强调技术提供者的责任。另外,如果针对技术使用者,可能执法成本太高,因为那是面对不特定的多数人,而技术提供者由于受物质条件限制,必然是少数“中心化”的大型企业,拥有庞大的资产和能力,也依赖其他组织的能源和资源供给,把它们作为治理抓手,也等于抓住了“物质世界”这个锚点。
我认为值得商榷的是第四条第四款,“利用生成式人工智能生成的内容应当真实准确,采取措施防止生成虚假信息”,可能征求意见稿的起草者还没有明确理解“意识性工具”的特点,要求意识确保“正确”是不具有可操作性的。
观察者网:最后一个问题,在这样的一个大趋势当中,个人应该做怎样的努力?对于学生或者年轻人,你有什么建议?
谢耘:我有三个建议,第一,如果真的要想查准确的资料,建议不要放弃传统的搜索工具,那样能直接查到原始的资料,可以看到原始资料到底它讲了什么,而不是通过生成人工智能组合出来的一个答案,
因为组合就有信息的损失。如果真的做严肃工作,查原始资料还是非常重要的,找到原汁原味第一手的东西,就不至于受有意或者无意的误导。
第二,在使用生成式人工智能工具的时候,一定要记住,得到的答案不一定对,要坚持存疑,我建议使用时还是要用其他的渠道加以印证,防止自己被数据统计导致的概率性或算法本身固有的其他局限给误导。
第三,即使生成式人工智能可以帮你干很多事,但不要依赖它。对于人的智能来说,用进废退是一个规律,只有通过不断实践,对问题的认识才会不断深化。即使是一些基础的事情,也应该把它当做一种必要的锻炼,才能避免智力的退化,我发现在互联网时代,智力退化是一种比较普遍的现象。
附2:《从凡夫到“上帝”:信息技术的意识本质与未来发展》线下研讨会视频
本文系观察者网独家稿件,文章内容纯属作者个人观点,不代表平台观点,未经授权,不得转载,否则将追究法律责任。关注观察者网微信guanchacn,每日阅读趣味文章。
-
本文仅代表作者个人观点。
- 责任编辑: 周远方 
-
全球首例!北京成功完成非人灵长类动物介入式脑机接口试验
2023-05-05 16:57 科技前沿 -
华龙一号全球首堆示范工程通过竣工验收
2023-05-05 16:20 核电 -
我国科学家发明“进化透镜”,马铃薯育种取得世界性突破
2023-05-05 16:18 -
陈刚等8位华人当选美国科学院院士
2023-05-04 13:22 -
中国科学家发现火星近期水活动新证据
2023-04-27 13:59 航空航天 -
我国科学家领衔,拍到黑洞“尾巴”
2023-04-27 08:13 -
最新研究:地球能量失衡加剧
2023-04-24 13:38 全球变暖 -
载人航天总师周建平获“钱学森最高成就奖”
2023-04-24 10:43 航空航天 -
迄今最重“薛定谔的猫”出现
2023-04-24 08:13 科技前沿 -
世界首台兆瓦级高温超导感应加热装置投用,能效转化率提升一倍
2023-04-23 06:50 科技前沿 -
vivo连发两款旗舰,折叠屏能否成为手机市场救星?
2023-04-21 23:30 观网财经-科创 -
倪光南:openEuler成为中国开源的一个典范
2023-04-21 22:37 观网财经-科创 -
复旦MOSS升级版开源上线,“道德感很强”
2023-04-21 14:09 人工智能 -
中国科学家精确测量!算出银河系“体重”
2023-04-21 10:38 天文 -
华为:突破封锁,成功实现MetaERP研发和替换
2023-04-20 19:35 观网财经-科创 -
提取出近乎完美的量子纠缠!祝贺中国科学家
2023-04-20 14:09 科技前沿 -
改写教科书的发现:大脑运动皮层中有一个“身心界面”
2023-04-20 10:12 科技前沿 -
孟晚舟当值轮值董事长后首度亮相:分享华为数字化转型经验
2023-04-20 01:10 观网财经-科创 -
华为战略研究院院长:AI能力快速提升,但还面临三个重要挑战
2023-04-19 23:23 观网财经-科创 -
非常罕见!21世纪仅有7次
2023-04-19 22:45 天文
相关推荐 -
“哈马斯得到美方保证”?以官员威胁:不会同意 评论 38国际刑事法院忍无可忍:再威胁试试 评论 198省级督察组现场核实情况,遭故意封路阻挠 评论 134嫦娥六号成功发射!开启人类首次月球背面取样之旅 评论 341“美军还没撤,俄军就把这里占了” 评论 223最新闻 Hot
-
国际刑事法院忍无可忍:再威胁试试
-
澳大利亚“设卡”,中国在非洲淘到“白金”
-
“半数以上AI最热门领域,中国研究领先”
-
省级督察组现场核实情况,遭故意封路阻挠
-
美国又出新规:想要补贴,电动汽车上不能有“中国制造”
-
“中俄在台海附近军演,逼着美国改计划”
-
他催拜登采取行动:保住内塔尼亚胡,不然逮捕令会落到咱们身上
-
以代表称:没料到美国精英大学里也有哈马斯
-
“内塔尼亚胡决心竞选连任”
-
香港暴徒“屠龙小队”队长:计划使用炸弹杀害港警,至少30个
-
“美国各地逾2000名抗议者被捕”
-
“欧盟得把成年男性遣返乌克兰,上战场”
-
“这样拆掉中国设备,许多农村就没网了”
-
果然,印度和日本破防了
-
“美军还没撤,俄军就把这里占了”
-
“北约发这种提案,简直疯了”
-