主持人：我还可以举个例子，比如给农业生产赋能。种植农作物的时候，通过人工智能的一些设备辅助，可以非常精准地感受到植物的生长状况，可以让生长周期再快一点或者再缓一点来满足外界的需求。所以千行百业都可以接受人工智能的服务。当然我们刚才说的是人工智能赋能的一部分，为什么我们会这么关心人工智能？是因为大家看到它带来的能量之外，也有担忧。人工智能未来会不会产生一些颠覆性的变革？

张教授：我看到有一个报道，关于美国国防部的一项试验，说是一个人控制无人机打仗，然后他给无人机下命令说你必须停止发射，结果无人机把这个指挥员打死了。因为它通过大数据积累判断，认为你的指令不符合我的利益，就把你打死了。但是后来美国国防部说这不是真实发生的事情，而只是他们预设的一个场景，但他辟谣辟得晚了。同时，人们也觉得这种情况是完全可能的。

主持人：类似这种情节，我们在科幻电影里看到过。以往可能大家觉得这个事离我们很遥远，但像这种通用的生成式人工智能的出现，突然一下觉得这个隐忧不得不重视起来。现在有不少的科学家都已经提出来，生成式人工智能的发展要缓一缓。

孙教授：刚才张教授举的那个例子，其实专用人工智能就可以，而且我相信它已经是现实的，已经不是科幻电影了。比如把物体识别能力再加上某些定位，再加上机器人有执行能力，所以我觉得应该已经存在危险。

主持人：孙教授能否给大家做一个解读，我们现在整个人工智能的发展到了什么样的水平和状态？在上海举行的世界人工智能大会，每年都有热词，今年讨论的就是大模型。您刚说“三大”，大数据、大模型、大算力，您能不能给我们做个介绍，世界人工智能的领域和中国目前是怎样的发展水平？

孙教授：我们国家和全球在人工智能领域的发展水平对比，在ChatGPT之前应该说差不太多，一般美国是领跑，我们是跟跑，这是一个总的状况，但我们跟得比较快，我觉得比美国差半个肩膀。但这次ChatGPT出来，一下子把我们甩掉了一百米。从通用人工智能角度来看，我们和ChatGPT有非常大的距离。但从它的专用能力来看，大模型有专用能力，应该是差不多。通用能力，可以有些例子去测试，ChatGPT4，你给它一些问题，回答得还都比较靠谱。我们自己的系统，有时候测试会产生一个不错的句子，你会觉得悬的心好像放下了，但实际上还是有很大差距。

主持人：这一次世界人工智能大会上有几十家大模型的相关院校、厂家、企业等，都拿出自己的作品来参与展览。大家意识到，我们在通用型的生成式人工智能这一块有比较大的距离，所以很多设计方、科研机构都开始发力追赶。

张教授：中国人看得很清楚，我们的差距在哪里，哪些地方是有优势的，哪些地方是有劣势的，然后想办法弥补。我看了这次华为发布的一些报道，他们做事情也是从源头，包括从芯片和大模型开始做很多事情。

孙教授：我刚才讲，我们的大模型的专用性还是没问题的，它即使不具备通用性，但结合各个行业能发挥很大的效果。

张教授：任正非有一个判断：人工智能软件平台对人类社会的直接贡献可能不到2%，而98%应该是对经济、社会等各行各业的促进，所以从政府治理到金融、到煤炭、矿山、港口，华为都在做。盘古大模型与中国这种全球最强大的制造业、最完整的产业链相结合，这是美国所不具备的。

主持人：现在我们讨论通用的部分，可能未知数比较多。在技术上我们还是要抓紧升级迭代要追赶上，同步地再来考虑，它可能会产生的负面影响，到底怎么去约束它。前段时间网信办等七个部门联合发布了《生成式人工智能的服务管理暂行办法》的文件，8月15日开始施行。这里头确定了很多管理边界，比如数据不能过度收集等等。但是我注意了一下，它的原则叫包容审慎、分类分级监管。

张教授：我觉得这四个字很重要，包容审慎，“包容”放在前面，那就是先鼓励你发展，容忍你发展，然后再审慎对待。之前有个征求意见稿，这个是新的版本，有一些变化。其中一个大的变化是，之前的监管部门主要是网信办，现在包括了教育部、发改委、工信部、公安部等。另外对于社会动员这类具有舆论属性的人工智能是要严管的。我觉得这也是很合理的考量。

孙教授：应该说这个办法还是充分吸收了各方面的意见，比如刚才说的包容审慎，这个原则特别重要。因为这种生成式的模型，一方面它生成能力很强，同时它是概率式的。概率式模型就会产生幻觉现象，这是必然的。你想你一个人走路，如果在每个路口都有四万八千个分岔口，然后我让你走二十个岔口，你还能精准地走到你希望到的那个地方吗？不太可能。所以产生问题是必然的。如果监管办法是一个问题都不能出现，那这个技术就没法发展，我注意到文件中提到要分类分级监管。

这就很好，它不能零容忍，零容忍的话，这个技术就搞死了。但另一方面，确实是错误要越小越好，这实际上对技术也是提出挑战。比较好的监管，它会促进技术精准定位。适度监管，对技术本身也是一个发展。

主持人：此外，像ChatGPT4这样的生成式人工智能的出现，也让大家讨论另外一个话题，就是科技向善和科技发展之间的关系，包括像职业创造和职业替代之间的关系。比如科技公司，都可以用生成式人工智能来写初级代代码，有一些从事相关工作的人可能就失去了工作机会，包括从事初期创意的，像初期文案，初期策划，可能都会失去工作。这确实是一个问题。

孙教授：通用人工智能肯定会替代一部分人的工作，特别是重复性的、相对低端的智力劳动。从好的角度来看，是使得生产效率大大提高，生产成本降低，因为不需要这么多人了；不好的方面，是对个人来说，可能就会有一部分人失业。从工业革命到现在都是这个规律。所以这块应该是不可避免的。但它不会取代这个行业。比如写代码，好像谷歌测了一下ChatGPT4，基本上可以给它18万美金的年薪，但还是我刚才讲的，这个模型存在幻觉现象，它写的代码不能保证都是对的。所以一定是后续需要有人来校对、审视，其实是对人提出了更高要求。

主持人：就像您说可能还会催生出一些新的工作机会，创造就业也好，还是给所有人提供机会也好，它讲究一个公平性，并不是所有人都有那么好的条件来应对这种新的创造所带来的挑战。所以其实我是蛮担心这个问题的，就是生成式人工智能的活跃发展，对于普通人来说，冲击会有多大，怎么保护大家的权益？

孙教授：现在有个词叫终身学习。你不学习就落后，落后可能就丢掉工作，这其实是正常的。我想这个问题要换个角度来看，ChatGPT有严重的局限性，它不是一个基于理性思辨的算法，而是一个概率式的算法。这个东西要达到决策的层面，现在是做不到的。另外确实也会产生新的行业，新的职业创造。

主持人：或者我们要放宽视野，就像我们刚才讲了它会赋能千行百业，可能会在千行百业当中，根据自己行业发展的特性会创造出新的职业岗位，这是有机会的。

孙教授：将来会出现这种情况，人少了的话，机器反而能够弥补我们劳动力短缺的问题。再有，我干嘛一周一定都要工作五天八个小时。我可以少工作，去生活；只要制定合适的规则，让大家都能享受人工智能带来的这种好处，就可行。

主持人：所以我们的政府、我们的社会要做管理要做服务，其实就是希望把人工智能的正面部分发挥到最大，它提出来的挑战，或者可能会由此带来的一些管理上的难题，要更加花力气去解决。就像您刚刚说的，可能有些相对弱势的群体会受到挑战，那么可能政府就要很好地去思考，在劳动创造上、在其他岗位的给予上，怎么去保护这样的人群。因为社会公平始终是我们非常重要的追求目标。

张教授：放宽思路，最终可能是必要劳动的大幅减少。比方说过去是每天八个小时，一周工作五天，以后每个星期工作三天、至两天，获得同样的收入、甚至更高的收入，你将有更多的闲暇时间，我们要放眼未来。