“需要携手合作，推动人工智能健康发展”

人工智能技术发展日新月异，关于人工智能的治理、安全等问题也逐渐成为社会各界关注的新焦点。如何保障人工智能的安全使用？如何让人工智能更好地为生产生活提供帮助？多位专家在本届大会开幕式上分享了他们的观点。

清华大学苏世民学院院长、清华大学人工智能国际治理研究院院长薛澜表示，全世界的人工智能发展存在巨大的鸿沟，不但阻碍全球发展，也对全球治理造成很大的影响。他认为，国际社会需要携手合作，促进企业、政府共同推动人工智能健康发展。

薛澜指出，联合国193个成员国在2015年共同通过了《联合国2030年可持续发展议程》，提出全球要历时15年时间让全球进入到可持续发展轨道。去年联合国有关会议透露，完成目标的情况不容乐观，部分目标甚至出现倒退的情况。

薛澜发表讲话视频截图

薛澜说：“有分析表明，人工智能对可持续发展的169个子目标中的134个有积极的促进作用，也可能对其中59个产生一些不利的影响。我们要从宏观的角度看待人工智能的积极影响和潜在的不利影响。”

他表示，如何推动人工智能的健康发展，尽可能让它收益最大化，把风险降到最低，中国在这些年的实践中已建立起一个相对完整的体系。在产业应用方面，有一系列法律法规来推动人工智能合理发展；针对算法算力以及数据治理也有规则框架；针对具体应用场景，也出台了相应的治理规则。

“我们构建了一个多维度、多层次、多领域、多举措的体系。”薛澜说。

他强调，在全球范围内，人工智能发展还面临很多挑战，“一个国家带来的风险就是全球的风险，所以这些问题我们必须共同努力解决。国际社会现在可以说对安全问题非常重视，但对发展存在的鸿沟，AI鸿沟这方面关注可能还不够。应该说，有很多工作需要进一步地讨论。”

薛澜表示，要通过多途径建立国际交流，加强政府间多边对话机制，用科学的力量助力完善国际机制，促进企业、政府共同推动人工智能健康发展。

上海人工智能实验室主任、清华大学惠妍讲席教授周伯文表示，当前以大模型为代表的生成式人工智能快速发展，但随着能力不断提升，模型自身及其应用也带来了一系列潜在风险的顾虑。

周伯文指出，从公众对人工智能风险的关注程度来看，首先是数据泄露、滥用、隐私及版权相关的内容风险，其次是恶意使用带来的伪造、虚假信息等相关的使用风险，还有偏见、歧视等伦理问题，是否会对就业结构等社会系统性问题带来挑战，甚至在一些科幻电影中还出现了人工智能失控等担忧。

周伯文发表讲话视频截图

周伯文表示，这些风险有的已初露端倪，但更多是潜在风险，防范它们需各界共同努力。他认为，有这些担忧的根本原因在于目前的人工智能发展是失衡的，“我们在人工智能安全方面的投入，是远远落后于性能的。目前世界上99%的算力用于模型的预训练，只有不到1%用于安全优先的考量。”

他认为，人们需要找到人工智能安全优先，但又能保证性能长期发展的技术体系。“我们把这样一种技术思想体系叫做‘AI-45度平衡律’。这是指从长期的角度来看，我们要大体上沿着45度的安全与性能平衡发展，所谓的平衡是指短期内可以有波动，但不能长期低于45度。”

周伯文介绍说，实现“AI-45度平衡率”有多种技术体系，上海人工智能实验室近期在探索一条以因果为核心的路径，并将其取名为可信AGI的“因果之梯”。它将可信AGI的发展分为三个递进阶段：泛对齐、可干预、能反思。

其中，泛对齐”主要包含当前最前沿的人类偏好对齐技术；“可干预”主要包含通过对AI系统进行干预，探究其因果机制的安全技术；“能反思”则要求AI系统不仅追求高效执行任务，还能审视自身行为的影响和潜在风险，从而在追求性能的同时，确保安全和道德边界不被突破。

“目前，AI安全和性能技术发展主要停留在第一阶段，部分在尝试第二阶段，但要真正实现AI的安全与性能平衡，我们必须完善第二阶段并勇于攀登第三阶段。”周伯文说，“沿着可信AGI的‘因果之梯’拾级而上，我们相信可以构建真正可信AGI，实现人工智能的安全与卓越性能的完美平衡。”

本文系观察者网独家稿件，未经授权，不得转载。