观察者网：在人工智能治理领域，有一个“科林格里奇困境”，即一项技术的社会后果不能在技术生命的早期被预料到，但当技术已经成为整个经济和社会结构的一部分时，对它的控制会变得十分困难。这个困境产生的深层次原因是什么？

张伟强：每一次技术革新都会有它的两面性。从生产力维度看，技术革新一定对人类社会发展具有促进作用，但同时，也会形成新形式风险。

某种程度上，科技越发达，风险程度反而会越高。以前我们用石头木棍作为工具，其带来的风险是非常有限的。现在人类在核能开发利用上取得了很大进步，但同时也把它做成了核武器，风险就显而易见地不一样了。人工智能的风险更值得关注。科幻电影《终结者》中设定了一个名为天网(Skynet)的人工智能系统，颠覆和破坏了人类社会发展。其中有一个很讽刺的情节，天网系统启动时是征求了人类意见的。最终人类在没有做好完备安全评估的情况下，贸然选择了yes，天网系统被激活，人类社会开始被反噬。所以我认为，人类社会在技术发展面前，首要任务就是时刻保持头脑清醒，也就是时时刻刻要意识到它的两面性。这种意识非常重要，不至于被一时冲动冲昏了头脑。

我国以及国际社会已在采取行动。早在2021年，我国就发布了《新一代人工智能伦理规范》。近年来，先后针对算法、深度合成、生成式人工智能等出台管理办法，探索治理路径。2023年10月，面对新一轮人工智能发展，我国提出《全球人工智能治理倡议》。2024年3月，联合国大会通过首个关于人工智能的全球决议《抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展》。近日，联合国大会协商一致通过中国主提的加强人工智能能力建设国际合作决议。可以说，中国一贯高度重视人工智能治理，并积极推进全球人工智能治理进程。

你提到的这个“科林格里奇困境”，我倒认为，它不是一成不变的。当技术发展越来越有能力支撑治理规则的时候，此类困境将有希望被化解。例如，对于人工智能的发展，我们不仅要有一以贯之的风险意识，还要有足够的技术手段来测评它安全与否。当我们时刻可以了解人工智能系统安全性，做到完备评估后再投入生产，形成治理与发展并行向前时，“科林格里奇困境”就被打破了。刚刚我们提到的科幻电影，某种程度上要把它看成是警示片，进而不断提升智能社会治理能力，只有这样，才不会让它演化成预告片。我们这一代人正处于决定未来智能社会走向的重要历史进程中，肩上的责任还是非常重的。

观察者网：您如何看待资本市场对人工智能治理问题的助力？

张伟强：从技术发展角度看，未来的未知远远大于已知，人工智能探索之路存在巨大不确定性。在这个过程中，需要具有坚持不懈的韧性，也需要具有抗失败风险的能力，因为没有人能够百之百确定某个技术路线最终是不是能走通。但不能因为存在风险，就放弃探索和坚持，那样的话，从开始就失败了。这种情况下，资本市场的支持就显得至关重要。

我非常赞同中央最近提出来“要积极发展风险投资，壮大耐心资本”。资本在进行前瞻性评估后，需要具有一定的战略胆识来支持对无人区的探索，人工智能产业是非常需要耐心资本支持的。

观察者网：您如何看待人工智能领域的校企合作，包括科技成果转化和人才的对接？

张伟强：高校智力与产业实践有效衔接、互促发展，是推进人工智能科技成果转化、实现科技攻关突破的关键之一。这里面有两层含义：

一是形成科技成果转化的有效机制，使得高校优秀、前沿的学术成果有效转化成为我们的社会生产力。

二是人才共同培养，全球围绕人工智能的新一轮科技竞争，说到底还是人才的竞争。

一方面，高校应该在人工智能人才培养上与时俱进，及时增设、专设以人工智能为中心的专业设置，教材内容、教学手段等也要及时更新，确保紧跟技术前沿。另一方面，企业需要积极拥抱人工智能带来的变化，从岗位设置、人才培养视角前瞻性做好应对。例如，互联网时代，企业需要网络安全管理员，负责维护企业的网络与信息安全。人工智能时代，企业即将需要新设人工智能安全管理员，负责维护大模型等人工智能系统的安全。

观察者网：回到刚才提到的耐心资本问题。资本需要耐心，但投资方也需要有回报。现在大家普遍讨论的问题是，无论大模型还是小模型都需要完成商业闭环，这也是AI模型能否可持续发展的关键。

张伟强：商业闭环过程肯定会经历一段时间的阵痛期，主要体现在发展意识和技术落地两个方面。

从发展意识方面看，现在大家越来越能够意识到人工智能对于提高生产力的重要性。举个特别现实的例子，大模型出现不久，就有人突然发现竞争对手填报某些报单比自己效率快了很多，随后发现是竞争对手使用了大模型，这就导致情势倒逼他也要使用大模型，以免自己落伍。所以从发展意识方面看，要么是有预判性地尝试，要么是被动式地跟进，大家最终都会认识到紧跟技术发展潮流的重要性。在这样的背景下，推动人工智能商业闭环还是比较乐观的。

更难的是场景对接与技术落地。举个例子，一个采摘苹果的人工智能系统，要知道什么样的苹果是成熟的、哪些苹果有病虫害、每个苹果的质量分级等等，其实是非常复杂的。场景对接是一件苦差事，要沉下心来去设计、去磨合。有一句看似玩笑的话叫做“有多少人工就有多少智能”，折射出来的就是这个含义。所以，一要做好前期场景引导，使技术提供者和场景需求者能够实现对接。二要做好人工智能的“人工”部分，不急于求成，把基础工作做扎实。希望这个阵痛期能够尽可能缩短，这和大家一起努力、一起协同是分不开的。

7月5日，上海世界人工智能大会，华为AI，昇腾AI云服务、盘古大模型。

@视觉中国

观察者网：在这次世界人工智能大会上，很多专家也在讨论通用型人工智能（AGI）还需要多长时间才能真正实现“通用”，有专家判断说还至少需要20年的时间。

张伟强：这个事情至少取决于两个方面，一个是底层技术路线，包括模型架构、核心算法等是不是有突破。另一个是能源和资源，主要指算力和数据能否跟得上。AGI准确的定义是什么？什么是真正意义上的“通用”？我觉得目前还没有一个权威的定义。简单点说，我认为如果人工智能发展到我们可以把它视成一个普通的人，那就应该算得上是AGI了。

一个集合了人类所有优点甚至超越人类的人工智能——超级人工智能，会不会出现以及什么时候会出现，现在看还都不太确定。对于人类来讲，每个人都会有短板，不太可能有一个“超级人”的出现；但对于超级人工智能，我认为还是有可能出现的。因为你把人类所有的知识都喂给它，并且它还在决策质量（算法）、决策速度（算力）和记忆能力（存储）等方面占有巨大优势。

未来AGI会不会出现人类所说的意识？我认为会的。观察人类意识，我的思考，是先有需求形成目标，才有意识决定行动。比如，饿了的人会产生填饱肚子的目标，那他就会有去寻找食物的意识和动作。对于人工智能来讲，你给它输入目标，其实就可以理解为它有了意识；输入的目标越庞大、越多元，产生复杂意识的概率就越大。至于AGI什么时候会出现，我认为不仅取决于整个产业的发展进程，更取决于人类的选择。

无论未来人类选择走哪条人工智能发展路径，我认为，安全都是最基本的底线——人类绝不能被自己的工具破坏了人类社会本身的美好，要坚持高质量发展与高水平安全良性互动，绝不能成为“硅基文明”的奴隶。

本文系观察者网独家稿件，文章内容纯属作者个人观点，不代表平台观点，未经授权，不得转载，否则将追究法律责任。关注观察者网微信guanchacn，每日阅读趣味文章。