“科技工作者总反感伦理学家挑刺，但人工智能是例外”

穆拉蒂认为，ChatGPT应该受到监管。“对于OpenAI和其他类似公司来说，以一种可控和负责任的方式让公众意识到这些问题非常重要，但我们是一小群人，我们还需要对这个系统投入更多，不仅仅是技术范围的投入，还包括监管机构、政府和社会各界的参与。”她对《时代》杂志表示。

杜严勇指出，对ChatGPT等人工智能工具的监管确实是非常重要的问题。作为国内较早从事机器人与人工智能伦理研究的学者，他坦言，伦理学家研究科学技术可能会导致哪些社会影响，他们通常是带着批判和质疑的，“因此不少科技工作者对伦理学家比较‘反感’，觉得你们老是在质疑，老是在批判。”

“但人工智能是个例外。”杜严勇表示，不管是科技工作者还是企业家，抑或社会公众，大家普遍认可人工智能技术应该受到伦理和法律的约束。

时代周刊：ChatGPT的创造者认为人工智能应该受到监管

“这些人工智能产品，包括聊天工具、机器人，应该怎么使用？应该在哪些场景中使用？都要有明确的管理办法，这些单靠技术人员是无法完成的，要由政府、伦理学家共同参与，制定一个伦理框架或者有关的法律条文。”

杜严勇表示，新的技术不断涌现，和法律相比，伦理更加“灵活”，伦理学家应该提出伦理治理的框架体系，它的适用性和适用范围更广，适用时间也更长。“在这些基本原则的指导下，面对一些普遍的人工智能产品，我们就知道怎么做。”

2022年3月，中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》，提出了增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明等五项原则。

杜严勇表示，这五项原则就相当于一个大的指导框架，“下一步我们可以对它进行细化，在某个新的人工智能产品出来之后，去指导大家应该如何使用。”

另一方面，2022年12月，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），自2023年1月10日起施行。

深度合成技术，即利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。

《规定》明确，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息。深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。

《规定》还要求，深度合成服务提供者应当落实信息安全主体责任；深度合成服务提供者提供深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。

有关部门就《规定》答编辑问时强调，出台《规定》，能够划定深度合成服务的“底线”和“红线”，维护网络空间良好生态。

“算法监管的先行者——中国，将注意力转向治理‘深度伪造’。”美国《华尔街日报》1月8日刊文，指出中国关于深度合成技术新规的实施，标志着全球首次有主要监管机构对限制这一“最具爆炸性和争议性”的人工智能新技术进行全面的尝试。

文章指出，在全球范围内，对滥用深度合成技术来生成“深度伪造”内容的担忧持续增长。斯坦福大学研究学者、“数字中国项目”负责人格雷厄姆·韦伯斯特（Graham Webster）表示，中国正在和世界一起了解这些事情可能造成的影响，并且正在更快速地推进强制性规则和执法。

韦伯斯特表示，中国的规定将为中国以外的观察人士提供一个研究案例，让他们研究这种规则如何在现实世界中发挥作用，以及它们可能对企业产生何种影响。

报道还指出，美国的立法者也试图解决“深度伪造”内容的扩散和潜在的滥用问题，但这些努力因所谓的“言论自由”而停滞不前。

此外，据路透社报道，欧盟内部市场专员蒂埃里·布雷顿(Thierry Breton) 表示，拟议中的欧盟人工智能规则将解决外界对ChatGPT和人工智能技术风险的担忧。报道称，这是首次有欧盟高官对ChatGPT发表评论。

“正如ChatGPT 所展示的那样，人工智能解决方案可以为企业和公民提供巨大的机会，但也会带来风险。这就是为什么我们需要一个坚实的监管框架来确保基于高质量数据的可信赖人工智能。”布雷顿说。

（江苏科技大学科学技术史研究所副教授杨凯组稿）