-
生成式AI监管新规征求意见,专家:应为市场留足发展空间
最后更新: 2023-04-19 09:22:16【文/观察者网 吕栋】
今年以来,随着人工智能技术不断发展,生成式人工智能(AIGC)成为绝对的市场焦点。为促进生成式人工智能技术健康发展和规范应用,国家互联网信息办公室近日起草了《生成式人工智能服务管理办法(征求意见稿)》(下称《征求意见稿》),并向社会公开征求意见。
从百度的“文心一言”到阿里的“通义千问”再到商汤的“日日新”,国内各大厂相继发布生成式人工智能产品。作为一项正快速发展的技术,AIGC可通过算法、模型、规则等方式生成各种类型的文本、图片、声音、视频、代码等内容,市场应用前景广泛。
然而,生成式人工智能技术也面临着一些挑战,其中包括知识产权、安全、伦理和数据等问题。针对这些挑战,《征求意见稿》对人工智能生成内容、主体责任、训练数据和数据处理等方面都做出了规定,旨在保障生成式人工智能技术的合规性和安全性。
华东政法大学数据法律研究中心主任高富平解读指出,我国对人工智能的研发一直采取鼓励发展的态度。此次《征求意见稿》对人工智能的监管措施,只是针对面向公众提供的人机交互式的生成式人工智能,而不是针对所有人工智能的。《征求意见稿》对生成式人工智能产品的开发提供了基本遵循,对此类产品的开发有积极的正向引导作用。
但与此同时也有学者提出,人工智能产业刚刚起步,业界还不清楚究竟会出现哪些问题,又需要设置哪些规则。在这种情况下,过于超前的立法也有可能会阻碍技术的发展和创新。
例如,《征求意见稿》提到:“提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定,要求用户提供真实身份信息。”对此,北京大学法学院教授薛军表示:“生成式人工智能服务,在特定情况下更类似于搜索服务,本质是一种智能检索,应当允许用户以游客的身份使用。比如,必应搜索引擎迁入了ChatGPT问答模型,普通游客都可以浏览使用。这样,也可以更好保护用户的隐私,方便网民使用。”
AI生成的图片
在生成内容方面,《征求意见稿》提到:“利用生成式人工智能生成的内容应当真实准确,采取措施防止生成虚假信息”,确立了内容真实性的要求。但这一规定目前存在颇多争议。
一些行业人士指出,从实践的角度来看,生成内容的真实准确性与生成式人工智能的技术原理是互相冲突的,人工智能生成内容并不是从知识库中搜索并拼凑出结果,生成结果是通过计算机算法得来的,所以对于生成信息的真实准确性,会存在一些不可避免的技术限制。
中国社会科学院大学法学院副教授、互联网法治研究中心执行主任刘晓春表示,大模型服务提供者有责任积极采取与技术发展水平相适应的风险预防措施,及时响应监管要求,对权利主体提出的合理诉求给出及时的回应。如果按照规定执行,可以明确大模型服务提供者的具体治理义务,在其尽到与技术发展水平相应的义务的情况下,给予一定的免责规则。
在训练数据方面,《征求意见稿》对预训练数据提出了更多的要求,要求能够保证训练数据的“真实性、准确性、客观性、多样性”。
中国国家创新与发展战略研究会副会长吕本富认为,“真实”“准确”缺乏明晰的衡量标准,网络上的新闻、认知存在刷新、反转等情况,且数据来源于网络,需要发挥各个网站主体意识,从源头上保障“真实准确客观”。综合来看,对提供者和使用者、传播者的违法行为进行规制,或许更符合实际情况。
清华大学中国发展规划研究院执行副院长董煜则指出,数据训练的规模会决定人工智能生成内容的质量,数据的数量和质量比算法和模型更重要。从欧盟、美国、韩国、日本等国家针对预训练数据合法性的要求来看,为了支持大模型的发展,他们允许使用各种出版物对生成式人工智能训练数据进行分析。因此,如果由于真实性、版权等问题无法使用相关训练数据,将对人工智能技术发展带来很大的负面影响。
在责任认定方面,《征求意见稿》第五条提出,“利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人,包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等,承担该产品生成内容生产者的责任”。
对此,中国人民大学教授、国家发展与战略研究院研究员刘永谋表示,生成式AI产品提供的服务大多是生成文本、图像、声音等信息内容,在使用在不同的场景可能会产生不同的影响。作为内容生产者的提供方,是无法确定使用者的具体用途的。比如说,一段由AI生成的正常的文字,或者一张AI绘制的图片,平台方是无法得知它是否被用于创作领域,还是用于一些灰黑产业的,其产生的后果其理所应当由内容的使用方负责。
此外,《征求意见稿》第十五条规定“对于运行中发现、用户举报的不符合本办法要求的生成内容,除采取内容过滤等措施外,应在3个月内通过模型优化训练等方式防止再次生成”。
但在当前环境下,大型语言模型的参数规模在到达一个临界值后,涌现能力变得越来越强。即使是OpenAI这样的团队,也很难解释这样的涌现现象。在这种情况下,人工智能基座大模型生成的内容往往是难以精确预测和控制的,这是生成式人工智能方法的固有缺陷之一。
因此,清华大学人工智能研究院视觉智能研究中心主任邓志东教授提出,“通过模型优化训练的方式防止再次生成侵权内容,在技术上非常难以实现,而利用价值对齐的算法采取内容过滤等措施或可实现。如果要求生成式人工智能产品服务提供方在收到侵权问题反馈时,第一时间过滤侵权内容,并通过模型优化训练,实际上是非常困难的,人工智能立法应当在智能涌现能力和安全性中找到平衡”。
法立于上则俗成于下。刘永谋指出,未来新法规的出台,将界定新技术服务的“底线”和“红线”,使科技得以在合乎伦理的轨道上运行发展。同时也应注意到,新产业、新业态和新模式,虽然意味着新的风险,但也正在为生产力和经济增长注入新动能。新法规的制定,为市场留足发展空间,才会让人工智能大范围的得到普及,让创新更进一步。
本文系观察者网独家稿件,未经授权,不得转载。
- 责任编辑: 吕栋 
-
“这事再次印证了互联网上广为流传的一句话”
2023-04-18 16:06 美国一梦 -
华为再发新机:搭载高通处理器,将部分旗舰功能下放
2023-04-17 23:09 观网财经-科创 -
长七遥七运载火箭运抵文昌发射场,将执行天舟六号任务
2023-04-17 11:00 航空航天 -
神舟十五号乘组,刷新纪录!
2023-04-16 16:40 航空航天 -
英特尔CEO:非常看好中国市场,中国的增长令人振奋
2023-04-14 15:26 观网财经-科创 -
法国、西班牙等宣布调查ChatGPT
2023-04-14 12:15 科技前沿 -
中国空间站氧气资源100%再生
2023-04-14 09:37 航空航天 -
中国空间站氧气资源100%再生,水资源闭合度提升到95%以上
2023-04-13 22:43 航空航天 -
卢拉参观华为上海研究所
2023-04-13 16:07 华为 -
福建海事局:16日东海部分水域可能有火箭残骸坠落
2023-04-13 15:26 航空航天 -
中国科学家培育出首个猴子“假胚胎”
2023-04-13 09:41 科技前沿 -
巴菲特回应减持比亚迪:为更好配置资金,不急于减持
2023-04-13 08:32 -
403秒!中国“人造太阳”创造新世界纪录
2023-04-13 06:43 科技前沿 -
“夸父一号”卫星观测数据向国内外试开放
2023-04-12 22:16 天文 -
王文涛会见英特尔公司首席执行官基辛格
2023-04-11 15:58 中国外交 -
首次发现!这种动物有两套DNA
2023-04-10 08:22 -
华为盘古系列AI大模型即将上线?知情人士:疑似资本炒作
2023-04-09 07:44 观网财经-互联网 -
双曲线一号,成功发射
2023-04-07 14:54 航空航天 -
科技部拟颁科技伦理审查办法:改变人类生殖细胞等需复核
2023-04-06 13:24 -
我国科学家研发出首例室温氢负离子导体
2023-04-06 08:20
相关推荐 -
首次超过燃油车!新能源乘用车渗透率破50% 评论 36马斯克公开反对禁止TikTok 评论 149伊朗外长否认以空袭:除非遭重大袭击,否则不予回应 评论 275重庆通报“燃气费异常”:燃气集团党委书记被免职 评论 819“伊以都在降调”,国对国直接打击结束? 评论 169最新闻 Hot
-
伊朗外长否认以空袭:除非遭重大袭击,否则不予回应
-
特朗普“封口费”案法庭外,男子自焚
-
“美国在中东再怎么牵扯精力,不能忘了中国才是头等大事”
-
马斯克公开反对禁止TikTok
-
“伊以都在降调”,国对国直接打击结束?
-
美方挑事:中国做出贡献,威胁全欧洲
-
印度大选开锣,莫迪稳赢了?
-
俄气真香?欧盟机构警告:一时断不了
-
“德国车是世界上最好的,不必害怕中国,但…”
-
抛弃自家兄弟,肯尼迪家族15人支持拜登
-
“拜登考虑再援以10亿美元武器”
-
日教材称“殖民推动韩国近代化”,韩外交部召见日大使抗议
-
重庆通报“燃气费异常”:燃气集团党委书记被免职
-
G7竟威胁中国:跟俄罗斯走近,与西方就远
-
以色列“有限复仇”:选在了伊朗核计划中心
-
5.3%,一季度“开门红”能转化为“全年红”吗?
-