-
数字人、AI绘图……人工智能生成内容会带来怎样的变革?
最后更新: 2023-07-08 16:52:20上海人工智能实验室主任助理乔宇认为,大模型还存在很多问题,例如人们常说的“幻觉”、价值对齐、效率等,但社会各界需要用发展的目光看待AI,安全和发展是“一体两翼”的关系,特别是中国的大模型还处于追赶阶段,需要从发展的角度去看待安全问题。
谈及大模型可能存在的价值观方面的问题,乔宇表示,大模型的价值观是由训练数据得来的,“我们是不是能从训练数据端去解决?有些模型用在专业领域的时候,围绕这个专业领域,我们对它有一些安全要求,有可能从中继承一些。所以要从大模型技术研发的不同环节来思考安全问题。”
乔宇强调,大模型的安全不单单是某一个科研团体、某一个产业领域或是中国单独面临的问题,它是全世界乃至全人类面临的问题,“所以我认为在安全领域,我们应该展开更多的国际交流和合作,来共同面对和解决。”
“聚焦·大模型时代AIGC新浪潮论坛”圆桌讨论环节
香港中文大学助理教授王历伟从人才和研究的角度切入,他认为,从人才培养的速度来看,很大的优秀科研人员基础可以降低未来研发的门槛,训练大模型的算力需求成本看起来也比较乐观。“我觉得从短期或中长期来看,无论是人才储备还是算力,大模型的研发门槛可能在慢慢降低。”
王历伟表示,科研人员需要关注如何理解和评价大模型的能力,“如果我们持续从一种评价方式去衡量大模型的能力,可能多多少少还是比较片面。”他认为,学术领域人士很适合去更多地探索安全性和AI治理等方向的内容。
蚂蚁集团机器智能部副总经理、蚂蚁安全天筭实验室主任张天翼表示,大模型带来的风险问题不一定是新的问题,但更加深度的应用可能造成更全面的影响,包括生成内容安全问题、技术安全、隐私问题、合规问题以及伦理问题等。
张天翼认为,当前大模型存在三方面的风险,一是技术相关问题,模型本身可能被攻击、被突破、被劫持。二是产业类风险,AI是否会带来垄断、劳动替代等问题。三是内容类的问题,是否会向用户提供不安全的内容。
他表示,大模型的风险问题没有“灵丹妙药”,必然是一个长期对抗和博弈发展的过程,“比如说现在安全行业内的一个很直接的应用,我们也会用大模型来对抗更多大模型中的风险,这也会是一个‘用魔法打败魔法’的方向。”
云天励飞副总裁、AI技术平台总经理肖嵘则为生成式AI的发展总结了四个问题,分别是生成内容存在“幻觉”的问题、工具使用和外部知识整合能力、逻辑推理能力和不具备持续学习能力的问题。
在安全问题上,肖嵘认为,大模型其实具备“价值观”,它所认定的知识不一定就是事实,“解决这个问题其实有两个路径,第一个是它为什么会产生有错的东西?可能它学的东西都是不对的……所以我们需要对语料有体系地治理,保证其安全、可控。第二个也是我们正在大力推动的,比如对模型输出的治理。”
但他也强调,AI是一种工具。“越强大的工具被用来作恶,可能影响也越大。”肖嵘说,“我认为,工具用得好不好,更多是人的问题。我们不应该因噎废食,不是看到强大的工具就不去使用,而是更多地想想怎么把它有序化。”
本文系观察者网独家稿件,未经授权,不得转载。
标签 世界人工智能大会- 责任编辑: 陈思佳 
-
埃尔多安:乌克兰可以,瑞典不行
2023-07-08 15:37 乌克兰之殇 -
俄罗斯宣布加强对自日本进口海产品的辐射检查
2023-07-08 13:13 俄罗斯之声 -
洪都拉斯:寻求与中方商讨200亿美元基建项目
2023-07-08 11:28 观察者头条 -
美国宣布向乌克兰提供集束弹药,俄罗斯:绝望之举
2023-07-08 11:11 乌克兰之殇 -
他俩打电话,“隔墙有耳”
2023-07-08 10:44 -
若日本一意孤行,“可考虑对东电实施制裁”
2023-07-08 10:18 福岛核泄漏 -
北约想在日本设联络处,“最强烈的反对来自法国”
2023-07-08 09:39 法国见闻 -
“白俄罗斯希望加入金砖”
2023-07-08 09:06 金砖国家 -
“中欧”牵手“中老”,澜湄蓉欧快线班列首发
2023-07-08 07:17 基建外交 -
印度想效仿中国推卢比国际化,但…
2023-07-07 21:42 龙象之间 -
李强会见美财长耶伦:加强合作是中美两国的现实需求
2023-07-07 19:39 中国外交 -
差点没拦住…
2023-07-07 19:22 -
亚投行公布对前雇员不实指控的全面内部调查报告
2023-07-07 19:05 -
上任首次主要外交政策演讲,他这样定调新中关系
2023-07-07 17:56 -
乌克兰正式申请加入CPTPP
2023-07-07 17:06 -
驻韩大使:欢迎韩国各界多到中国访问
2023-07-07 16:38 三八线之南 -
韩国在这军演,日本抗议:极其遗憾
2023-07-07 16:09 日本 -
白宫可卡因发现位置或为战情室附近,“一般人去不了”
2023-07-07 15:53 美国一梦 -
日方排氚标准远远严于中韩?外交部驳斥
2023-07-07 15:35 日本 -
美防长称中国在南海的行为是“胁迫性”和“冒险的”,外交部回应
2023-07-07 15:21 中国外交
相关推荐 -
伊朗官方通讯社称莱希直升机事故系“技术故障” 评论 94意外还是阴谋?伊朗的当务之急是... 评论 98将暂代伊朗总统的他是何许人?未来50天将做什么? 评论 58总统及外长坠机遇难,将如何影响伊朗政局? 评论 344多张现场图公开 评论 363最新闻 Hot
-
总统及外长坠机遇难,将如何影响伊朗政局?
-
西媒称“或点燃中东火药桶”,但…
-
将暂代伊朗总统的他是何许人?未来50天将做什么?
-
他称“没有证据表明是谋杀”
-
美军前军官披露直升机隐患,“或与美国制裁有关”
-
“房子都起火了,还没人敲警钟”,拜登又晚了
-
刚果(金)挫败政变:主犯被击毙,包括3名美国人在内约50人被捕
-
事故直升机上共有9人,除了伊朗总统和外长还有谁?
-
多张现场图公开
-
多方表态
-
“好偏执,每个中国人都被怀疑是间谍,但西方无法再统治世界”
-
“美国站错队,让中俄在非洲钻了空子”
-
伊朗下一步怎么办?
-
他宣称:必须睁大眼睛紧盯中俄,威胁我们生活
-
伊朗总统乘坐的直升机硬着陆,美方密切关注
-
美媒探访莫斯科,发现全城都是这个词
-