数字人、AI绘图……人工智能生成内容会带来怎样的变革？

APP下载

扫一扫

下载观察者APP

数字人、AI绘图……人工智能生成内容会带来怎样的变革？
- 陈思佳
分享到：

2023-07-08 11:00:54 字号：A- A A+ 来源：观察者网

最后更新: 2023-07-08 16:52:20

上海人工智能实验室主任助理乔宇认为，大模型还存在很多问题，例如人们常说的“幻觉”、价值对齐、效率等，但社会各界需要用发展的目光看待AI，安全和发展是“一体两翼”的关系，特别是中国的大模型还处于追赶阶段，需要从发展的角度去看待安全问题。

谈及大模型可能存在的价值观方面的问题，乔宇表示，大模型的价值观是由训练数据得来的，“我们是不是能从训练数据端去解决？有些模型用在专业领域的时候，围绕这个专业领域，我们对它有一些安全要求，有可能从中继承一些。所以要从大模型技术研发的不同环节来思考安全问题。”

乔宇强调，大模型的安全不单单是某一个科研团体、某一个产业领域或是中国单独面临的问题，它是全世界乃至全人类面临的问题，“所以我认为在安全领域，我们应该展开更多的国际交流和合作，来共同面对和解决。”

“聚焦·大模型时代AIGC新浪潮论坛”圆桌讨论环节

香港中文大学助理教授王历伟从人才和研究的角度切入，他认为，从人才培养的速度来看，很大的优秀科研人员基础可以降低未来研发的门槛，训练大模型的算力需求成本看起来也比较乐观。“我觉得从短期或中长期来看，无论是人才储备还是算力，大模型的研发门槛可能在慢慢降低。”

王历伟表示，科研人员需要关注如何理解和评价大模型的能力，“如果我们持续从一种评价方式去衡量大模型的能力，可能多多少少还是比较片面。”他认为，学术领域人士很适合去更多地探索安全性和AI治理等方向的内容。

蚂蚁集团机器智能部副总经理、蚂蚁安全天筭实验室主任张天翼表示，大模型带来的风险问题不一定是新的问题，但更加深度的应用可能造成更全面的影响，包括生成内容安全问题、技术安全、隐私问题、合规问题以及伦理问题等。

张天翼认为，当前大模型存在三方面的风险，一是技术相关问题，模型本身可能被攻击、被突破、被劫持。二是产业类风险，AI是否会带来垄断、劳动替代等问题。三是内容类的问题，是否会向用户提供不安全的内容。

他表示，大模型的风险问题没有“灵丹妙药”，必然是一个长期对抗和博弈发展的过程，“比如说现在安全行业内的一个很直接的应用，我们也会用大模型来对抗更多大模型中的风险，这也会是一个‘用魔法打败魔法’的方向。”

云天励飞副总裁、AI技术平台总经理肖嵘则为生成式AI的发展总结了四个问题，分别是生成内容存在“幻觉”的问题、工具使用和外部知识整合能力、逻辑推理能力和不具备持续学习能力的问题。

在安全问题上，肖嵘认为，大模型其实具备“价值观”，它所认定的知识不一定就是事实，“解决这个问题其实有两个路径，第一个是它为什么会产生有错的东西？可能它学的东西都是不对的……所以我们需要对语料有体系地治理，保证其安全、可控。第二个也是我们正在大力推动的，比如对模型输出的治理。”

但他也强调，AI是一种工具。“越强大的工具被用来作恶，可能影响也越大。”肖嵘说，“我认为，工具用得好不好，更多是人的问题。我们不应该因噎废食，不是看到强大的工具就不去使用，而是更多地想想怎么把它有序化。”

本文系观察者网独家稿件，未经授权，不得转载。

首页上一页 1 2 3 余下全文
|

举报
- 违反法律法规
- 垃圾信息、广告
- 色情、淫秽信息
- 人身攻击
- 谣言、不实信息
- 冒充，冒用信息
- 破坏社区秩序
- 其他
- 涉未成年人有害信息
观察者网举报制度规范
确定取消
标签世界人工智能大会
- 责任编辑: 陈思佳
- 埃尔多安：乌克兰可以，瑞典不行
  
  2023-07-08 15:37 乌克兰之殇
- 俄罗斯宣布加强对自日本进口海产品的辐射检查
  
  2023-07-08 13:13 俄罗斯之声
- 洪都拉斯：寻求与中方商讨200亿美元基建项目
  
  2023-07-08 11:28 观察者头条
- 美国宣布向乌克兰提供集束弹药，俄罗斯：绝望之举
  
  2023-07-08 11:11 乌克兰之殇
- 他俩打电话，“隔墙有耳”
  
  2023-07-08 10:44
- 若日本一意孤行，“可考虑对东电实施制裁”
  
  2023-07-08 10:18 福岛核泄漏
- 北约想在日本设联络处，“最强烈的反对来自法国”
  
  2023-07-08 09:39 法国见闻
- “白俄罗斯希望加入金砖”
  
  2023-07-08 09:06 金砖国家
- “中欧”牵手“中老”，澜湄蓉欧快线班列首发
  
  2023-07-08 07:17 基建外交
- 印度想效仿中国推卢比国际化，但…
  
  2023-07-07 21:42 龙象之间
- 李强会见美财长耶伦：加强合作是中美两国的现实需求
  
  2023-07-07 19:39 中国外交
- 差点没拦住…
  
  2023-07-07 19:22
- 亚投行公布对前雇员不实指控的全面内部调查报告
  
  2023-07-07 19:05
- 上任首次主要外交政策演讲，他这样定调新中关系
  
  2023-07-07 17:56
- 乌克兰正式申请加入CPTPP
  
  2023-07-07 17:06
- 驻韩大使：欢迎韩国各界多到中国访问
  
  2023-07-07 16:38 三八线之南
- 韩国在这军演，日本抗议：极其遗憾
  
  2023-07-07 16:09 日本
- 白宫可卡因发现位置或为战情室附近，“一般人去不了”
  
  2023-07-07 15:53 美国一梦
- 日方排氚标准远远严于中韩？外交部驳斥
  
  2023-07-07 15:35 日本
- 美防长称中国在南海的行为是“胁迫性”和“冒险的”，外交部回应
  
  2023-07-07 15:21 中国外交
搜索

   观察者头条查看全部

48%流向美贫困区，“离了这些，我们根本活不起了” 评论 65

“终于从中国借到了月壤，NASA却…” 评论 76

“加州不是美国，我们对中国伸出开放之手” 评论 163

刚签完乌克兰矿产协议，美国又要对俄罗斯动手了？评论 154

砍1630亿美元！但“马斯克和SpaceX是赢家” 评论 93

   风闻 · 24小时最热查看全部

   最新视频查看全部
最新闻 Hot
快讯

数字人、AI绘图……人工智能生成内容会带来怎样的变革？

埃尔多安：乌克兰可以，瑞典不行

俄罗斯宣布加强对自日本进口海产品的辐射检查

洪都拉斯：寻求与中方商讨200亿美元基建项目

美国宣布向乌克兰提供集束弹药，俄罗斯：绝望之举

他俩打电话，“隔墙有耳”

若日本一意孤行，“可考虑对东电实施制裁”

北约想在日本设联络处，“最强烈的反对来自法国”

“白俄罗斯希望加入金砖”

“中欧”牵手“中老”，澜湄蓉欧快线班列首发

印度想效仿中国推卢比国际化，但…

李强会见美财长耶伦：加强合作是中美两国的现实需求

差点没拦住…

亚投行公布对前雇员不实指控的全面内部调查报告

上任首次主要外交政策演讲，他这样定调新中关系

乌克兰正式申请加入CPTPP

驻韩大使：欢迎韩国各界多到中国访问

韩国在这军演，日本抗议：极其遗憾

白宫可卡因发现位置或为战情室附近，“一般人去不了”

日方排氚标准远远严于中韩？外交部驳斥

美防长称中国在南海的行为是“胁迫性”和“冒险的”，外交部回应

48%流向美贫困区，“离了这些，我们根本活不起了”

“终于从中国借到了月壤，NASA却…”

他称“无法确保出席阅兵式的各国领导人安全”，俄方回击

阿尔巴尼斯成功连任，“特朗普因素成幕后推手”

访美期间突感身体不适，武契奇紧急回国入院治疗

鲁比奥“对线”德国外交部

局势再升级！印度发布禁令

“加州不是美国，我们对中国伸出开放之手”

美国糊弄人，日本拆台：不可接受

刚签完乌克兰矿产协议，美国又要对俄罗斯动手了？

马哈蒂尔：美帝国走向末路，拦不住中国

数千美情报人员将被裁撤，美媒炒：他们“反水”中俄怎么办

5年来首次，香港金管局买入美元以稳定汇率

特朗普下手，英伟达对华“特供版”要改

中国人寿通过议案，险资有望加入债券“南向通”

美防长命令双航母战斗群继续留在中东