-
电信、蚂蚁、华为、百度等30余机构共同发起AI安全工作组
9月7日下午,在2023 inclusion·外滩大会举行的《探索下一代安全智能》论坛上,世界权威国际产业组织“云安全联盟”(CSA)大中华区宣布成立“AI安全工作组”,中国电信、蚂蚁集团、华为、百度、西安电子科技大学、国家金融测评中心等30余家机构成为首批发起单位。该组织致力于共同解决AI技术快速发展所带来的安全难题。
与会的中国科学院院士何积丰表示,“以人工智能为代表的数字技术正迈入从高速增长向高质量增长转变的全新发展阶段,这对其自身安全性和可靠性提出更高要求,也衍生出新型风险与挑战。这类风险更加复杂且隐蔽,只有建设数字安全生态协作系统,政、产、学、研各方紧密合作,共同建设可信可控的数字安全屏障。”
云安全联盟大中华区AI安全工作组将由中国电信上海研究院、蚂蚁集团担任联席组长单位,召集联盟内人工智能相关的产线上下游企业、学校、研究机构、用户单位等共同研究人工智能安全前沿技术。
观察者网从现场获悉,AI安全工作组将聚焦人工智能突出的安全风险问题,输出人工智能内生安全、衍生安全、助力安全等领域的白皮书、产业知识图谱、团体标准、系统框架、解决方案等,为整个行业提供一个清晰、系统的AI安全研究框架。根据计划,工作组先期将输出《AI安全白皮书》《大模型安全研究报告》《AI数据安全评估规范》等研究成果。
CSA(云安全联盟)创立于2009年,是世界领先的权威国际产业组织,共有成员单位1000余家。CSA致力于定义和提高业界对云计算和下一代数字技术安全最佳实践的认识和全面发展,凭借敏捷性、中立性、专业性被各界认可。CSA GCR(云安全联盟大中华区)是CSA全球四大区之一(其它三大区分别为美洲区、亚太区、欧非区),立足于中国,作为国际桥梁联接世界,致力于构建国际数字安全的生态体系。此次AI安全工作组的成立,也将发挥国际桥梁作用,使我国AI安全研究成果在全球范围内产生影响。
从安全角度看,AI技术是把“双刃剑”。它既会对数据、业务和系统等层面构成威胁,也能为安全科技发展赋能。论坛与会嘉宾表达了一致的观点,并提出了建设性意见。
中国网络空间安全协会副秘书长徐倩华表示,“发展的前提是安全。这需要各行各业形成筑牢安全防护屏障的共识,注重培养顶尖安全技术人才,贯彻落实相关法律法规,共同提升数字安全防护能力,确保数字经济健康可持续发展。”
云安全联盟大中华区主席李雨航院士也表示,“发展与安全是数字经济前进的双轮。人工智能技术的研发既不能因噎废食,也不能坐视安全不顾。优秀的中国AI方案应该成为全球的样板。”
中国电信研究院副院长、云网基础设施安全国家工程研究中心常务副主任李安民表示,面对日益复杂的云网安全威胁,积极探索AI安全、Web3框架下的安全技术及其创新应用,才能帮助数据隐私、交易可信和网络稳定。
金融是现代经济的核心,金融领域的科技创新与安全愈发重要。
国家金融与发展实验室副主任杨涛表示,“让金融更安全地拥抱科技,一方面要解决科技企业与金融机构建立‘各司其职、风险自担’的合作边界问题,另一方面完善金融科技生态与夯实基础要素。”
中国民生银行首席信息官张斌认为,“当前开放银行、智慧银行、场景金融等数字金融服务迅猛发展,金融机构应尽快建立与之配套的数字安全防御体系,驱动金融业务更好、更快、更稳健发展。”
作为互联网科技企业,蚂蚁集团机器智能部总经理、蚂蚁安全实验室首席科学家王维强介绍,针对生成式大模型安全问题,蚂蚁集团基于近10年可信AI沉淀,逐步构建“大模型安全检测与防御”的一体化解决方案,以保障大模型在生产和使用过程中更加安全、可控、可靠。目前已发布“蚁鉴”AI安全检测平台。同时蚂蚁集团基于安全基座模型能力,持续升级全方位全链路的智能风控防御体系,与生态伙伴们一起解决新AI时代的安全科技难题。
据了解,本次论坛由中国网络空间安全协会指导,金融科技50人论坛、蚂蚁集团联合主办,多位重磅嘉宾参会探讨数实融合发展中的新型风险与挑战,分享时代脉搏下的关键技术趋势和安全科技实践成果。
本文系观察者网独家稿件,未经授权,不得转载。
标签 外滩大会- 责任编辑: 陈济深 
-
机器学习泰斗迈克尔·乔丹:AI不会替代人
2023-09-07 17:28 观网财经-科创 -
外滩大会主论坛纵论大模型:将带来AI时代的产业变革
2023-09-07 16:26 观网财经-金融 -
麦肯锡中国区主席:下一个中国,还是中国
2023-09-07 16:23 观网财经-宏观 -
院士何积丰:应对大模型的安全问题,需设好“紧箍咒”
2023-09-07 15:06 观网财经-评论 -
院士张人禾:单打独斗已不适应大科学时代,要进行“有组织科研”
2023-09-07 14:52 观网财经-科创 -
外滩大会今日开幕 近20位“两院”院士、诺贝尔奖和图灵奖得主齐聚上海
2023-09-07 14:35 观网财经-金融 -
混元已接入腾讯50多个业务,国产大模型将加速转入长跑期?
2023-09-07 11:44 观网财经-科创 -
细则落地!存量首套房贷利率调整,四大行发布公告
2023-09-07 11:25 观网财经-房产 -
全面拥抱大模型,腾讯混元正式亮相
2023-09-07 10:47 观网财经-互联网 -
京东集团CEO许冉:印尼将会成为京东全球供应链网络的重要节点
2023-09-07 10:45 观网财经-海外 -
顶风作案!340万股,买回来
2023-09-07 08:58 观网财经-金融 -
二手车商日子难过:600平米展厅一年上千万流水只赚1万元
2023-09-07 08:10 -
网约车围城:一年之内涌入41家平台、上百万名驾驶员
2023-09-07 08:06 观网财经-汽车 -
莫斯科交易所:8月人民币交易额环比增长超30%
2023-09-06 20:02 观网财经-海外 -
报告:高净值人群进一步年轻化,“富二代”占比减少?
2023-09-06 17:46 观网财经-金融 -
国家发改委上线民间投资问题反映专栏
2023-09-06 17:39 -
欧洲最大地方政府破产,怎么回事?
2023-09-06 16:09 观网财经-宏观 -
旅游需求强劲,携程二季度营收超2019年同期29%
2023-09-05 18:27 观网财经-消费 -
杭州今日起实施“认房不认贷”
2023-09-05 18:02 观网财经-房产 -
欧洲车企“焦虑”:这是一个转折点
2023-09-05 16:59 汽车展
相关推荐 -
“美国居然在锯自己骑着的那根树枝,蠢得可怕” 评论 126换一种方式,让国宝“回家” 评论 115矛头直指哈尔科夫,普京首次公开俄军意图 评论 190普京特地去了趟哈尔滨,东北-远东合作前景如何? 评论 234中俄联合声明重量级要点,不只有图们江出海口 评论 313最新闻 Hot
-
换一种方式,让国宝“回家”
-
对抗中国?菲律宾加购5艘日本大型巡逻船
-
“我讨厌‘一带一路’,因为这绝妙的构想不是我们提出的”
-
斯洛伐克总理菲佐遭枪击后,他收到死亡威胁
-
12月6日前裁决,TikTok和美司法部要求法院启动快速通道
-
矛头直指哈尔科夫,普京首次公开俄军意图
-
“我们不承认台湾,今后也不会”
-
加拿大果然想跟,声称“不能给中国留后门…”
-
“美国居然在锯自己骑着的那根树枝,蠢得可怕”
-
法国邀请俄罗斯,英美不满
-
又在搞事,马科斯称菲律宾将“强力捍卫领土”
-
泽连斯基承认:我们很多旅都打光了...
-
中俄联合声明重量级要点,不只有图们江出海口
-
中国废食用油也被刁难,主要美企发声
-
行政瘫痪?联合国、世行及18国大使联合致信越南总理
-
“抱歉我说了这么久,因为感觉就像在自己家里”
-