-
讯飞星火之后,蚂蚁用国产芯片训练出2900亿参数大模型
最后更新: 2025-03-24 18:53:073月24日,彭博社援引知情人士消息称,蚂蚁集团已成功利用阿里巴巴、华为等国产芯片,结合混合专家(MoE)架构训练出参数规模达2900亿的大模型“Ling-Plus”,其性能与英伟达H800芯片训练的同类模型相当,且训练成本降低20%。这一突破是继科大讯飞“星火大模型”之后,中国国产算力生态即将迎来的第二个标志性大模型。
据蚂蚁集团Ling团队发布的论文,其自研的Ling系列模型通使用国产厂商(如壁仞科技、天数智芯、寒武纪等)的产品,训练1万亿Token的成本从635万元降至508万元,降幅达20%,但模型性能仍可对标阿里通义Qwen2.5-72B和DeepSeek-V2.5。
针对外媒(彭博社)关于蚂蚁百灵大模型训练成本的报道,蚂蚁方面回应观察者网称:蚂蚁针对不同芯片持续调优,以降低AI应用成本,目前取得了一定的进展,也会逐步通过开源分享。
除了自研性能领先的大模型以外,该技术论文最大的突破在于提出了一系列创新方法,以提升资源受限环境下AI开发的效率与可及性。实验表明,其3000亿参数的MoE大模型可在使用国产GPU的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及MoE模型相当。作为国内较早布局AI大模型的厂商,蚂蚁自研的百灵大模型2023年已通过备案,重点布局在生活服务、金融服务、医疗健康等场景的应用。
在此之前,科大讯飞发布了首个基于全国产化算力平台训练的全民开放大模型——讯飞星火V3.5。
本月,科大讯飞与华为联合团队宣布,成功在昇腾国产算力集群上实现MoE模型的大规模跨节点专家并行推理。这是继深度求索(DeepSeek)公开MoE训练方案后,业界首个完全基于国产算力的解决方案。
通过算子融合、混合并行策略和通信计算并行优化等一系列创新,科大讯飞在国产算力上实现了显著性能提升:单卡静态内存占用缩减至双机部署的1/4,效率提升75%,专家计算密度增加4倍,推理吞吐提升3.2倍,端到端时延降低50%。
基于此次科大讯飞携手华为所做的首个基于国产算力的MoE模型训推方案,科大讯飞称,这一突破性的解决方案也将应用于讯飞星火深度推理模型的训练加速,预期训练时推理效率将提升200%。同时,基于该方案的推理引擎也实现了国产算力上DeepSeek-V3和R1的高效推理。
科大讯飞“星火”验证了国产算力的可行性,蚂蚁“Ling系列”则进一步证明其规模化和经济性。随着阿里、华为等巨头加码,中国AI产业正从“单点突破”转向“生态协同”。这场算力平权运动,或将成为全球AI竞赛的新变量。
本文系观察者网独家稿件,未经授权,不得转载。
- 责任编辑: 杨依婷 
-
京东外卖上线40天,日订单首破百万
2025-03-24 18:12 观网财经-互联网 -
宣布斥资15亿布局香港后,京东要把家电价格打到全港最低
2025-03-24 18:12 观网财经-互联网 -
2元的一根妙可蓝多奶酪,去年又挣了1.13亿
2025-03-24 17:34 观网财经-消费 -
直击F1中国大奖赛:空中云汇助力迈凯伦车队实现“零时差支付”
2025-03-24 17:30 今日财经 -
途虎养车全网首发德国马牌ExtremeContact XC7全新轮胎产品线
2025-03-24 17:26 -
控量挺价成效待考,舍得酒业2024年净利骤降80%
2025-03-24 17:25 观网财经-消费 -
教培跑路频发,美团这招行不行?
2025-03-24 17:24 观网财经-消费 -
2024年中国财政政策执行情况报告发布
2025-03-24 16:23 -
TCL实业卢春水:掌握上游技术,才是全球竞争的核心驱动力
2025-03-24 15:30 观网财经-科创 -
五大芯片巨头来华参会,高通三星高管到访小米汽车工厂
2025-03-24 11:44 观网财经-科创 -
中科院专家:RISC-V开辟中国芯片自主新赛道,还需攻克“三座大山”
2025-03-23 16:07 观网财经-科创 -
丝芙兰迷失在中国,全球CEO紧急“救火”
2025-03-23 09:39 观网财经-消费 -
华为杨超斌:已有超80家伙伴基于昇腾打造大模型一体机
2025-03-22 21:40 观网财经-科创 -
从鸿蒙手机到鸿蒙电脑,华为终端鸿蒙化提速
2025-03-22 08:40 观网财经-科创 -
消息称盒马酝酿新店型,布局“1店+N仓”模式
2025-03-22 00:10 观网财经-消费 -
中美科技博弈下,233万用户选择把票投给“WPS鸿蒙版”
2025-03-21 23:59 观网财经-科创 -
嘉士伯控股重庆啤酒被指打压民族品牌“山城”?真相没那么简单
2025-03-21 21:08 观网财经-消费 -
名创优品2024年营收同比增长22.8%,全球门店净增1219家
2025-03-21 21:07 观网财经-消费 -
苹果AI被指控虚假宣传
2025-03-21 20:59 观网财经-科创 -
美团2024年财报:全年营收3376亿元,交易用户数破7.7亿
2025-03-21 20:54 观网财经-互联网
相关推荐 -
最新闻 Hot
-
“特朗普的黄金时代需要工厂,但工厂离不开中国机器”
-
特朗普再对两家美媒“断粮”
-
“美国商品短缺和价格上涨的倒计时开始”
-
美国商会喊话特朗普:赶紧减免关税,经济撑不住了
-
“我们高度依赖中国,特朗普这么干,打残自己”
-
马斯克自比佛陀:佛陀去世后,佛教不是更兴盛了吗?
-
商务部:美方主动向中方传递信息,中方正评估
-
三个月了,日本被困下水道的卡车司机终于找到
-
中国批准了,澳大利亚业界“非常振奋”
-
“美国现在是不撞南墙不回头,不见棺材不落泪”
-
“群聊泄密门”始作俑者被解雇,原来他早就被…
-
麦当劳“叫苦”:经济难以预测,美国人不敢花钱了
-
“英伟达焦虑:若DeepSeek用中企芯片…”
-
瑞安航空:若涨价,退了波音考虑C919
-
“白宫在努力控制叙事,但美国消费者很清楚”
-
美财长:该降息了
-