-
讯飞星火之后,蚂蚁用国产芯片训练出2900亿参数大模型
最后更新: 2025-03-24 18:53:073月24日,彭博社援引知情人士消息称,蚂蚁集团已成功利用阿里巴巴、华为等国产芯片,结合混合专家(MoE)架构训练出参数规模达2900亿的大模型“Ling-Plus”,其性能与英伟达H800芯片训练的同类模型相当,且训练成本降低20%。这一突破是继科大讯飞“星火大模型”之后,中国国产算力生态即将迎来的第二个标志性大模型。
据蚂蚁集团Ling团队发布的论文,其自研的Ling系列模型通使用国产厂商(如壁仞科技、天数智芯、寒武纪等)的产品,训练1万亿Token的成本从635万元降至508万元,降幅达20%,但模型性能仍可对标阿里通义Qwen2.5-72B和DeepSeek-V2.5。
针对外媒(彭博社)关于蚂蚁百灵大模型训练成本的报道,蚂蚁方面回应观察者网称:蚂蚁针对不同芯片持续调优,以降低AI应用成本,目前取得了一定的进展,也会逐步通过开源分享。
除了自研性能领先的大模型以外,该技术论文最大的突破在于提出了一系列创新方法,以提升资源受限环境下AI开发的效率与可及性。实验表明,其3000亿参数的MoE大模型可在使用国产GPU的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及MoE模型相当。作为国内较早布局AI大模型的厂商,蚂蚁自研的百灵大模型2023年已通过备案,重点布局在生活服务、金融服务、医疗健康等场景的应用。
在此之前,科大讯飞发布了首个基于全国产化算力平台训练的全民开放大模型——讯飞星火V3.5。
本月,科大讯飞与华为联合团队宣布,成功在昇腾国产算力集群上实现MoE模型的大规模跨节点专家并行推理。这是继深度求索(DeepSeek)公开MoE训练方案后,业界首个完全基于国产算力的解决方案。
通过算子融合、混合并行策略和通信计算并行优化等一系列创新,科大讯飞在国产算力上实现了显著性能提升:单卡静态内存占用缩减至双机部署的1/4,效率提升75%,专家计算密度增加4倍,推理吞吐提升3.2倍,端到端时延降低50%。
基于此次科大讯飞携手华为所做的首个基于国产算力的MoE模型训推方案,科大讯飞称,这一突破性的解决方案也将应用于讯飞星火深度推理模型的训练加速,预期训练时推理效率将提升200%。同时,基于该方案的推理引擎也实现了国产算力上DeepSeek-V3和R1的高效推理。
科大讯飞“星火”验证了国产算力的可行性,蚂蚁“Ling系列”则进一步证明其规模化和经济性。随着阿里、华为等巨头加码,中国AI产业正从“单点突破”转向“生态协同”。这场算力平权运动,或将成为全球AI竞赛的新变量。
本文系观察者网独家稿件,未经授权,不得转载。
- 责任编辑: 杨依婷 
-
京东外卖上线40天,日订单首破百万
2025-03-24 18:12 观网财经-互联网 -
宣布斥资15亿布局香港后,京东要把家电价格打到全港最低
2025-03-24 18:12 观网财经-互联网 -
2元的一根妙可蓝多奶酪,去年又挣了1.13亿
2025-03-24 17:34 观网财经-消费 -
直击F1中国大奖赛:空中云汇助力迈凯伦车队实现“零时差支付”
2025-03-24 17:30 今日财经 -
途虎养车全网首发德国马牌ExtremeContact XC7全新轮胎产品线
2025-03-24 17:26 -
控量挺价成效待考,舍得酒业2024年净利骤降80%
2025-03-24 17:25 观网财经-消费 -
教培跑路频发,美团这招行不行?
2025-03-24 17:24 观网财经-消费 -
2024年中国财政政策执行情况报告发布
2025-03-24 16:23 -
TCL实业卢春水:掌握上游技术,才是全球竞争的核心驱动力
2025-03-24 15:30 观网财经-科创 -
五大芯片巨头来华参会,高通三星高管到访小米汽车工厂
2025-03-24 11:44 观网财经-科创 -
中科院专家:RISC-V开辟中国芯片自主新赛道,还需攻克“三座大山”
2025-03-23 16:07 观网财经-科创 -
丝芙兰迷失在中国,全球CEO紧急“救火”
2025-03-23 09:39 观网财经-消费 -
华为杨超斌:已有超80家伙伴基于昇腾打造大模型一体机
2025-03-22 21:40 观网财经-科创 -
从鸿蒙手机到鸿蒙电脑,华为终端鸿蒙化提速
2025-03-22 08:40 观网财经-科创 -
消息称盒马酝酿新店型,布局“1店+N仓”模式
2025-03-22 00:10 观网财经-消费 -
中美科技博弈下,233万用户选择把票投给“WPS鸿蒙版”
2025-03-21 23:59 观网财经-科创 -
嘉士伯控股重庆啤酒被指打压民族品牌“山城”?真相没那么简单
2025-03-21 21:08 观网财经-消费 -
名创优品2024年营收同比增长22.8%,全球门店净增1219家
2025-03-21 21:07 观网财经-消费 -
苹果AI被指控虚假宣传
2025-03-21 20:59 观网财经-科创 -
美团2024年财报:全年营收3376亿元,交易用户数破7.7亿
2025-03-21 20:54 观网财经-互联网
相关推荐 -
美国人的“药罐子”捏在中国手上 评论 3雷军,挺住! 评论 237“法国工程师感叹:教会了中国,我们被反超” 评论 226“中国限制稀土出口,特朗普政府真的压力山大” 评论 239李在明:必将克服内乱局面,全力以赴拼经济保民生 评论 115最新闻 Hot
-
“欧盟不知道它想从中国得到什么”
-
佩斯科夫:有爆炸但没破坏,大桥仍正常运行
-
“法国干邑业嗅到久违的乐观气息”
-
李在明提名的新总理,曾留学清华
-
“法国工程师感叹:教会了中国,我们被反超”
-
“德法领导人或访问中国,带空客签大单”
-
“中国限制稀土出口,特朗普政府真的压力山大”
-
“全球车企在想变通之策:要么把部件挪到中国造”
-
美国向越南提“强硬”要求,又扯中国
-
“全球越来越中国化,西方再难受,也要理智”
-
中央巡视组巡视期间,李大伟主动投案
-
张雪峰怒斥“学历贬值无用论”:怎么就那么闲?
-
李在明:必将克服内乱局面,全力以赴拼经济保民生
-
“马斯克怒喷‘大而美’法案因这四点,特朗普有些恼火”
-
果然,白宫又“疑心”中国
-
“美国自诩唯我独尊、全球听命,结果中国站出来了”
-