-
国产算力训练,华为宣布开源盘古7B稠密和72B混合专家模型
(文/观察者网 吕栋 编辑/张广凯)
6月30日早上,华为正式宣布开源盘古70亿参数的稠密模型、盘古Pro MoE 720亿参数的混合专家模型和基于昇腾的模型推理技术。
华为表示,此举是华为践行昇腾生态战略的又一关键举措,推动大模型技术的研究与创新发展,加速推进人工智能在千行百业的应用与价值创造。
根据公告,盘古Pro MoE 72B模型权重、基础推理代码,已正式上线开源平台。基于昇腾的超大规模MoE模型推理代码,已正式上线开源平台。盘古7B相关模型权重与推理代码将于近期上线开源平台。
5月底,华为曾披露,盘古Pro MoE大模型,在参数量仅为720亿,激活160亿参数量的情况下,通过动态激活专家网络的创新设计,实现了以小打大的优异性能,甚至可以媲美千亿级模型的性能表现。在业界权威大模型榜单SuperCLUE最新公布的2025年5月排行榜上,位居千亿参数量以内大模型排行并列国内第一。
“盘古72B是兼顾性能与推理成本的黄金尺寸,最适合行业用户用AI改造业务。”华为专家曾表示。
随后在6月,有华为技术专家告诉观察者网,华为初步计划会向外开源,首先是盘古72B MoE模型是最有可能开源的模型。其次是小模型,有可能会给高校开源。
“我们以前很少对外发声,盘古也没有开源,所以大家对昇腾算力具体的情况不是特别了解,对模型的情况也不了解,外界就充满了猜疑。甚至认为昇腾训练不出来先进的大模型。昇腾算力能够训练出世界一流的大模型,训练高效率,推理高性能,系统高可用。第三方模型迁移到昇腾上可以做到:Day0迁移,一键部署。”他说道。
除了前述两款模型,华为近期还推出了参数规模达7180亿新模型——盘古Ultra MoE,全流程在昇腾AI计算平台上训练。华为同时发布盘古Ultra MoE模型架构和训练方法的技术报告,披露众多技术细节。
“生态方面我们还需要努力。我们技术上会持续改进,昇腾的生态也在逐步完善,也包括对业界主流生态的兼容,全力支持好客户的发展,昇腾未来一定会越来越好。”前述技术专家对观察者网表示。
当时他透露,华为盘古718B Ultra MoE万卡集群预训练MFU(模型算力利用率)达到41%,实验室已达到45%;CloudMatrix384超节点训练MoE大模型,MFU超过50%。
“昇腾超节点的是全对等高速互联的架构,基于系统工程的方法,对计算、内存、通信的极致优化调度,并结合昇腾特点的亲和设计和数学算法创新,实现了超级并行,后续欧拉操作系统的优化升级支持各种资源的池化管理与调度,实现业务驱动的系统最佳匹配,训练效率、推理性能还能再上一个台阶。”这位专家表示。
近期在华为开发者大会(HDC 2025)上,华为云还发布了盘古大模型5.5,对自然语言处理(NLP)、计算机视觉(CV)、多模态、预测、科学计算五大基础模型进行升级。同时,基于CloudMatrix 384超节点的新一代昇腾AI云服务全面上线。
本文系观察者网独家稿件,未经授权,不得转载。
- 责任编辑: 吕栋 
-
德国要求下架DeepSeek;英伟达聘中国AI专家;小米回应YU7刹车片起火
2025-06-30 09:08 观网财经-科创 -
OpenAI最新点名的中国竞争对手,不是DeepSeek
2025-06-29 18:21 观网财经-互联网 -
黄仁勋亲自招募两位AI专家加入英伟达,本科均毕业于清华
2025-06-29 17:22 观网财经-科创 -
海康威视:加拿大政府无端指控,罔顾事实
2025-06-29 15:59 观网财经-科创 -
快手大模型加持:AI版《爱,死亡,机器人》上线
2025-06-29 15:37 观网财经-互联网 -
中国稀土集团声明:各项工作未因相关人员变动受到影响
2025-06-29 13:23 大公司 -
if椰子水母企招股超购2220倍,中签率创近年新低
2025-06-27 21:27 观网财经-消费 -
招商蛇口全面取消区域公司,大型房企组织架构“扁平化”成趋势
2025-06-27 19:52 观网财经-房产 -
集资诈骗244亿!“山海集团”周志峰被判无期
2025-06-27 19:34 依法治国 -
国产芯片迎来资本“及时雨”
2025-06-27 18:50 观网财经-科创 -
鸿蒙的世界里,没有旁观者
2025-06-27 18:20 观网财经-科创 -
腾讯混元开源首款混合推理MoE模型
2025-06-27 18:12 观网财经-互联网 -
特朗普集团悄悄撤下“美国制造”手机承诺
2025-06-27 17:06 观网财经-科创 -
小米回应“前总监大瓜”和猫王音响创始人争议言论
2025-06-27 16:35 观网财经-科创 -
每晚7000仍不盈利,高端月子中心圣贝拉的困境与野心
2025-06-27 16:35 观网财经-消费 -
高度依赖“山茶花精华油”的林清轩,或将推出新品牌“华嫆庄”
2025-06-27 16:21 观网财经-消费 -
飞天茅台一度跌破1800元盈亏线,白酒调整远未筑底?
2025-06-27 15:51 观网财经-消费 -
京东回应“试点全职骑手帮扔垃圾”:无强制,仍在早期讨论阶段
2025-06-27 14:02 观网财经-互联网 -
美团王莆中:中国已是全球服务消费最便利国家,线上化潜力巨大
2025-06-27 13:03 观网财经-互联网 -
5元咖啡霸主加速扩张,幸运咖全国门店数突破6000家
2025-06-27 13:03 观网财经-消费
相关推荐 -
澳官员那个酸:大家只记得中国,可我们也出了钱的 评论 37难得有专家改口吹捧关税政策,给特朗普乐得… 评论 62伊朗最高领袖顾问亲口讲述:我如何逃过以色列暗杀 评论 139两名共和党议员“反水”,特朗普点名:犯下大错! 评论 48塞尔维亚首都爆发大规模抗议,武契奇:外国势力煽动 评论 213最新闻 Hot
-
“世纪罪行”!以色列在加沙搞种族灭绝,美国在“递刀子”
-
两名共和党议员“反水”,特朗普点名:犯下大错!
-
乌军损失第三架F-16,飞行员身亡
-
俄罗斯对乌克兰全境发动大规模空袭
-
“940页法案,共和党人从头到尾给我念”
-
美学者又嚷嚷:在美国后院,中国要吞下整盘肉
-
特朗普:假新闻,这些人简直有病
-
她祖父是纳粹间谍?还参与“灭绝犹太人”?
-
塞尔维亚首都爆发大规模抗议,武契奇:外国势力煽动
-
普京与卡德罗夫17岁儿子举行非正式会晤,祝其新婚快乐
-
摩擦升级?洪森称柬武器可打击曼谷,泰方回怼
-
“CIA认定MI6内部有俄间谍,英国追查20年却一无所获”
-
加拿大命令海康威视停止在加运营,中方回应
-
与中国竞争,电先不够了?特朗普拟“开闸放地”
-
德国对DeepSeek下手
-
千余官兵驰援!超4万人紧急撤离榕江
-