-
华为推出DeepSeek训/推一体机,国产芯片迎来新机遇?
-
连政guanchazhewanxgun
DeepSeek的热潮,终于带火了AI一体机产品?这种颇具“中国特色”的AI硬件,能否给国产芯片的普及再加一把火?
2月16日,据“华为数据存储”公众号消息,华为DCS AI解决方案针对DeepSeek的本地部署,推出了DS版FusionCube A3000训/推超融合一体机,深度适配DeepSeekV3&R1及蒸馏模型,支持私有化部署。
配置清单显示,DS版的FusionCube A3000训/推超融合一体机有三种型号,分别为Ultra(满血版)、Pro(蒸馏版)和 Lite(蒸馏轻量版)。
其中满血版可以完美适配DeepSeek-R1、V3的671B模型,硬件使用2个华为Atlas800l A2,处理速度达到671B: 1911 token/s 。而蒸馏版则配备1个Atlas800l A2,适配DeepSeek R1-Distill-Qwen-32B、Llama-70B等蒸馏模型,处理速度 70B: 3300 token/s,32B: 4940 token/s。
Atlas800l A2是华为推出的鲲鹏920+昇腾 AI处理器的AI推理服务器,应用于深度学习模型开发和AI推理服务场景,目前面向公有云、互联网、运营商、政府、交通、金融、高校、电力等领域,用于企业机房部署和大规模数据中心集群部署。
软件方面,DS版训/推超融合一体机使用大模型训练、推理和应用开发的华为ModelEngine AI平台,该平台基于昇腾AI芯片,通过推理框架优化和MoE存算协同,提供动态换入换出和全局统一缓存,实现推理高并发和低时延。2月6日,华为对外宣布,ModelEngine平台全面支持DeepSeek大模型R1&V3和蒸馏系列模型的本地部署与优化,开发者可通过该平台实现上述DeepSeek大模型的“一键部署”。
近一段时间以来,DeepSeek线上算力的严重不足,带火了大模型本地部署需求,许多厂商开始营销各类AI一体机产品。
2月5日,联想与国内AI芯片厂商沐曦联合发布基于DeepSeek 大模型的一体机解决方案,采用ThinkStation PX工作站为载体,搭载沐曦曦思N260 GPU。
2月14日,中科曙光也发布了全国产的DeepSeek超融合一体机,该一体机采用全国产技术路线,选用国产X86 CPU和国产GPGPU加速卡,支持全精度、半精度混合训练与推理。
中科曙光的DS超融合一体机
在模型适配方面,中科曙光一体机同样全面适配DeepSeek系列模型,如DeepSeek V3、DeepSeek R1和DeepSeek Janus Pro,还支持全系列量化蒸馏版本。同时,对QWen2.5、LLama3.2、ChatGLM等主流大模型也全面兼容,满足各种业务场景需求。
中科曙光公众号的文章,就毫不吝惜地称呼该一体机为“国货之光”,将为政府和企业的数字化、智能化转型按下“加速键”。
实际上,AI一体机并不是最近才出现的新事物。在中国市场上,由于大量企业不愿意为单纯的软件和算力付费,或者处于数据安全等原因倾向于将硬件本地部署,因此把软硬件打包在一起的“一体机”一直拥有独特的生存空间。
作为对比,尽管英伟达也推出了Jetson系列的硬件集成平台,但是主要用于机器人和嵌入式边缘计算等场景,而非去做通用大模型的推理。
不过,随着大模型推理成本的降低,以及C端用户需求的增长,英伟达也将目光投向了个人市场。今年早些时候,英伟达就推出了个人超级计算机“Project DIGITS”,该产品搭载英伟达全新GB10超级芯片,最高可提供达1 PFLOPS的AI性能,主要用于AI大模型的原型设计、微调及运行。
Project DIGITS(左下角类纸盒物品)号称全球最小的可运行 200B 参数模型的 AI 超级计算机。英伟达官网
英伟达表示,GB10超级芯片让Project DIGITS只需使用标准电源插座就能提供强大的性能。借助 Project DIGITS,用户则可以使用自己的桌面系统开发和运行模型推理,并在加速的云或数据中心基础设施上无缝部署模型。同时,用户还可以通过英伟达技术将两台Project DIGITS AI超级计算机连接在一起,运行包含高达4050亿参数的模型。
华为DS版FusionCube A3000以及中科曙光的DS超融合一体机价格暂不清楚,而英伟达面向个人的消费级Project DIGITS的具体售价约在3000美元左右,今年晚些时候上市。
本文系观察者网独家稿件,未经授权,不得转载。
- 责任编辑: 连政 
-
韩国芯片巨头要停用中国EDA?
2025-02-17 15:50 观网财经-科创 -
美年健康7天5板,AI医疗板块热度不减
2025-02-17 11:29 股市 -
深度对话|AI眼镜“百镜大战”,跑对方向比抢跑更重要?
2025-02-16 16:46 观网财经-科创 -
头部主播的下半场:就此隐身,还是学习胖东来?
2025-02-15 17:00 观网财经-互联网 -
又落地?中国企业的数据中心正在海外扩张
2025-02-15 15:55 观网财经-互联网 -
奔驰集团董事长向中方表态
2025-02-14 21:54 -
腾讯元宝接入满血版DeepSeek,可切换双模型
2025-02-14 21:30 观网财经-互联网 -
“鲶鱼”京东,打响2025年“品质外卖”第一枪
2025-02-14 21:20 观网财经-互联网 -
马云现身长沙盒马
2025-02-14 21:12 -
百度放弃闭源,但或许回归了最初的自己
2025-02-14 19:41 -
“苹果股价正越来越依赖中国”
2025-02-14 18:52 观网财经-科创 -
2024年我国国际收支货物贸易顺差同比增长近三成
2025-02-14 18:12 -
顶级域名认证Deepseek?ai.com的前世今生
2025-02-14 16:49 观网财经-科创 -
荣耀DeepSeek-R1联网版正式上线
2025-02-14 14:31 观网财经-科创 -
美团启动新一轮“骑手超时免罚”试点:扣分不扣钱
2025-02-14 14:30 观网财经-互联网 -
本源量子:本源悟空全球访问量破2000万次,境外美国排第一
2025-02-14 14:01 科技前沿 -
力帆科技更名千里科技,“AI+车”剑指全球智能出行高地
2025-02-14 10:51 观网财经-科创 -
百度突然宣布下一代文心大模型开源
2025-02-14 10:44 -
牵手阿里后,传苹果AI仍会与百度合作
2025-02-14 10:23 大公司 -
央行去年总资产减少1.65万亿,专家:央行缩表不代表货币紧缩
2025-02-14 07:56 宏观经济
相关推荐 -
-
商务部:中方决定同意与美方接触 评论 56“指挥混乱!他突然擅自下令,特朗普都被蒙在鼓里” 评论 48后院起火?加拿大“最保守省”酝酿“独立公投” 评论 113美财长卖力为关税洗地,台下高管们只关注中国 评论 53印外长怼欧盟:这么依赖中美俄,还想战略自主… 评论 131最新闻 Hot
-
商务部:中方决定同意与美方接触
-
特朗普拒不付钱,加州又扯中国
-
“指挥混乱!他突然擅自下令,特朗普都被蒙在鼓里”
-
第二轮投票通过,默茨正式当选
-
18名议员跑票,默茨意外未能当选德国总理
-
苏丹宣布:与阿联酋断交
-
“很明显,几乎所有美国出口都受到了打击”
-
“我们国家正处于脆弱时刻,美国却在丑陋地炫耀权力”
-
涉1000亿欧元美国商品,欧盟考虑:谈不成就动手
-
后院起火?加拿大“最保守省”酝酿“独立公投”
-
日本先谈判先遇挫,特朗普政府又臭又硬、寸步不让
-
美财长卖力为关税洗地,台下高管们只关注中国
-
特朗普又开新战线,“只会鼓励各国像中国一样反制”
-
印外长怼欧盟:这么依赖中美俄,还想战略自主…
-
“美国买家缺席,结果很意外!”
-
日本想“跪”,被警告:政府将垮台
-