英伟达：创造DeepSeek-R1推理性能世界纪录

APP下载

扫一扫

下载观察者APP

英伟达：创造DeepSeek-R1推理性能世界纪录
- 汤普济我在看着你
分享到：

2025-03-19 11:36:30 字号：A- A A+ 来源：观察者网

最后更新: 2025-03-19 12:41:25

（文/汤普济编辑/吕栋）

当地时间3月18日，英伟达CEO黄仁勋于GTC AI大会上发表演讲，发布最新一代Blackwell Ultra GPU（GB300）。同日，英伟达官方博客发布文章，宣布利用Blackwell架构GPU实现DeepSeek-R1模型推理性能的世界纪录。

英伟达此次利用单个配备八块Blackwell架构B200 GPU的英伟达DGX系统，在英伟达评价为“超大规模、最先进的”DeepSeek-R1模型上，实现每用户每秒可处理超过250个token的性能，或每秒最大吞吐量超过30000个token。

NVIDIA

英伟达于2025年1月30日在面向开发者的网站上发布NVIDIA NIM微服务版的DeepSeek，之后，英伟达不断通过优化推理生态，刷新DeepSeek-R1模型的吞吐量。英伟达声称，自1月以来，DeepSeek-R1 671B模型的吞吐量已被提高了约36倍，相当于每token的成本降低了约32倍。

同时，英伟达声称，纪录还将随着Blackwell Ultra GPU和 Blackwell GPU在推理性能上的突破刷新。

据悉，英伟达此次发布的GB300是全球首个288GB HBM3E GPU，FP4推理性能可达去年发布的GB200的1.5倍，峰值可达15PFLOPS。将在2025年下半年出货。

英伟达还预览了下一代AI超级芯片——Vera Rubin，由Rubin GPU和Vera CPU组成。Vera CPU拥有88个定制Arm核心、176个线程。Rubin由两块掩模尺寸的GPU组成，拥有288GB HBM4内存，FP4峰值推理能力可达50PFLOPS，相比GB300，整体性能可达3.3倍。

此外，英伟达还发布了用于加速AI模型推理的分布式推理服务库NVIDIA Dyamo，据称，在GB200 NVL72架构上运行Dyamo推理，能使DeepSeek-R1模型的吞吐量提升30倍。

本文系观察者网独家稿件，未经授权，不得转载。
|

举报
- 违反法律法规
- 垃圾信息、广告
- 色情、淫秽信息
- 人身攻击
- 谣言、不实信息
- 冒充，冒用信息
- 破坏社区秩序
- 其他
- 涉未成年人有害信息
观察者网举报制度规范
确定取消
标签英伟达 deepseek
- 责任编辑: 汤普济
- 英伟达宣布合作开发AI原生6G
  
  2025-03-19 12:11 观网财经-科创
- 手机汽车家电均不愁卖，小米去年营收3659亿创新高
  
  2025-03-19 07:38 观网财经-科创
- 四川省长施小琳会见孟晚舟
  
  2025-03-18 22:58 观网财经-科创
- 徐少春：金蝶云转型已经成功，下一个目标是AI转型
  
  2025-03-18 22:48 观网财经-科创
- 格力地产：证券简称拟变更为“珠免集团”
  
  2025-03-18 22:30
- 特步2024年净赚12亿，创历史新高
  
  2025-03-18 19:53 观网财经-消费
- 茶咖日报｜蜜雪冰城新规柠檬不能过夜？部分门店已改24小时营业
  
  2025-03-18 19:52 观网财经-消费
- 永辉超市或闭店350家！叶国富成立改革小组，原创始人投下反对票
  
  2025-03-18 18:03 观网财经-消费
- 缓解育儿焦虑，梁建章建议推广“共享爷爷奶奶”模式
  
  2025-03-18 17:57 产业万象
- 滴滴四季度订单同比增长14.8%，中国出行日均3530万单
  
  2025-03-18 17:26 今日财经
- “无法抵抗SHEIN和Temu”，美国知名快时尚品牌又要破产了？
  
  2025-03-18 17:06 观网财经-消费
- 小米智能家电工厂将于下半年交付，最先量产空调
  
  2025-03-18 16:51 观网财经-科创
- 苹果在iPad侧面印上“中国制造”
  
  2025-03-18 15:55 观网财经-科创
- 美的人形机器人曝光：可能先在工业、商业场景得到应用
  
  2025-03-18 15:43 观网财经-科创
- 华为被曝正测试原生磁吸无线充电
  
  2025-03-18 14:36 观网财经-科创
- 苹果计划在印度生产耳机，仅供出口
  
  2025-03-18 14:31 观网财经-科创
- SpaceX确认龙飞船已脱离国际空间站：将带回两名滞留宇航员
  
  2025-03-18 14:22 观网财经-科创
- 2月韩国芯片对华出口额同比下降31.8%
  
  2025-03-18 14:18 观网财经-科创
- 北美份额超50%，瓦楞纸包装装备龙头破局全球化
  
  2025-03-18 14:09 观网财经-科创
- 李嘉诚深陷港口风波，长和股价再“跳水”
  
  2025-03-18 13:55
搜索

   观察者头条查看全部

“她带了块磁铁只为蛐蛐中国，G7没胆写进声明” 评论 145

特朗普最新表态，伊朗提出条件评论 262

“在以色列，就连死亡也不平等” 评论 119

巴黎航展4家展台被关，以方怒了：这些武器与法国竞争评论 126

“美国自己跟中国做生意，却要求我们别这么干” 评论 61

   风闻 · 24小时最热查看全部

   最新视频查看全部
最新闻 Hot
快讯

Copyright © 2014-2024 观察者 All rights reserved。
沪ICP备10213822号-2 互联网新闻信息服务许可证：31220170001 网登网视备（沪）02020000041-1号互联网宗教信息服务许可证：沪（2024）0000009 广播电视节目制作经营许可证：（沪）字第03952号
增值电信业务经营许可证：沪B2-20210968 违法及不良信息举报电话：021-62376571

沪公网安备 31010502000027号中国互联网举报中心上海市互联网违法与不良信息举报中心

返回顶部