苹果在谷歌芯片上训练AI，打响抛弃英伟达GPU第一枪？

APP下载

扫一扫

下载观察者APP

苹果在谷歌芯片上训练AI，打响抛弃英伟达GPU第一枪？
- 李亚丽
分享到：

字号：A- A A+ 来源：观察者网

最后更新: 2024-07-30 13:06:37

美东时间7月29日，苹果公司发布iPhone AI的首个预览版，随后发布论文，称其人工智能模型是在谷歌的TPU（张量处理单元）上训练的。论文中介绍了为支持Apple Intelligence功能而开发的基础语言模型，包括一个设计用于在设备上高效运行的约30亿参数模型和一个基于私有云计算的云侧大模型。

苹果基础模型的建模概述苹果官方发布论文

苹果发布的论文称，他们在8192块TPU v4芯片上训练云侧AFM（Apple Foundation Model），使用4096的序列长度和4096个序列的批量大小，进行了6.3万亿token训练。端侧AFM在2048块TPU v5p芯片上进行训练。

苹果的决定表明，一些大型科技公司在人工智能训练方面可能正在寻找英伟达图形处理单元的替代品。

一些芯片行业媒体称，这是苹果打响了抛弃英伟达GPU的第一枪。

今年6月初，日本证券公司瑞穗证券估计，英伟达控制着用于训练和部署OpenAI的GPT等模型的AI芯片市场的70%至95%。一些专家将英伟达在AI芯片市场的地位描述为护城河，其旗舰AI图形处理单元GPU（例如H100）与该公司的CUDA软件相结合，使其在竞争中占据了先机。

包括谷歌、Meta、甲骨文和特斯拉在内的科技公司一直在努力构建自己的人工智能系统和产品。

心智观察所研究员潘攻愚指出，苹果宣布其Apple Foundation Model（AFM）在谷歌自主开发的Tensor处理单元（TPU）进行训练，而且还租用了谷歌的云服务。苹果在AI训练方面的权衡折射出了英伟达通用型AI加速器和谷歌的ASIC定制化AI服务体系的竞争升级。

谷歌自2015年以来一直在使用自主设计的TPU来训练和部署AI模型。不是设计通用处理器，而是将其设计为专门用于神经网络工作负载的矩阵处理器，在整个大量计算和数据传递过程中，根本不需要访问内存。

今年5月，谷歌宣布推出了人工智能（AI）数据中心芯片Trillium，据称该芯片的速度相比之前的版本提升了几乎5倍。该公司表示，这款芯片将用于开发自己的模型，包括Gemini和Imagen。

谷歌称，如果提前三年预订，最新的TPU每小时使用成本不到2美元。谷歌于2015年首次推出TPU用于内部工作负载，并于2017年向公众开放。它们现在是专为人工智能设计的最成熟的定制芯片之一。

尽管如此，谷歌仍是英伟达最大的客户之一。它使用英伟达的GPU和自己的TPU来训练AI系统，并且还在其云端出售英伟达技术的访问权限。

“虽然英伟达目前控制着高达80%份额的高端AI芯片市场，但剩余市场份额大多被大型云服务供应商如谷歌、微软、亚马逊占据。这一次苹果采用的谷歌TPUv5虽然在通用性上较英伟达同生态位芯片逊色，但主打一个性价比，综合总成本（TCO）要低英伟达四倍，而且拿货周期短。目前谷歌TPUv5所在的市场大约有300亿美元，英伟达一直觊觎这块‘肥肉’，但考虑到和谷歌微妙的竞合关系，英伟达目前还不会贸然大举进入ASIC领域。”潘攻愚分析称。

Meta首席执行官马克·扎克伯格和Alphabet首席执行官桑达尔·皮查伊上周均发表评论称，他们的公司和业内其他公司可能在AI基础设施上投资过度，但他们也承认，不这样做的商业风险太高。一旦落后，将无法掌握未来10到15年最重要的技术。

本文系观察者网独家稿件，未经授权，不得转载。
|

举报
- 违反法律法规
- 垃圾信息、广告
- 色情、淫秽信息
- 人身攻击
- 谣言、不实信息
- 冒充，冒用信息
- 破坏社区秩序
- 其他
- 涉未成年人有害信息
观察者网举报制度规范
确定取消
标签英伟达苹果
- 责任编辑: 李亚丽
- 10分钟涨到1.8元，多地共享单车涨价
  
  2024-07-30 10:07 观网财经-消费
- 吴清主席会见英国驻华大使吴若兰
  
  2024-07-29 21:00 金融观察
- 国产品牌力挺，国产手机OLED面板全球份额超50%
  
  2024-07-29 18:53 观网财经-科创
- 10亿投资台湾，AMD和英伟达贴身肉搏
  
  2024-07-29 18:35 观网财经-科创
- 国家电网投资将首次超过6000亿元特高压建设高景气有望延续
  
  2024-07-29 17:56 能源战略
- 抖音支付等16家机构率先更换“新版”支付牌照
  
  2024-07-29 11:40 观网财经-互联网
- 恒大汽车附属公司被申请破产重整
  
  2024-07-29 08:09 观方车讯
- 全国首例！南京一住宅项目停工两年，官方协调集中退房退首付
  
  2024-07-27 20:49 观网财经-房产
- 广州上半年GDP超1.4万亿元，同比增长2.5%
  
  2024-07-27 20:19
- 中信建投回应实习生事件：系某团队负责人违规引入，已被撤职
  
  2024-07-27 20:15
- 上半年深圳GDP1.73万亿，同比增长5.9%
  
  2024-07-27 17:10
- 华为与联发科互诉，最关心结果的是高通？
  
  2024-07-27 11:01 观网财经-科创
- 香港要做的，是把股民从美股身上抢回来
  
  2024-07-27 10:31
- 困在“调度费”里的新郑机场网约车司机
  
  2024-07-26 21:02
- 中日汇率飙涨，正让美元资产很难受
  
  2024-07-26 18:55 观网财经-金融
- 证监会：研究谋划进一步全面深化资本市场改革开放的一揽子举措
  
  2024-07-26 18:35 金融观察
- 不应泛化新质生产力，什么好东西都往这个“筐”里装
  
  2024-07-26 16:09 2024中国经济季度观察
- 俞敏洪：东方甄选不会再出现某个主播成立独立平台
  
  2024-07-26 16:04
- 财政部：6月份全国共销售彩票559.37亿元，同比增长14.8%
  
  2024-07-26 15:22
- 开启内测！OpenAI的搜索引擎要来了
  
  2024-07-26 11:31 观网财经-科创
搜索

   观察者头条查看全部

“特朗普此举，是怕好莱坞没凉透啊” 评论 52

“这一领域中国正不战而胜，菲律宾也无法说不” 评论 73

特朗普蔫了：俄乌和平协议“也许达不成” 评论 132

涉及对华贸易，纳瓦罗对英国威胁上了评论 148

“气疯了！”美国年轻选民倒戈：为何牺牲我们？评论 204

   风闻 · 24小时最热查看全部

   最新视频查看全部
最新闻 Hot
快讯

苹果在谷歌芯片上训练AI，打响抛弃英伟达GPU第一枪？

10分钟涨到1.8元，多地共享单车涨价

吴清主席会见英国驻华大使吴若兰

国产品牌力挺，国产手机OLED面板全球份额超50%

10亿投资台湾，AMD和英伟达贴身肉搏

国家电网投资将首次超过6000亿元特高压建设高景气有望延续

抖音支付等16家机构率先更换“新版”支付牌照

恒大汽车附属公司被申请破产重整

全国首例！南京一住宅项目停工两年，官方协调集中退房退首付

广州上半年GDP超1.4万亿元，同比增长2.5%

中信建投回应实习生事件：系某团队负责人违规引入，已被撤职

上半年深圳GDP1.73万亿，同比增长5.9%

华为与联发科互诉，最关心结果的是高通？

香港要做的，是把股民从美股身上抢回来

困在“调度费”里的新郑机场网约车司机

中日汇率飙涨，正让美元资产很难受

证监会：研究谋划进一步全面深化资本市场改革开放的一揽子举措

不应泛化新质生产力，什么好东西都往这个“筐”里装

俞敏洪：东方甄选不会再出现某个主播成立独立平台

财政部：6月份全国共销售彩票559.37亿元，同比增长14.8%

开启内测！OpenAI的搜索引擎要来了

“特朗普此举，是怕好莱坞没凉透啊”

“这一领域中国正不战而胜，菲律宾也无法说不”

又作妖，美议员要提案强制英伟达芯片植入定位系统

“普京接受了邀请”

特朗普暗示：他俩可以接班

特朗普蔫了：俄乌和平协议“也许达不成”

威胁美国后又滑跪，日本财长：不抛美债

“气疯了！”美国年轻选民倒戈：为何牺牲我们？

越南工厂恐慌蔓延：客户已开始撤单，等90天有何用？

百日民调创80年最差，万斯：不相信、不在乎

塞尔维亚副总理：武契奇没放弃访俄

美印太司令部司令：中国在这方面超过美国，常常“夜不能寐”

巴菲特罕见警告美元：不会投资“在下地狱”的货币

48%流向美贫困区，“离了这些，我们根本活不起了”

“终于从中国借到了月壤，NASA却…”

阿尔巴尼斯成功连任，“特朗普因素成幕后推手”