苹果AI模型训练采用谷歌TPU,探索Nvidia GPU之外的替代方案
来源:ictimes 发布时间:2024-07-31 分享至微信

苹果公司在其技术论文中透露,其Apple Intelligence AI系统的人工智能模型是在谷歌设计的Tensor Processing Unit(TPU)上进行预训练的,这一决策反映出大型科技公司在AI训练领域正寻求替代Nvidia GPU的新选择。


长期以来,Nvidia的GPU在高端AI训练市场占据主导地位,但由于需求量大,导致采购困难。包括OpenAI、微软和Anthropic在内的多家公司都在使用Nvidia GPU进行模型训练。尽管如此,苹果选择了谷歌的TPU来训练其Apple Foundation Model(AFM),并在云TPU集群上完成计算任务,这一做法在苹果最新发布的47页论文中有所体现。


苹果的这一选择不仅表明了对谷歌TPU技术的认可,同时也显示出公司在AI领域的战略布局。苹果的AFM-on-device在由2048个TPU v5p芯片协同工作的“切片”上训练,而AFM-server则使用了8192个TPU v4芯片。谷歌的TPU作为专为AI设计的成熟定制芯片,其成本效益和性能优势是苹果考虑的因素之一。


此外,尽管谷歌是Nvidia的顶级客户,但在AI系统训练中,谷歌也在自己的TPU上使用Nvidia GPU,同时在云端提供Nvidia技术访问权限。苹果此前曾表示,将部分在其数据中心的自家芯片上进行AI模型的推理工作。


苹果的这一策略调整,以及对AI技术的持续投入,预示着公司在AI领域的未来发展和创新方向。随着AI技术的不断进步,苹果的这一举措也可能对整个AI训练市场产生深远影响。


[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!