英伟达六大客户，自研AI芯片

内容来自周刊王，谢谢。

据科技媒体The Information昨天（7日）引述知情人士消息报导，微软、OpenAI、特斯拉、谷歌、亚马逊、Meta这六大科技公司正在研发自家的AI芯片，预计会与英伟达（Nvidia）的旗舰级微处理器H100 GPU竞争，且可能有助于降低成本及减少对英伟达AI芯片的依赖。

英伟达如今已是当之无愧的「AI算力王者」，A100/H100系列芯片占据金字塔顶部的位置，但用户面对英伟达的独霸天下，吃尽了成本高昂的苦头。据华尔街投行伯恩斯坦（Bernstein）的分析，ChatGPT单次查询的成本约4美分（约新台币1.2元），若要将搜寻量增长到谷歌的十分之一，每年将耗费约481亿美元的GPU，以及约160亿美元的芯片来维持运行。所以无论是为了降低成本，还是减少对英伟达的依赖、提高议价能力，科技巨头们都纷纷下场自研AI芯片。

微软计划在下个月的年度开发者大会上，推出该公司首款为人工智慧（AI）设计的芯片。事实上，The Information曾报导过，微软自2019年以来就一直在开发一款代号雅典娜（Athena）的专用芯片，用于为大型语言模型提供动力。该芯片将由台积电代工，采用5nm先进制程，计划最早于明年推出。

有分析师表示，开发类似于雅典娜的芯片可能每年需花费约1亿美元，ChatGPT每天的营运成本约70万美元，大部分来源于昂贵的服务器，如果雅典娜芯片与英伟达的产品拥有同等竞争力，每个芯片的成本将可以降低三分之一。

OpenAI也正在探索制造自研人工智能芯片，并已开始评估潜在的收购目标。报导称，至少从去年开始，OpenAI就已讨论各种方案，以解决AI芯片短缺问题。OpenAI已与包括英伟达在内的其他芯片制造商更密切地合作，以及在英伟达之外实现供应商多元化。

电车大厂特斯拉则立足于智能驾驶，目前已经推出了两种自研芯片，分别为全自动驾驶（FSD）和Dojo D1芯片。FSD芯片用于特斯拉汽车上的自动驾驶系统；Dojo D1芯片则用于特斯拉超级计算机Dojo片，它是一种通用的CPU，目的是为了加速特斯拉自动驾驶系统的训练和改进。

谷歌也早在2013年，就已秘密研发一款专注于AI机器学习算法的芯片，并将其用在内部的云端计算数据中心中，以取代英伟达的GPU。这款自研芯片「TPU」于2016年公诸于世，可以为深度学习模型执行大规模矩阵运算，例如用于自然语言处理、计算机视觉和推荐系统的模型。谷歌实际上2020年便已在其数据中心部署了AI芯片TPU v4。不过直到今年4月才首次公开了技术细节。

亚马逊从2013年推出首颗Nitro1芯片至今，AWS是最先涉足自研芯片的云端厂商，已拥有网路芯片、伺服器芯片、人工智慧机器学习自研芯片3条产品线。AWS自研AI芯片版图包括推理芯片Inferentia和训练芯片Trainium。2023年初，专为人工智慧打造的Inferentia 2（Inf2）发布，将计算性能提高了三倍，加速器总内存提高了四分之一，可通过芯片间的直接超高速连接支持分布式推理，最多可支持1750亿个参数，这使其成为大规模模型推理的有力竞争者。

Meta直到2022年，还主要使用CPU和专为加速AI算法而设计的订制芯片组合来运行其AI工作负载，但CPU的效率往往不如GPU。后来Meta取消了于2022年大规模推出订制芯片的计划，转而订购了价值数十亿美元的英伟达GPU。为扭转局面，Meta已经在开发内部芯片，并于5月19日公布了AI训练与推理芯片项目。据介绍，该芯片的功耗仅为25瓦，占英伟达等市场领先供应商芯片功耗的一小部分，并使用了RISC-V（第五代精简指令处理器）开源架构。