英伟达二季度 H100 AI GPU 出货量或达 900 吨,我国AI迎发展机会
来源:芯榜发布时间:2023-09-192024浏览
询问 AI
英伟达的H100人工智能显卡销量创历史新高,研究机构Omdia的数据显示,该公司在2023年第二季度出货了900吨H100显卡,这一数字令人惊叹。然而,这份分析报告的计算方式有些奇怪,Omdia并未说明为何选择用“重量”来表示显卡的出货数量。
推测Omdia可能是从某个供应商处获得了运送数据,根据Omdia的估算,一块H100显卡的重量约为3公斤。
值得注意的是,英伟达计划在2024年之前出货150万到200万块人工智能显卡,其中大部分都是备受欢迎的H100显卡。而Omdia的报告显示,该公司正按计划实现这一目标。可以看出,英伟达已经建立了强大的垄断地位,其竞争对手根本无法与其相提并论。
台积电代工每颗芯片能赚近900美元
英伟达H100是一款专为大型语言模型优化的处理器。基于最新的技术,应用专门为Transformer模型设计的芯片架构,使得H100相对于A100训练提速高达9倍,推理速度也将提速高达30倍。
H100 NVL版本采用双GPU结构,显存达到188GB,其中单卡显存94GB,是目前市面上最高配置。在模型训练时,可以进一步提高GPU利用率以及吞吐率,降低训练和推理成本。这一点也是专门针对ChatGPT这种大模型构建,以进一步增强性能,平民化大模型的训练和推理。
华尔街分析师Robert Castellano计算称,台积电每个芯片产生的CoWoS收入为722.85美元。台积电使用5nm制程生产英伟达H100芯片,其每制造一片5nm晶圆可收入1.34万美元,而每片晶圆有86颗H100芯片,每个H100芯片收益为155美元,叠加封装产生的722.85美元,那么台积电为英伟达代工H100时,平均每颗芯片能赚取近900美元。
Dojo 领衔异军突起
AI大模型对训练端的算力提出了更高要求,新兴初创AI 芯片企业(如 Cerebras、Graphcore等),以及芯片行业以外的企业,包括特斯拉(TSLA US)等,正在异军突起,试图在芯片设计上另辟蹊径,通过大尺寸晶圆级芯片内存共享和低延时的技术路线突破AI 芯片瓶颈,试图在持续上升的算力需求中抢占份额。
2021 年 8 月,特斯拉(TSLA US)在 AI Day 里首次介绍 Dojo 超级计算机,一个基于 D1Dojo 芯片的晶圆上(System on Wafer)系统级方案。特斯拉计划利用 Dojo 对海量的视频数据进行无监督学习,加速特斯拉的 Autopilot 和完全自动驾驶(FSD)系统的迭代,同时为特斯拉的人形机器人 Optimus 提供算力支持。
根据特斯拉23Q2 财报发布会和科技媒体 The Verge 于 7 月 20 日报道,特斯拉列出四大全栈自研自动驾驶的科技支柱:超大现实数据、神经网络训练、车载硬件和车载软件。当中,Dojo 超级计算机将提供更快和性价比更高的神经网络训练方案,已在 7 月开始量产。
汽车领域机遇巨大
在近日的新思科技开发者大会上,新思科技总裁Sassine Ghazi谈到,从产业赛道看,五大领域一直引领着科技创新趋势,分别是移动通信与5G、个人电脑与游戏、消费电子、智能驾驶、AI和数据中心。
今年以来AI备受瞩目。谈及AI和数据中心,Sassine Ghazi向记者表示:“AI在效率、用户体验和解决问题方面提供了一个全新的机遇,AI的计算能力每100天就翻一番。大规模数据中心正在运行和升级AI应用,每100天,巨大的需求量就要求计算能力提高一倍,而数据中心是人工智能训练的核心。”
而AI也加速了诸多产业的升级。芯擎科技创始人、董事长兼CEO汪凯在会上谈道,AI和大模型的兴起,催生了多元化的落地场景,其中包括汽车领域。在他看来,真正落地还存在五大挑战,分别是算力的巨大需求、数据量、可靠性、追溯性及合规性,只有通过更前瞻性的创新才能迎来汽车行业的“AI时刻”。
我国存发展机会
凯联资本董事总经理姚宁波表示,A股市场上已经有很多上市公司涉足AI领域,同时其他行业也受到了影响,例如服务器行业。今年以来,这股浪潮也推动了存储和光模块行业的股价大幅上涨。AI在A股市场上已经成为一个重要的热点。
对于中国而言,大部分训练工作实际上都在云端进行。2022年,中国云端AI芯片市场的规模达到91亿美元,到2027年,预计将达到197亿美元。这个规模非常庞大,而且每年的增长率都将超过20%,对于投资者来说,这是一个非常有吸引力的领域。
以寒武纪为例。在2022年3月初,AIGC刚刚推出,寒武纪的股价相对平稳。然而,到了3月中旬,由于各种原因,人们开始认识到寒武纪是中国A股市场上唯一一个可供投资的AI芯片公司,其股价开始急剧上升。2022年4月中旬,GPT-4上市,寒武纪的股价再次暴涨。
接着,到了2022年5月下旬,美国开始讨论禁止销售英伟达的A800芯片,这再次推动了寒武纪的股价。然而,2023年7月,寒武纪的股价开始下滑,这实际上与技术无关,由于大股东开始限制股票交易,解禁了一些股份。因此,在A股市场上,芯片公司的股价受到人工智能发展的巨大影响。
新闻来源:芯榜,文中所述为作者独立观点,不代表icspec立场。更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj。

