AI算力近况（英伟达）
来源:半导体风向标发布时间:2023-02-231485浏览
询问 AI
公司近况
QA
Q:软件和云战略的货币化效应是当下的焦点，企业人工智能软件套件每个CPU插座的价格大约是6000美元。公司云消费模式的定价指标要高一点。如何开始考虑未来几个季度货币化对公司业务模式的贡献？在过去，公司已经谈到了几个亿左右的货币化？
A:这也是我们关于GTC的讨论。我们在软件方面的计划继续看到增长，即使在Q4，公司在与合作伙伴合作，新增更多合作伙伴和增加软件销售方面都取得了相当好的进展。就我们的软件水平而言，第四季度可能是一个创纪录的水平。
NVIDIA AI本质上是当今AI系统的操作系统。它从数据处理开始，到学习、训练，到验证，到推理。因此，这个软件体是完全加速的。我们今天宣布将英伟达的基础设施，并让它从世界领先的云服务提供商内部托管，加速了企业利用英伟达AI企业的能力。通过在云中托管一切，我们可以加速生成性人工智能在企业中的应用。我们相信它将加速软件的采用。
A:我们预计数据中心将实现强劲的连续增长以及会有一个同比的增长，预期数据中心的同比增长可能在第一季度加速。
Q:生成式人工智能的计算强度，如果非常高，它是否将市场规模限制在少数几个超大规模的公司？而在另一个极端，如果市场变得非常大，那么它是否会吸引来自云ASIC或市场上其他加速器选项的NVIDIA的更多竞争？
A:一方面，通过将英伟达DGX超级计算机与英伟达DGX云放在一起，我们将使这一基础设施的使用民主化，并通过加速培训能力，真正使这一技术和能力变得相当容易获得。另一方面，世界上最有价值的数据是专有的，它在公司内部。这些数据也将首次被用来训练新的人工智能模型。我们的战略和目标是将DGX基础设施放在云中，这样我们就可以向每个企业、世界上每个想创建专有数据和专有模型的公司提供这种能力。
我们已经有很长一段时间的竞争了。我认为我们的计算 -- 加速计算平台的普遍性，我们在每个云中的事实，我们从云到边缘的事实，使我们的架构很容易获得，并以这种方式不同于其他计算。最重要的是，对所有的服务提供商来说，高利用率以及好的吞吐量使我们的架构运营成本最低。
Q:你谈到ChatGPT是一个拐点，有点像iPhone。在ChatGPT之后，你与超大规模和大规模企业的对话是如何演变的？其次，当你考虑到具有变革性引擎的Hopper和具有高带宽内存的Grace时，你对这两个产品周期的增长前景在过去几个月中是如何演变的？
A:ChatGPT是一个美妙的作品，人们感到惊讶的是，一个单一的人工智能模型的令人惊讶的能力，可以执行它从未被训练过的任务和技能。这种新的计算机在其应用中是完全革命性的.它使这么多人的编程变得民主化，真的让全世界的企业感到兴奋。这是一个人工智能模型，可以为任何程序编写程序。因为这个原因，每个开发软件的人要么被提醒，要么积极地研究像ChatGPT这样的东西，以整合到他们的应用程序或整合到他们的服务中。因此，正如你可以想象的那样，这完全是世界性的变革。在过去的60天里，围绕着我们建立Hopper的人工智能基础设施以及使用Hopper和Ampere来推断大型语言模型的推断活动，已经突破了屋顶，在过去的60或90天里，已经发生了相当大的变化。
Q:我想问几个关于DGX云的问题。我们都在谈论服务的驱动力，以及你将在这些服务之上用不同的超大规模主机进行计算。但我认为我们一直在观察和思考，你的数据中心业务何时可能过渡到更多的系统级业务?这意味着将InfiniBand与你的Hopper产品和Grace产品配对，并更多地在系统级上销售东西。如果能退一步，在未来2或3年内，你认为数据中心领域的业务组合如何从销售卡演变到系统和软件？随着时间的推移，这对该业务的利润率意味着什么？
A:首先，我们的数据中心业务只是在概念上的GPU业务，因为我们实际出售给云服务提供商的是一个面板，一个由8个Hoppers或8个Amperes组成的相当大的计算面板。这个板子基本上代表了1个GPU，由8个芯片连接而成，具有非常高速的芯片间互连。我们已经在多芯片计算机上工作了相当长的一段时间。因此，当我们想到一个GPU时，我们实际上想到的是HGX GPU，也就是8个GPU。云服务提供商真正感到兴奋的是通过托管我们的基础设施为英伟达提供服务，因为我们直接与世界各地的10,000家人工智能初创企业合作，与每个行业的企业合作。今天，所有的关系我们都非常希望能够至少部署到云中和内部，以及经常部署到多云中。
通过让NVIDIA DGX和NVIDIA的基础设施在他们的云中实现全堆栈，我们正在有效地将客户吸引到CSP。对于客户来说，他们有一个从基础设施到加速软件、英伟达AI开放操作系统，一直到AI模型都非常优秀的团队。在1个实体内，他们可以获得整个跨度的专业知识。尽管我们将继续推进DGX人工智能超级计算机，但在内部建立人工智能超级计算机确实需要时间。
Q:这一切对你的TAM有什么影响?有公司在视频和音乐上做了很多培训, 他们正在研究这些模型。看起来增量TAM很容易达到几十万个GPU，而且很容易达到几百亿美元的规模。我想知道这对你去年给出的TAM数字有什么影响? 我想你说过3000亿美元的硬件TAM和3000亿美元的软件TAM。你是如何看待新的TAM的呢？
A:我认为这些数字仍然是非常好的锚。不同的是，由于生成性人工智能令人难以置信的能力和多功能性，以及去年年中和年末发生的所有融合性突破，我们可能会尽早达到这个TAM。毫无疑问，这对计算机行业来说是一个非常重要的时刻。在任何计算时代，1个计算平台ChatGPT在60、90天内达到1.5亿人都是令人惊讶的。人们正在用它来创造各种各样的东西。因此，我认为这是一个新的计算时代，TAM的今天会比以前更快更容易的实现。
Q:你说H-100的收入比A-100高。这是一个总体声明吗？还是在同一时间点，如两个季度的出货量之后？
A:我们早在第三季度就开始了H-100的初步出货。很多人在许多季度前就开始了这个过程，而这是我们在第三季度向他们提供生产水平的一个时间。因为看到了H-100的巨大升温, 这意味着H-100是我们许多CSP在第四季度的重点。他们都想在云实例中得到启动和运行。因此，我们实际上在第四季度看到的A100的数量少于我们在H-100中看到的数量。我们倾向于继续销售这两种架构，第四季度会很强劲。
Q:我想问的是汽车，特别是奔驰的机会。奔驰今天有一个活动，他们正在谈论他们的MB Drive的软件收入，到十年中期可能是个位数或低十亿欧元，到十年末是十亿欧元。据说你们是将软件收入对半分。这是否就是你们所考虑的梅赛德斯交易的软件收入的数量级，以及在那个类似的时间框架内？我们应该这样建模吗？
A:他们确实谈到了软件的机会。他们分两个阶段谈到了他们的软件机会，关于他们可以用Drive做什么，以及他们也可以用Connect做什么。他们延伸到了大概10年的位置，看着他们在我们面前看到的机会。因此，这与我们的想法是一致的，即作为一个长期的合作伙伴，随着时间的推移分享收入。
我想说说梅赛德斯正在做的事情的智慧。从入门级一直到最高端的豪华车，每一辆车安装了丰富的传感器组及人工智能超级计算机。这样，奔驰车队未来的每一辆车都将有助于建立一个可升级的安装基地，并为客户永远更新。庞大的豪华汽车安装基地将继续更新，为客户带来好处，也为创收带来好处。
Q:似乎每年都有新的工作量出现，推动对你们流程或生态系统周期的需求。回想一下面部识别，然后是推荐引擎、自然语言处理、Omniverse和现在的生成性人工智能引擎，你能和我们分享你的观点吗？这就是我们应该期待的未来，就像一个全新的工作负载，推动对你的产品的需求达到新的水平？如果你正在研究新的工作负载或新的应用程序，可以推动下一个层次的需求，你是否愿意与我们分享一下你认为什么可以推动它超过你今天看到的情况？
A:新应用和从未分享过的新工作负载我希望在GTC上与你们分享更多细节。现在不断听到新的应用是有原因的。
第一，英伟达是一个多领域的加速计算平台。它不像CPU那样完全是通用的，因为CPU是98%的控制功能，只有2%的数学，这使得它完全灵活。而我们是一个加速计算平台，与CPU一起工作，卸载真正沉重的计算单元。
第二，我们的安装基础很大。这是唯一的加速计算平台，唯一一个在架构上与每一个云计算兼容的平台。每一台电脑都是架构兼容意味着一个开发了特殊东西的开发者会由于喜欢这种影响力而寻求我们的平台。
最后很重要的一点是，CPU计算进步的速度已经大大放缓。通过加速，我们可以减少你在任何工作负载中使用的电量。因此，所有这些众多的原因真正促使了人们使用加速计算，而且使我们不断发现新的令人兴奋的应用。
Q:数据中心的问题：可以看到一月份的建设计划有些疲软，但在四月份和全年都有同比加速的指引。这是否基于你的H-100加速或生成性人工智能的销售或新的人工智能服务模式？还有，你是否能谈谈你在企业垂直领域看到的情况？
A:我们将在第一季度连续增长，并期望在第一季度也有同比增长。我们看到的驱动因素是什么？我想是因为我们有多个产品周期进入市场。现在有H-100进入市场，同时我们正在继续推出新的产品。这些产品有时是由我们的GPU计算和网络来推动的。我们有可能在今年下半年推出一些产品。此外，生成性人工智能已经在我们的客户中引发了兴趣，无论是CSP还是企业。我们预计这将是我们今年收入增长的一部分。最后，让我们不要忘记，鉴于摩尔定律的结束，这里有一个错误，即专注于人工智能，专注于加速的继续。随着经济的改善，这对企业来说可能是非常重要的，它可以通过企业的云第一的存在来推动。
Q:你谈到了在过去十年里，你训练这些模型的能力有了100万倍的提高。你能不能给我们一些见解，让我们了解一下未来几年的情况，以及一些拥有这些大型语言模型的客户在相应几年内谈论100倍的复杂性。你能做什么来扩大这个规模？这其中有多少只是反映了它将是一个更大的硬件支出？
A:第一，我相信人工智能基础设施的数量将在全球范围内增长。在未来，人工智能，智能的生产，将同样存在制造业。几乎每个公司都会制造软商品。它恰好是以智能的形式出现。我期望看到世界各地的人工智能工厂。其中一些将被托管在云中或是内部；可能规模也有所不同。
第二，在未来10年中，我希望通过新的芯片、互连、系统、操作系统、新的分布式计算算法和新的人工智能算法，以及与开发人员合作提出新的模型。我相信我们将把人工智能再加速100万倍。我期待在未来十年人工智能模型在下一个公司、人工智能平台上的真正巨大突破。但同时，由于这种难以置信的增长和采用，你会看到这些人工智能工厂无处不在。
固定布局
工具条上设置固定宽高
背景可以设置被包含
可以完美对齐背景图和文字
以及制作自己的模板
分析师：陈杭
联系人：安子超 18611396466
来源：浙商证券新科技研究团队
本文来自NVIDIA Corporation公开纪要，欲了解具体内容，请查阅公司官网IR栏目原文。
往期报告回顾
点击报告标题直达↓
AIGC算力时代系列研究
（滑动查看历史报告）
华为产业链深度系列研究
◇浙商看牛市||“大有可为”大蓝筹第3弹：江淮汽车（600418.SH）
（滑动查看历史报告）
半导体设备系列研究
（滑动查看历史报告）
固定布局
工具条上设置固定宽高
背景可以设置被包含
可以完美对齐背景图和文字
以及制作自己的模板
新闻来源：半导体风向标，文中所述为作者独立观点，不代表icspec立场。更多精彩资讯请下载icspec App。如对本稿件有异议，请联系微信客服specltkj。
