用20块GPU装下整个互联网！本次GTC大会，黄仁勋继续大秀「AI肌肉」

老黄：不装了，我就是AI。

作者 | 来自镁客星球的家衡

就在今天凌晨，英伟达CEO黄仁勋带来了名为“I AM AI”的GTC 2022线上主题演讲！

即便告别了我们熟悉的厨房，但黄仁勋照样能给我们端上多道“硬核大菜”。

先是搭载全新Hopper架构的H100 GPU，接着是Grace超级芯片，然后依次谈到了机器人、自动汽车以及其他软件更新。

总的来看，英伟达再度将GPU的算力推向了极致，借此加强自身在AI、汽车等领域的实力。同时，英伟达已经为下一波AI浪潮以及无限幻想的元宇宙做好了准备。

800亿晶体管的“算力怪兽”

作为AI算力的保障，以及英伟达的“老本行”，全新GPU自然是GTC 2022最值得关注的新品。

这次带来的新品是H100 GPU，该芯片由800亿个晶体管构建而成，采用了专为英伟达加速计算需求而优化的TSMC 4N工艺，单个H100最大支持40TB/s的IO带宽。

用黄仁勋的话来说：20块H100 GPU就可承托全球互联网的流量。这足以看出这块芯片的恐怖算力。

H100同时还集多个首个于一身，包括首款支持PCIe 5.0的GPU，首款采用HBM3标准的GPU，以及全球首款具有机密计算功能的GPU。

相比于上一代Ampere架构的A100，H100带来了6项突破性的创新：

1、目前世界最先进的芯片。

2、搭载最新Transformer引擎，速度提升至上一代的6倍。

3、第二代安全多实例，可以同时处理不同类型的任务。

4、具备机密计算功能，此前隐私计算只能在CPU上实现，但H100成为第一个实现该功能的GPU，可以保护AI模型和正在处理的客户数据。

5、支持第4代NVLink，每个NVLink Switch网络最多可以连接多达256个H100，相较于上一代产品，带宽高出9倍。

6、Hooper架构引入了名为DPX的新指令集，可加速动态规划，算法速度有了显著提升。

在H100的帮助下，研究人员和开发者可以训练庞大的模型。比如包含3950亿个参数的混合专家模型，训练速度加速高达9倍，训练时间从几周缩短到几天。

值得一提的是，黄仁勋并没有过多介绍Hopper架构。该架构以美国计算机领域的先驱科学家Grace Hopper 的名字命名，被单独用作计算加速使用，而未来推出的RTX 40系列显卡使用的GPU将基于Ada Lovelace架构。

虽然此次公布的H100与此前的爆料略有缩水，但不妨碍其成为超算界最强引擎，这也称得上英伟达进一步扩大在AI计算领域领导力的体现。

世界上最快的AI超级计算机

借助DFX POD架构与NVLink连接，8块H100构成了一个巨型AI系统——NVIDIA DGX H100。该系统可以满足大型语言模型、推荐系统、医疗健康研究和气候科学的大规模计算需求。

你以为这个系统已经很强大了？

基于DGX H100，英伟达推出全球运行速度最快的AI超级计算机——NVIDIA EOS。

该超级电脑共配备576台DGX H100系统，共计4608块DGX H100 GPU，显存带宽高达768TB/s，有望成为全球运行速度最快的 AI 系统。而整个互联网带宽不过只有100TB/s。

据悉，NVIDIA EOS预计将提供18.4 Exaflops的AI计算性能，这比目前运行速度最快的日本Fugaku超级计算机还快4倍。

为了将数量庞大的H100连接起来，英伟达还推出了NVLink Switch网络系统和更强的DFX superPOD架构，这样就可以连接32个结点、256个H100 GPU。你可以想象成一个“加强版”的DGX H100系统。

黄仁勋表示：“对于英伟达的OEM和云计算合作伙伴来说，EOS将成为先进AI基础设施的蓝图。”

未来，该系统可以为汽车、医疗健康、制造、通信、零售等行业提供开发大型模型所需的AI性能。

最强大的AI专属CPU

在去年GTC大会上，英伟达透露了首款数据中心专属CPU Grace，而在今年，这款面向AI基础设施和高性能计算的超级CPU正式亮相。

这次的Grace有两个版本，第一个版本叫做Grace-Hopper，是“CPU+GPU”结合体，使用NVLink连接，带宽高达900GB/s。

而名为“Grace CPU超级芯片”的版本则由两个CPU芯片封装组成，它们之间通过NVLink-C2C连接。整个超级芯片总计144个CPU内核（基于ARMv9指令集），缓存容量396MB，支持LPDDR5X ECC内存，带宽高达1TB/s。

性能方面，Grace CPU 超级芯片的SPECint 2017得分为业内领先的740分，黄仁勋表示这个性能没有什么产品可与之媲美，称赞为“最强大的CPU”。

据悉，借助带有纠错码的LPDDR5x内存组成的子系统，Grace CPU 超级芯片可以实现速度与功耗的最佳平衡，带宽高达1TB/s，整体功耗仅500W。

有趣的是，这套芯片系统展示了NVLink-C2C的强大扩展性，加之英伟达早些时候发布的UCIe标准（通用小芯片互连传输通道），未来用户采用英伟达产品时，可以像搭积木一样灵活选择CPU和GPU的组合。

One More Thing

· Omniverse平台

在去年CTC大会上，黄仁勋就重点介绍了Omniverse平台。该平台为3D设计师提供了一个共享的虚拟世界，他们可以从不同的软件应用程序和不同的地理位置进行协作。

今年，英伟达专注于让个人和企业更广泛地使用Omniverse平台。新的Omniverse Cloud使创作者能够即时访问Omniverse，即使他们没有基于Nvidia RTX的系统。同时推出的Omniverse OVX则是一个旨在满足大规模仿真需求的计算系统。

· 自动驾驶汽车

作为英伟达在AI领域的重要探索，汽车产品线将在未来六年内增加至超过110亿美元。

本次，英伟达推出了最新版本的Hyperion 9自动驾驶平台，这既是Nvidia DRIVE Orin平台的基本架构，也是英伟达用于自动驾驶汽车的硬件架构。据悉，该平台将有14个摄像头、9个雷达、3个激光雷达和20个超声传感器，将于2026年投入使用。

有趣的是，黄仁勋透露了已经采用DRIVE Orin平台的厂商，其中，中国厂商占据了不少席位，而比亚迪也将从2023年上半年开始采用DRIVE Orin平台。

结语

除了上述更新外，英伟达还推出了机器人平台、AI计算基础架构、医疗仪器平台以及六款使用Ampere架构的全新RTX GPU，产品线可谓十分丰富，这里就不再过多介绍。

总的来看，英伟达一直在紧跟两条主线前行，一条是AI，另一条则是Omniverse平台。

虽然这次黄仁勋并没有直接点名元宇宙，但无处不在的TJ（黄仁勋数字替身）还是展示出英伟达对于元宇宙的重视程度。

希望在未来的GTC大会上，黄仁勋能给我们带来属于元宇宙的“核弹”。