比H100 更强! 英伟达最强 AI 芯片 GH200 是什么? 惊人跑分曝光!
来源:eetop 发布时间:2023-10-04 分享至微信

来源:动区动趋(台)


生成式AI运算需求不断增长,助推GPU大厂英伟达(NVIDIA)股价大涨再创新高。8 月中 NVIDIA 首席执行官黄仁勋展览时再次力推 DGX GH200,是采 Grace Hopper 加速计算卡打造的新世代生成式 AI 超级芯片,也是 NVIDIA 首款 Exaflop 等级的 DGX 超级计算机产品。


性能辗压H100 17%


根据9月11日跑分数据,NVIDIA宣布旗下GH200、H100、L4 GPU与Jetson Orin同类产品都获得领先表现。


GH200 首次提交单一芯片,与单张 H100 配合英特尔 CPU 比较后,GH200 组合各测试都至少有 15% 左右提升。NVIDIA 人工智能总监 Dave Salvator 新闻发布会表示:


Grace Hopper 首次表现非常强劲,与提交 H100 GPU 相比,性能提高 17%,而我们已全面领先。


image.png


NVIDIA GH200 各方面辗压 H100


GH200 是什么?


官方说明,NVIDIA GH200 是首个将 H100 GPU 和 Grace CPU 整合在一起的超级芯片,这两者之间再通过带宽高达 900GB/s 的 NVLink-C2C 连互连接,扩展性更佳,以超快速度训练深度学习


简单来说GH200就是内存容量更大,带宽也更大,并且能自动调节CPUGPU之间的能耗,增加整体性能表现。


图片


NVIDIA GH200 Grace Hopper 超级芯片的架构


NVIDIA 表示 GH200 有三大特点:


  • 适用大型模型的庞大内存:为开发人员提供超过500倍存储器打造大型模型。

  • 超节能运算:带宽提升7倍,互连功耗降低逾5倍。

  • 已整合且立即执行:数周内即可打造大型模型。




图片



多数选手性能比上一代提升至 20%


5月 COMPUTEX期间,NVIDIA CEO黄仁勋提到GH200芯片预定2024年第二季量产。MLPerf v3.1基准测试超过13,500个结果,不少提交者性能比3.0基准提高20%以上。


MLPerf是让客户评估AI芯片效能的常用工具。


其他提交者有华硕、Azure、Connect Tech、DELL、富士通、Giga Computing、Google、H3C、HPE、IEI、英特尔英特尔Habana Labs、Nutanix、甲骨文、高通、Quanta Cloud Technology、SiMA、Supermicro、TTA和xFusion等。




[ 新闻来源:eetop,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!