英伟达推出2款AI硬件
来源:ictimes 发布时间:2024-11-21 分享至微信

近日,英伟达在SC24超算大会上震撼发布了两款全新的AI硬件——H200 NVL PCIe GPU和GB200 NVL4超级芯片。


H200 NVL PCIe GPU是英伟达针对数据中心推出的又一力作。这款GPU能够在更小的空间中装入更多的计算能力,从而加速AI和HPC(高性能计算)应用。


与前代产品H100 NVL相比,H200 NVL在性能上有了显著提升。其内存容量提高了1.5倍,带宽增加了1.2倍,这使得大语言模型推理的性能最高可提升1.7倍。


据悉,搭载H200 NVL的平台将于12月开始由NVIDIA的全球系统合作伙伴提供,包括戴尔科技、惠普企业、联想和超微等公司在内的众多厂商都将提供支持H200 NVL的广泛配置。


另一款新品GB200 NVL4则是一款单服务器解决方案,它在单个主板上集成了2个Grace CPU和4个Blackwell GPU。这款超级芯片利用NVLink互连技术实现CPU和GPU的高效通信,同时搭载了768GB的HBM3E和960GB的LPDDR5X内存,提供了高达32TB/s的组合内存带宽。这使得GB200 NVL4能够为要求苛刻的AI工作负载提供强大的动力源。


与上一代产品GH200 NVL4相比,GB200 NVL4在性能上有了显著的提升。它提供了2.2倍的模拟性能、1.8倍的AI训练性能和1.8倍的AI推理性能。

[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!