英伟达推出2款AI硬件
来源:ictimes 发布时间:1 天前 分享至微信
近日,英伟达在SC24超算大会上震撼发布了两款全新的AI硬件——H200 NVL PCIe GPU和GB200 NVL4超级芯片。
H200 NVL PCIe GPU是英伟达针对数据中心推出的又一力作。这款GPU能够在更小的空间中装入更多的计算能力,从而加速AI和HPC(高性能计算)应用。
与前代产品H100 NVL相比,H200 NVL在性能上有了显著提升。其内存容量提高了1.5倍,带宽增加了1.2倍,这使得大语言模型推理的性能最高可提升1.7倍。
据悉,搭载H200 NVL的平台将于12月开始由NVIDIA的全球系统合作伙伴提供,包括戴尔科技、惠普企业、联想和超微等公司在内的众多厂商都将提供支持H200 NVL的广泛配置。
另一款新品GB200 NVL4则是一款单服务器解决方案,它在单个主板上集成了2个Grace CPU和4个Blackwell GPU。这款超级芯片利用NVLink互连技术实现CPU和GPU的高效通信,同时搭载了768GB的HBM3E和960GB的LPDDR5X内存,提供了高达32TB/s的组合内存带宽。这使得GB200 NVL4能够为要求苛刻的AI工作负载提供强大的动力源。
与上一代产品GH200 NVL4相比,GB200 NVL4在性能上有了显著的提升。它提供了2.2倍的模拟性能、1.8倍的AI训练性能和1.8倍的AI推理性能。
[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论
暂无评论哦,快来评论一下吧!
ictimes
聚焦于半导体行业芯闻
查看更多
相关文章
联想与英伟达联合推出液冷AI服务器,助力高效计算
2024-10-17
消息称联发科与英伟达联手推出3nm AI PC芯片
2024-10-11
英伟达Blackwell AI GPU产量调整与收入展望
2024-09-29
英伟达计划在印度合作开发AI芯片
2024-10-25
热门搜索