NVIDIA Blackwell GPU实测性能惊人
来源:ictimes 发布时间:2024-11-16 分享至微信

近日,来自MLCommons MLPerf v4.1平台的实测数据揭示了Blackwell的真正实力。


在对比测试中,Blackwell与两代服务器HGX B200和HGX H200进行了较量。其中,HGX B200搭载了多达八颗Blackwell GPU B200,每颗功耗高达惊人的1000W。


在GPT-3预训练项目中,Blackwell的表现令人瞩目。与上代Hopper相比,其性能翻了一番。而在Llama 2 700亿参数微调项目中,Blackwell提升幅度高达2.2倍。


除了性能上的提升,Blackwell平台还具备了一系列先进的硬件支持。ConnectX-7 SuperNICs网卡、Quantum-2 InfiniBand交换机以及第五代NVLink互连总线等硬件的加持,使得Blackwell平台在节点间通信、AI训练负载平衡分配等方面表现出色,整体效率更高。


以GPT-3 1750亿参数性能为例,Hopper需要多达256颗GPU才能完成,而Blackwell则仅需64颗。


[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!