xAI选用NVIDIA Spectrum-X,加速AI超级电脑Colossus
来源:ictimes 发布时间:2024-11-06 分享至微信
xAI,由Elon Musk于2023年创立,为其AI训练丛集Colossus选用了NVIDIA的Spectrum-X Ethernet以太网络连线技术,而非传统的InfiniBand。这一选择旨在解决以太网络延迟问题,为Colossus提供更优异的效能。
此前,AI丛集大多采用NVIDIA的InfiniBand连线技术,因其能有效降低封包遗失,提高训练大型语言模型的效率。然而,以太网络具备交叉兼容性、供应商选择多等优势,仍具吸引力。
NVIDIA因此推出了Spectrum-X Ethernet,通过高速封包重新排序、进阶壅塞控制和可程序化输入/输出路径,改善以太网络在应用上的瓶颈。
Colossus采用了51.2Tbps的Spectrum SN5600,将64个800GbE连接埠紧凑地设计在2U外型尺寸中。每个节点则通过BlueField-3 SuperNIC以400GbE单一线路连接,实现了高效的数据传输。
相比传统以太网络,Spectrum-X Ethernet在整个三层网络架构中,避免了应用程序延迟和因流量碰撞造成的封包遗失,数据吞吐量高达95%。
NVIDIA的这一创新不仅推动了xAI的Colossus项目建设,也为AI超级电脑的发展带来了新的突破。同时,博通、超微等企业也在积极改良以太网络连线技术,竞争日益激烈。
[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论
暂无评论哦,快来评论一下吧!
ictimes
聚焦于半导体行业芯闻
查看更多
相关文章
富士康携手NVIDIA,打造中国台湾最快AI超级电脑
2024-10-31
微星加速AI服务器布局,与NVIDIA深度合作
2024-10-17
Sakura Internet追加NVIDIA GPU采购,加速生成式AI布局
2024-10-06
北美电子与工业电脑展,新汉发布AI运算平台AI-X
2024-10-28
热门搜索