xAI选用NVIDIA Spectrum-X,加速AI超级电脑Colossus
来源:ictimes 发布时间:2024-11-06 分享至微信
xAI,由Elon Musk于2023年创立,为其AI训练丛集Colossus选用了NVIDIA的Spectrum-X Ethernet以太网络连线技术,而非传统的InfiniBand。这一选择旨在解决以太网络延迟问题,为Colossus提供更优异的效能。
此前,AI丛集大多采用NVIDIA的InfiniBand连线技术,因其能有效降低封包遗失,提高训练大型语言模型的效率。然而,以太网络具备交叉兼容性、供应商选择多等优势,仍具吸引力。
NVIDIA因此推出了Spectrum-X Ethernet,通过高速封包重新排序、进阶壅塞控制和可程序化输入/输出路径,改善以太网络在应用上的瓶颈。
Colossus采用了51.2Tbps的Spectrum SN5600,将64个800GbE连接埠紧凑地设计在2U外型尺寸中。每个节点则通过BlueField-3 SuperNIC以400GbE单一线路连接,实现了高效的数据传输。
相比传统以太网络,Spectrum-X Ethernet在整个三层网络架构中,避免了应用程序延迟和因流量碰撞造成的封包遗失,数据吞吐量高达95%。
NVIDIA的这一创新不仅推动了xAI的Colossus项目建设,也为AI超级电脑的发展带来了新的突破。同时,博通、超微等企业也在积极改良以太网络连线技术,竞争日益激烈。
[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论
暂无评论哦,快来评论一下吧!
ictimes
聚焦于半导体行业芯闻
查看更多
相关文章
xAI筹资60亿美金采购10万NVIDIA芯片,将用于xAI超级电脑
2024-11-19
戴尔助力xAI超级电脑扩建,数万GPU已部署
2024-12-08
富士康携手NVIDIA,打造中国台湾最快AI超级电脑
2024-10-31
软银将率先采用NVIDIA Blackwell,打造日本顶尖AI超级电脑
2024-11-14
热门搜索