壁仞科技首创异构GPU混训技术
来源:ictimes 发布时间:2024-09-07 分享至微信

在即将启幕的2024全球AI芯片峰会(GACS 2024)上,壁仞科技将震撼发布其自主研发的异构GPU协同训练方案——HGCT,这一创举标志着业界首次实现了3种及以上异构GPU(包括壁仞自家GPU、英伟达GPU及其他国产芯片)共同训练同一大型AI模型的壮举。


壁仞科技以一套统一的解决方案,轻松跨越不同型号、不同厂商GPU之间的鸿沟,实现了一行代码适配多种框架的灵活性与高效性。


尤为引人注目的是,壁仞HGCT不仅打破了异构算力孤岛的限制,更以超过98%的异构协同通信效率和90%~95%的端到端训练效率,重新定义了大模型训练的效率标准。这意味着,在算力需求日益增长的今天,壁仞科技正以前所未有的方式,破解了算力瓶颈的难题。


壁仞科技副总裁、AI软件首席架构师丁云帆指出,面对算力密度激增、规模扩张以及摩尔定律放缓的挑战,壁仞科技从硬件集群算力、软件有效算力、异构聚合算力三个维度入手,通过综合手段全面提升整体芯片算力,以满足国内大模型训练的迫切需求。其软硬一体、全栈优化、异构协同、开源开放的大模型解决方案,已能够实现千亿参数大模型的千卡集群训练,且自动断点续训时间缩短至10分钟以内,确保15天连续训练无中断,4天连续训练无故障。


[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!