富士通推出ACB技术,提升GPU运算效率
来源:ictimes 发布时间:2024-11-14 分享至微信

全球GPU供不应求,生成式AI兴起加剧了这一状况。富士通预见到这一趋势,于2024年10月下旬公开了其GPU高效率AI运算中介软件技术ACB。


ACB技术通过新的流程最佳化,最大能让运算效率提高2.25倍,同时处理的数据量从30GB增至150GB。该技术以GPU工作时间排程,减少闲置时间,缩短运算总耗时,并改善系统存储器数据存取流程。


对于缺乏资源进行大规模语言模型研究的企业,ACB技术能够大幅放宽系统存储器总容量及应用效率的瓶颈。Sakura Internet等多家日本企业已参与ACB测试,并为其背书。


富士通预计,到2030年,全球生成式AI服务需求量将达到2023年的20倍。然而,相关运算耗电也将大幅增加。


因此,加速运算及减低耗能的开发成为具有庞大潜在市场的技术。ACB技术的推出,正是富士通在这一领域的积极探索。

[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!