富士通推出ACB技术,提升GPU运算效率
来源:ictimes 发布时间:16 小时前 分享至微信
全球GPU供不应求,生成式AI兴起加剧了这一状况。富士通预见到这一趋势,于2024年10月下旬公开了其GPU高效率AI运算中介软件技术ACB。
ACB技术通过新的流程最佳化,最大能让运算效率提高2.25倍,同时处理的数据量从30GB增至150GB。该技术以GPU工作时间排程,减少闲置时间,缩短运算总耗时,并改善系统存储器数据存取流程。
对于缺乏资源进行大规模语言模型研究的企业,ACB技术能够大幅放宽系统存储器总容量及应用效率的瓶颈。Sakura Internet等多家日本企业已参与ACB测试,并为其背书。
富士通预计,到2030年,全球生成式AI服务需求量将达到2023年的20倍。然而,相关运算耗电也将大幅增加。
因此,加速运算及减低耗能的开发成为具有庞大潜在市场的技术。ACB技术的推出,正是富士通在这一领域的积极探索。
[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论
暂无评论哦,快来评论一下吧!
ictimes
聚焦于半导体行业芯闻
查看更多
相关文章
富士通推GPU优化中介软件,提升服务器效率
2024-11-01
富士通与Cohere合作,推出日文生成式AI Takane
2024-10-07
富士通与美超微携手,2027年推出2纳米ARM架构平台
2024-10-07
富士通与美超微合作,开发液冷服务器芯片
2024-10-07
热门搜索