IBM宣布CPO技术突破:以光速加速AI训练
来源:ictimes 发布时间:2024-12-13 分享至微信
近日,IBM推出了一种新型的共封装光学技术(CPO),该技术能够利用光速在数据中心内部实现高速连接,从而替代传统的铜电缆。这一创新技术不仅提高了数据中心的通信带宽,还显著减少了GPU加速器的闲置时间,加速了AI模型的训练速度,并大幅节省了能源。
IBM发布的技术论文详细阐述了CPO技术的原理和应用。尽管光纤技术已在全球商业和通信领域广泛应用,但大多数数据中心内部仍依赖铜电缆进行短距离通讯。这导致了GPU加速器在训练AI模型时的闲置和能源浪费。而CPO技术的引入,则解决了这一问题,使得数据中心内部的通信更加高效。
IBM高级副总裁兼研究总监Dario Gil表示,由于生成式AI对能源和处理能力的需求不断增加,数据中心必须不断发展以适应这一趋势。CPO技术的突破,使得未来的芯片能够像光纤电缆一样进行数据传输,开启了一个更快、更可持续的通信新时代,能够处理未来的AI工作负载。
据IBM计算,CPO技术的应用将使大型语言模型(LLM)的训练时间从三个月缩短到三周,同时降低能源使用量,减少与训练LLM相关的成本。换算成发电量,训练AI模型时节省的能源相当于5000个美国家庭的年度能源使用量。
[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论
暂无评论哦,快来评论一下吧!
ictimes
聚焦于半导体行业芯闻
查看更多
相关文章
零一万物李开复:以低成本训练高性能AI模型
2024-11-18
苹果携手亚马逊AI芯片,加速AI模型训练与搜索服务效率
2024-12-05
慧荣科技突破储存技术瓶颈,加速AI应用发展
2024-12-13
讯芯投资8000万美元扩建越南芯片厂,加速CPO元件生产
2024-11-05
AI推论新竞争:Sagence AI以类比技术革新芯片
2024-12-06
热门搜索