赛灵思CEO Victor Peng:AI电力挑战与芯片创新
来源:ictimes 发布时间:2024-09-03 分享至微信

Victor Peng,前AMD总裁及赛灵思CEO,于8月30日正式退休前,在Hot Chips论坛警示AI电力需求激增的挑战。他指出,数据中心电力瓶颈限制AI发展,需提升基础设施效能。


Peng认为,摩尔定律依然有效,得益于小芯片架构与先进封装技术,如3D堆叠芯片能显著优化效能功耗比。此外,网络能耗占数据中心总耗电量的20%,扩大网络结构如采用Instinct MI300X GPU,通过Infinity Fabric连接多GPU,可提升效率。


MI300X作为AMD十年AI研发结晶,每颗GPU超1000 TFLOPS性能,结合HBM与运算核心,降低传输能耗,提升能效。Peng还提及AI在客户端与嵌入式设备中的耗电问题,异质运算技术为解决方案之一。


他强调“共同设计”理念,软硬件、算法、模型需协同优化,以实现真正效益。AMD通过收购赛灵思与Pensando,构建CPU、GPU、DPU、FPGA、NPU全产品线,并在移动设备中应用异质运算技术,如Strix Point处理器,高效分配工作负载。


[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!