Marvell近日宣布,其定制XPU架构将采用共封装光学(CPO)技术。这一创新举措旨在进一步提升AI服务器的性能,满足日益增长的计算需求。通过将CPO技术与Marvell最近推出的定制高带宽内存(HBM)计算架构相结合,Marvell能够帮助客户将其AI服务器的规模从目前使用铜互连的机架内数十个XPU扩展到使用CPO的多个机架中的数百个XPU,从而实现更高的带宽密度和更长距离的XPU到XPU连接,同时保持最佳的延迟和功率效率.
Marvell的定制AI加速器架构利用高速SerDes、芯片到芯片接口和先进封装技术,将XPU计算硅片、HBM和其他芯片与Marvell的3D SiPho引擎整合在同一基板上。这种集成方式使得XPU之间的连接无需电信号离开封装进入铜缆或穿过印刷电路板,从而实现了更快的数据传输速率和比电缆长100倍的距离。这不仅可以在AI服务器内实现跨多个机架的扩展连接,还能够显著降低延迟和功耗。
CPO技术通过将光学元件直接集成在单个封装内,最大限度地缩短了电气路径长度。这种紧密耦合的设计可以显著减少信号损耗,增强高速信号的完整性,并最大限度地减少延迟。此外,CPO利用高带宽硅光子光学引擎来提高数据吞吐量,与传统铜连接相比,硅光子光学引擎能够提供更高的数据传输速率,并且不易受到电磁干扰。这种集成方式还通过减少对高功率电气驱动器、中继器和重定时器的需求,进一步提高了电源效率。
通过实现更长距离和更高密度的XPU到XPU连接,CPO技术为高性能、高容量扩展AI服务器的开发提供了有力支持,优化了下一代加速基础设施的计算性能和功耗。Marvell的这一创新举措将为云超大规模者开发定制XPU提供更大的灵活性和更高的性能,推动AI服务器技术的发展,满足未来对高性能计算的需求。
暂无评论哦,快来评论一下吧!