AWS在拉斯维加斯推出Trainium2系列服务器，旨在成为最强AI服务器，并分享了芯片设计与封装细节。AWS表示，其Graviton芯片已支持过去两年50%的新增CPU运算。

AWS CEO Matt Garman即将登场，团队在此次技术发表中增加了硬件相关内容，彰显AWS对数据中心相关元件的重视。AWS为了克服AI发展的挑战，宣布推出Trainium2和Trainium2 Ultra服务器。

Trainium2服务器密集算力达20.8 PFLOPS，稀疏算力为83.2 PFLOPS，HBM带宽达每秒46TB。而Trainium2 Ultra服务器密集算力更高达83.2 PFLOPS，稀疏算力为332.8 PFLOPS，HBM带宽达每秒185TB。

Trainium2芯片由亚马逊旗下Annapurna开发，比Trainium1拥有2.2倍多的晶体管，含有2颗运算芯片、4个HBM模块，采用先进封装技术，电压控制器加装在底版部分，提升能源效率。AWS还开发了芯片间互连技术NeuronLink，带宽每秒2TB，延迟度仅1微秒。

AWS运算及网通服务副总监Dave Brown强调，定制芯片是基础设施技术升级的重要基础，Graviton芯片的采用已达到重要里程碑，未来将持续升级技术。