Google近日发布了第六代TPU Trillium，并在云端应用开发和基础设施高峰会中介绍了其关键要点。与第五代TPU v5e相比，Trillium在AI训练和推论基准测试中的效能分别提升了3.34~4.19倍和2.90~3.10倍。

Trillium配备了更大的高带宽存储器（HBM）容量和带宽，芯片间互连（ICI）带宽也提高了一倍，同时还引入了第三代SparseCore加速器，用于处理超大嵌体。此外，Trillium的矩阵乘法单元（MXU）大小也有所扩大，运行时脉也有所提高。

Google表示，Trillium的性价比是迄今为止最高的TPU，每美元效能比v5e提高了近1.8倍。Trillium在单一丛集中提供了91 exaflops的运算效能，是上代TPU所能建构的最大丛集的4倍。

此外，Google还公布了AI超级电脑（Hypercomputer）统一架构，将TPU、GPU和CPU等硬件与开源软件无缝整合。客户可以根据业务需求选择固定费用或动态随选模型，满足不同的工作负载需求。

同时，Google还推出了基于NVIDIA H200 Tensor Core GPU的A3 Ultra VM虚拟机器和最新高度可扩展丛集系统Hypercompute Cluster，预计将于12月公布预览版。