超微（AMD）最新公布了其Instinct MI300X加速器在MLPerf基准测试中的表现，针对70亿参数的Llama 2模型，其效能与NVIDIA H100 GPU相当，但稍逊于H200改良版。

MI300X系统离线处理能力达每秒23,512个Token，与8颗H100 SXM3系统相近，差异或归因于NVIDIA的软件优化。

在实际服务器测试中，MI300X略胜一筹，每秒处理21,028个Token，而H100为20,605个。尽管MI300X在存储容量和带宽上拥有显著优势，分别为192GB HBM3和每秒5.3TB带宽，但在基准测试中并未全面超越H100。

市场推测，软件优化不足可能是超微延迟公布测试结果的原因。NVIDIA自MLPerf 0.7起便积极参与测试，而超微此次公布结果，似在宣示MI300X已准备好与H100正面竞争。

值得注意的是，此次公布的仅为LLama 2模型测试，MLPerf 4.1包含九项标准化基准测试，市场期待超微能全面展示MI300X的性能实力。