存储器大厂美光近日宣布，其HBM3E 12H 36GB和SOCAMM存储器产品已正式量产出货，并分别整合至NVIDIA HGX B300 NVL16与GB300 NVL72平台。据美光透露，这两款存储器专为数据中心AI服务器设计，分别针对GPU和CPU的数据处理需求提供优化解决方案。
SOCAMM存储器模块基于模块化LPDDR5X存储器设计，主要服务于CPU部分的数据存取需求，支持更大存储容量。而HBM3E高带宽存储器则专为GPU处理数据使用，具备更高的存储容量和更低的功耗表现。美光成为全球首家同时出货这两款产品的存储器厂商。
美光副总裁Praveen Vaidyanathan表示，GPU性能每两年增长3倍，而存储器扩展效能仅提升1.6倍，这种差距形成了所谓的“存储器墙”。为满足日益增长的AI模型需求，美光通过芯片和先进封装技术的创新，持续推动存储器性能提升。
SOCAMM模块与NVIDIA合作开发，具备传输速度快、体积小、功耗低和容量高等特点。例如，其数据传输带宽比传统RDIMM存储器高出2.5倍，同时支持4组16层LPDDR5X存储器堆叠，最高容量可达128GB。而HBM3E 12H 36GB在相同体积下提供更高容量和更低功耗，进一步提升AI运算效率。
尽管SOCAMM模块目前仅用于服务器产品，但美光表示，未来不排除与英特尔、AMD等厂商合作，开发更多服务器端存储器解决方案。此外，美光还计划基于LPDDR5X技术推出更多符合JEDEC标准的模块化存储器产品，以满足不同市场需求。
