AI本质是存储？“HBM之父”预言计算架构大变革

据《东亚日报》报道，有“HBM之父”之称的韩国科学技术院（KAIST）教授金正浩近日表示，人工智能的本质实际上是存储。他指出，以往行业往往将重心放在GPU算力和模型算法上，然而在大模型的实际运行过程中，无论是推理生成、上下文缓存还是注意力机制，各个环节均离不开存储系统的强力支持。

在数据传输方面，高带宽内存（HBM）利用多层动态随机存取存储器（DRAM）的垂直堆叠技术，显著增加了数据通道数量。金正浩将其比作高速公路，传统存储仅有8条车道，而HBM可达1024甚至2048条，未来更有望达到百万条。不过，带宽的增加并没有彻底消除性能瓶颈。由于大模型在输出时需要频繁读写数据，GPU大部分时间都在等待数据，处于闲置状态。他估算，即使配备上百万个GPU，实际用于计算的时间比例大概只有10%，即使优化算法也难以突破30%。

为了降低数据搬运带来的延迟和能耗，金正浩预测未来的AI计算架构将转变为“以存储为中心”。他构想了一种理想的3D架构，类似于百层大楼，GPU设在一楼，数据通过“电梯”直接下楼处理，从而避免长距离传输。从HBM4世代起，部分GPU功能将被集成到存储结构内。此外，他还提出了三层异构存储的概念：速度极快的HBM用于存放热数据，大容量的堆叠NAND（HBF）用于存储冷数据，而他倡导的高带宽静态随机存取存储器（HBS）则充当超低延迟缓存。中央处理器和图形处理器将被放置在顶层，主要负责调度和散热。

谈及行业动态，金正浩提到英伟达首席执行官黄仁勋近期多次前往韩国，原因在于GPU微架构的性能提升遭遇瓶颈，且高发热量限制了其大规模堆叠。他强调，供电和散热能力将成为未来3D AI计算机的核心竞争力。这意味着在DRAM和NAND领域拥有深厚技术积累的SK海力士与三星，有望在新架构中占据关键位置。但他同时提醒，这并非单纯从“GPU时代”向“存储时代”的过渡，而是一场涵盖散热、网络互联、先进封装、HBM以及GPU的系统级竞争。面对中国企业在自研GPU/NPU及本土存储领域的快速追赶，他坦言这是一场关乎生存的长期博弈，韩国业界必须全力以赴。