AI算力竞赛不只看芯片，软硬件协同设计成关键

半导体研究机构SemiAnalysis指出，提升人工智能性能的核心已从单一芯片，转变为模型、内核代码与芯片三者的软硬件协同设计。该机构强调，英伟达的真正优势并非仅限于CUDA软件，而是主流开源模型均针对GPU进行了定制，从而在生态上将用户与GPU深度绑定。

SemiAnalysis创始人Dylan Patel在接受红杉资本播客专访时透露，若对模型、内核代码和芯片进行独立优化，性能提升幅度可能仅为2倍左右；但通过跨层级的协同设计，实际效能增益最高可达100倍。为监测这一行业趋势，该机构上线了InferenceX动态基准测试平台，每天利用厂商提供的硬件设备对最新模型进行测试。据该平台长期监测数据显示，同等质量模型的推理成本正以每年约60倍的速度递减。

在跨层优化方面，DeepSeek是一个典型案例。其V3混合专家（MoE）模型的专家层专门针对英伟达Hopper架构开发，而最新的V4模型则转向适配Blackwell架构及华为芯片。此外，尽管谷歌TPU在支持DeepMind运行及Anthropic模型预训练方面表现优异，但在执行DeepSeek模型时效果欠佳。反之，专为TPU设计的模型在英伟达GPU上同样运行不畅，这反映出模型与特定硬件之间已形成深度绑定。

这种软硬件的双向绑定关系，正在改变业界对英伟达核心壁垒在于CUDA软件的传统认知。Patel表示，随着AI模型代码编写能力的不断增强，单纯的软件优势正逐渐被削弱。真正的竞争壁垒在于，包括DeepSeek、月之暗面、智谱AI以及小米在内的众多开源模型，均是围绕GPU进行设计的。这使得下游推理服务与模型定制厂商即使不编写CUDA代码，也必须采用英伟达硬件。为此，谷歌需要构建Gemma系列开源模型来建立生态进行应对，不然开源趋势将继续强化英伟达的市场地位。