亚湾超算姚延宗：企业用AI无需死磕GPU

据透露，亚湾超算首席执行官姚延宗在参加NVIDIA GTC Taipei科技专家会前对谈时指出，当前全球人工智能产业正经历从模型训练向推理阶段的过渡。在推理端，AI在处理代码编写等结构化问题上优势显著，同时视频与图像模型的快速迭代也大幅拉升了Token消耗量及推理算力需求。

针对企业引入AI的现状，姚延宗介绍称，业界以往过度关注图形处理器（GPU），但直接操作GPU的门槛极高。这不仅需要复杂的部署与调度能力，还要求企业配备涵盖基础架构、预训练、后训练及推理等多领域的专业人才。因此，直接掌握GPU资源的多为少数初创企业或AI原生公司，这也是全球企业面临的普遍痛点。

为破解这一难题，产业界正逐步将GPU虚拟化，转化为模型服务或Token形式。据介绍，此类服务能够集成语音、图像、视频及各类大语言模型。企业无需再纠结于算力调度与模型部署等底层技术细节，从而将核心精力回归到如何利用AI解决实际业务问题上，大幅降低了AI应用的落地门槛。

随着AI应用向推理服务延伸，相关人才结构也需同步升级。姚延宗表示，中国台湾地区本身具备雄厚的硬件产业基础，但未来需要构建多层次的人才体系。在底层，需要精通数据中心建设、服务器与集群管理、网络及光传输的专家以保障算力稳定；在中层，需配备能进行模型性能优化、降低使用成本并提升响应速度的技术人员；在应用层，则亟需懂行业需求、能设计AI产品的复合型人才，以推动算力与模型在实际场景中的转化。