AMD发布新一代端侧AI平台，能跑三千亿参数大模型

在近期举办的Advancing AI 2026大会上，AMD正式推出了名为Gorgon Halo的全新端侧AI平台，即Ryzen AI Max 400系列。该平台将统一内存容量从128GB大幅扩展至192GB，能够运行参数量高达3000亿的超大规模AI模型。为了构建完善的本地AI生态系统并进军企业级与智能体AI PC市场，AMD还整合了ROCm软件栈、Hugging Face开源模型库以及思科的企业级管理解决方案。

AMD计算与图形事业部高级副总裁兼总经理Jack Huynh透露，尽管数据中心在前沿大模型训练及海量推理任务中占据主导地位，但未来的AI基础设施必须依靠端侧AI和物理AI的协同支持。据Jack Huynh介绍，智能体AI（Agent AI）有望引领新一轮生产力变革。单个智能体便能提高个人工作效率，而多智能体协同则能让产出成倍增加。这种转变使得AI任务从简单的单次问答，升级为连续推理、工具调用及多智能体协作，进而拉动处理器、显卡及终端设备的全面换代。

得益于内存容量的跃升，Gorgon Halo平台在本地运行3000亿参数模型的能力，显著超越了上一代Ryzen AI Halo的2000亿参数上限。AMD方面指出，诸如DeepSeek和腾讯等最新开源大模型，今后均可直接在该平台上部署。这意味着大型AI应用正逐步从云端GPU集群向桌面端迁移，降低了对云端算力的绝对依赖。在终端产品布局方面，Jack Huynh透露，惠普、华硕、宏碁和联想等原始设备制造商已规划了35款以上基于Halo架构的设备。这些产品覆盖笔记本电脑、工作站、一体机、迷你主机及开发板，未来还将拓展至更广泛的商用与企业级AI硬件中。

端侧AI的普及不仅得益于模型运行效率的提高，也离不开开源生态的繁荣。Jack Huynh举例称，此前GPT-4 OSS需要约1200亿参数才能在GPQA测试中取得80分，而仅几个月后，通义千问（Qwen）系列模型凭借90亿到270亿的参数量，便在研究生级别的推理测试中超越了上一代前沿模型。这表明AI模型正加速向小型化和高效化方向发展，为终端部署创造了条件。

与云端方案相比，AMD强调了本地AI的三大核心优势：一是数据留在本地，有效防止企业敏感信息泄露；二是断网状态下依然可用，增强了系统稳定性；三是无需支付云端Token费用，大幅削减了推理开支。AMD认为，随着智能体数量的激增，企业的AI预算重心将从购买GPU硬件转向长期的Token消耗，因此本地推理将成为控制总体拥有成本（TCO）的关键手段。

在软件生态建设上，AMD继续依托ROCm构建开放式AI平台。开发者能够在Halo平台上进行模型的开发、微调和验证，随后无需修改代码即可无缝迁移至Instinct加速卡和EPYC服务器。此外，AMD还深化了与Hugging Face的合作，为Halo平台提供专属优化模型、开发工具链及智能体工作流。除了完善开发环境，AMD还与思科合作进军企业AI治理领域。双方整合了思科的云控制平台及多项网络安全方案，实现了Token消耗监控、成本分析和智能体权限管控。企业管理员可以通过可视化仪表盘，实时追踪本地和云端模型的Token用量及开销。一旦智能体出现异常或越权操作，系统会在网络层立即进行隔离，从而降低AI部署过程中的网络安全风险。