美团开源万亿参数大模型，摩尔线程GPU实现适配

据悉，美团于7月6日正式开源了其自主研发的新一代万亿参数MoE大模型LongCat-2.0。就在同一天，摩尔线程利用其MTT S5000 AI训推一体全功能GPU智算卡以及MUSA软件栈，迅速完成了针对该模型的全面适配工作。

整个适配过程涵盖了精度校验、部署验证、关键算子优化、推理引擎启动以及模型加载等所有关键环节。这一举措确保了LongCat-2.0在MTT S5000平台上能够高效且稳定地进行推理运算，从而为企业客户与开发者提供了更加便利的部署方案。

LongCat-2.0的总参数规模达到了1.6T，其动态激活范围在33B至56B之间，平均激活参数约为48B。这款模型专门针对Agentic Coding应用场景进行了优化，原生具备处理1M超长上下文的能力。借助零计算专家动态激活机制、ScMoE跨层快捷连接架构以及自研的稀疏注意力机制（LSA），该模型有效提升了多任务协同效率与资源利用率。相关评测数据表明，LongCat-2.0在General Agent和Code场景中展现出稳定的任务处理能力和出色的综合性能，已成为全球开发者广泛关注的智能体核心大模型之一。

针对LongCat-2.0的推理特征与模型架构，摩尔线程研发团队借助MUSA软件生态和高性能的SGLang-MUSA推理引擎，迅速打通了从性能优化到框架兼容的完整适配流程。

在硬件加速方面，MTT S5000配备了硬件级原生FP8加速功能，拥有高带宽、大容量显存以及高算力优势。面对LongCat-2.0在持续生成、复杂指令分解、多轮上下文及长输入等推理负载下的严苛要求，该智算卡能够为高并发推理、KV Cache读写和长上下文输入提供可靠支持。配合MUSA软件栈与SGLang-MUSA推理引擎的协同调优，进一步释放了模型的推理潜能，显著提高了系统吞吐量与在线服务的响应速度。

在工程部署方面，摩尔线程将部署测试、算子验证、推理框架兼容、权重加载及模型结构解析等步骤整合为标准化的工程流程。这不仅大幅缩短了前沿模型的部署周期，还印证了MUSA软件栈对主流模型生态的良好兼容性，进而降低了在国产算力平台上迁移前沿模型的技术门槛。

此外，针对长文档分析、企业知识库问答、Agent工作流以及AI Coding等典型应用场景，技术团队对LongCat-2.0的推理链路展开了部署级别的验证。通过在调度、算子和框架层面的联合优化，MTT S5000为用户提供了具备高扩展性、稳定性和优异性能的推理基础设施，推动大模型应用加速从技术验证阶段迈向实际生产部署。

在模型开源首日即完成适配支持，标志着国产AI芯片与国产大模型之间的深度协同迈出了重要一步。后续，摩尔线程计划继续发挥MUSA软件栈的生态兼容优势，紧跟前沿模型的发展步伐，利用可规模化、高性能的国产全功能GPU基础设施，进一步推动大模型应用的创新与落地。

LongCat-2.0开源项目获取地址：

https://github.com/meituan-longcat/LongCat-2.0

https://huggingface.co/meituan-longcat/LongCat-2.0

https://huggingface.co/meituan-longcat/LongCat-2.0-FP8