近日,芯原股份(股票代码:688521.SH)宣布与谷歌联合推出Coral NPU IP,专为始终在线、超低能耗的端侧大语言模型应用设计。该IP基于谷歌在开放机器学习编译器领域的研究成果,结合AI安全特性进行了优化,为开发者提供统一的开源技术平台,助力构建强大的边缘AI生态系统。
Coral NPU IP采用RISC-V开放指令集架构,具备原生张量处理能力,支持主流机器学习框架,如JAX、PyTorch和TensorFlow Lite(TFLite)。同时,其编译器基础设施基于低级虚拟机(LLVM)项目的多级中间表示(MLIR)等开放标准工具,适用于可穿戴设备和泛在感知系统等边缘AI场景。
目前,Coral NPU IP已在谷歌开发者网站开源,面向全球开发者开放。芯原将提供企业级商业化IP版本,并结合其丰富的IP储备及芯片设计与验证能力,为客户提供一站式芯片定制服务。芯原正在开发基于Coral NPU IP的验证芯片,主要面向AI/AR眼镜与智能家居等应用,以加速大语言模型在边缘端的部署。
芯原执行副总裁、定制芯片平台事业部总经理汪志伟表示,该项目基于芯原在Open Se Cura开源项目中的经验,体现了谷歌开源技术与芯原在芯片设计及产业化支持上的深度合作。芯原将继续发挥其在芯片设计、验证及系统级优化方面的优势,推动边缘AI生态建设,助力开源技术在终端产品中的实际应用,为行业创新提供支持。