国产AI芯片让端侧AI大模型完成高质量蜕变

在2024年世界人工智能大会（WAIC 2024）上，AI大模型的发展呈现出从“能用”到“好用”的蜕变，并逐渐走向更靠近应用场景的边侧和端侧。这一趋势对作为核心的推理芯片提出了非常高的要求。爱芯元智创始人、董事长仇肖莘在论坛上表示，大模型真正大规模落地需要云边端三级紧密结合，而边侧和端侧结合的关键在于高能效的边端AI芯片。

爱芯元智在AI芯片的研发上打造了爱芯智眸AI-ISP和爱芯通元混合精度NPU两大自研核心技术。其中，爱芯智眸AI-ISP将深度学习算法与传统的ISP处理单元相结合，全面提升成像效果。而爱芯通元混合精度NPU则是以算子为原子指令集的AI计算处理器，为大模型在边缘侧、端侧的应用提供良好的基础。

据介绍，爱芯元智的AI芯片在端侧大模型部署方面展现出强大能力，如基于AX630C芯片部署的阿里云通义千问Qwen2.0语言大模型，可实现流畅的人机对话。此外，爱芯通元AI处理器还提供完备的算子集合，对市面上的大模型提供良好支持，并快速完成适配。

总之，爱芯元智的AI芯片在端侧大模型支持方面表现出色，为普惠AI的发展迈出了坚实一步。