国产AI芯片引领边端大模型新潮流:存算一体架构崛起
来源:ictimes 发布时间:2024-08-26 分享至微信

随着AI技术的飞速发展,大模型的应用不再局限于云端,而是迅速向边端设备渗透,开启了AI应用的新篇章。从AI PC到汽车座舱,再到智慧商显,边端大模型正逐步成为市场的新宠,为企业和消费者带来前所未有的体验和价值。在这一变革中,国产AI芯片企业凭借创新架构,尤其是存算一体技术,正逐步崭露头角,成为推动边端大模型落地的关键力量。


边端大模型的兴起,不仅得益于技术本身的成熟,更在于其满足了企业和用户对于高效、便捷、安全的需求。微软、苹果等科技巨头纷纷推出轻量级模型,使得大模型能够更灵活地部署在各类边端设备上。AI PC、智能座舱、智慧商显等领域的爆发,正是边端大模型应用潜力的生动体现。这些设备通过内置大模型,实现了从语音交互到个性化服务的全面升级,为用户带来了更加智能、便捷的使用体验。


然而,边端大模型的落地并非易事,其背后离不开底层芯片的支持。传统GPU虽然拥有强大的计算能力,但在功耗、成本等方面难以满足边端设备的需求。因此,专为AI设计的NPU芯片以及创新架构如存算一体、可重构计算等逐渐成为边端大模型的首选。存算一体架构通过将存储与计算集成在同一芯片上,有效解决了数据传输延迟和功耗问题,为边端大模型的部署提供了高效解决方案。


在这一背景下,国内AI芯片企业后摩智能凭借存算一体技术脱颖而出,推出了边端大模型AI芯片后摩漫界M30。该芯片不仅具备高性能、低功耗的特点,还能够支持多种主流大模型,为边端设备提供了强大的算力支持。后摩智能通过持续的技术创新和产品迭代,不断满足市场和用户的需求,为边端大模型的商业化落地提供了有力保障。


[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!