云天励飞推动边缘AI技术,加速大模型应用落地
来源:ictimes 发布时间:15 小时前 分享至微信

2024年标志着大模型应用落地的元年,边缘AI在此过程中扮演着至关重要的角色。云天励飞在2024慕尼黑上海电子展的“算力技术创新发展生态大会”上发表演讲,详细介绍了公司如何利用边缘AI技术推动大模型产业的规模化应用。


云天励飞强调,技术平台的构建需要以应用驱动为核心。公司通过深入场景落地和技术沉淀,提出了“1+1+N”自进化城市智能体的实践框架,并在公共安全、城市治理、智慧交通、人居生活等行业实施了多个标杆案例。


在芯片自主研发方面,云天励飞不仅沉淀了“算法芯片化”的核心能力,还开发了“云天天书”大模型,构建了应用落地驱动的算法平台。公司通过自定义指令集、处理器架构以及工具链的协同设计,完成了四代神经网络处理器架构的技术迭代,并自主研发了三代边缘AI芯片。


云天励飞的“云天天书”大模型采用三层架构设计,包括通用大模型、行业大模型、场景大模型,覆盖语言、视觉、多模态大模型等系列,支持十亿至千亿级参数量的多尺寸大模型,实现对多个行业的赋能。


为了支持大模型的规模化落地,云天励飞推出了DeepEdge10系列芯片,基于国产先进工艺,集成了自研神经网络处理器NNP400T。该芯片采用高集成度的SoC主控级设计,国内首创的Die-to-Die高速互联架构和Chiplet先进封装设计,实现了片内算力的灵活拓展,满足千亿级参数大模型的边缘微调部署需求。


云天励飞的边缘AI技术不仅推动了大模型在多个行业的快速落地应用,还促进了中国人工智能的高质量发展,为边缘全场景的智能应用提供了强大的算力支持。公司期待与各行业生态伙伴共同努力,进一步推动边缘AI技术的发展和应用。

[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!