云天励飞:DeepEdge10可承载百亿级大模型运算
来源:ictimes 发布时间:2024-12-02 分享至微信

近日,云天励飞在互动平台表示,公司自研的14nm DeepEdge10芯片,是国内首创的14nm Chiplet大模型推理芯片,采用了自主可控的国产工艺,内置了国产RISC-V核。


依托自研芯片DeepEdge10创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载SAM CV大模型、Llama2等百亿级大模型运算。


DeepEdge10系列推理卡已经适配了近十个主流大模型,包括云天天书、通义千问、百川智能以及Llama2/3等,展现了其广泛的兼容性和应用潜力。


随着AI从云端大模型向端侧发展的趋势日益明显,云天励飞DeepEdge系列推理卡的应用场景也愈发广泛。从智能计算中心大模型推理、机器人、智慧泊车到全息路口方案及城市治理,DeepEdge系列推理卡都展现出了出色的表现。


此外,云天励飞还通过岍丞技术,进入了华为、荣耀、OPPO等终端品牌供应链,探索AI在智能家居、智能穿戴场景的应用,进一步拓宽了边缘AI的商用场景。


[ 新闻来源:ictimes,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!