科大讯飞「星火一体机」开箱即用部署LLM 华为AI芯片升腾910B首次商用
来源:梁燕蕙 发布时间:2023-08-16 分享至微信


2019年8月发表的升腾910已经配置HBM了,可想而知当时的AI算力已有一定实力。如今传出升腾910B首次商用,更令外界好奇实际效能。华为
2019年8月发表的升腾910已经配置HBM了,可想而知当时的AI算力已有一定实力。如今传出升腾910B首次商用,更令外界好奇实际效能。华为

在生成式人工智能(generative AI)带动下,如何让每一家企业、每一个产业、每一个学校、每个医院都可以有机会打造属于自己的专属大型语言模型(LLM)?


这个需求,在国内市场上,还必须考量NVIDIA A100/A800芯片高价难求的供应吃紧困境。


有监于此,国内AI业者科大讯飞15日在星火认知大模型发表会上,与华为共同发表了一款用于企业打造专属LLM的软硬件一体化设备「星火一体机」,号称「企业拎回去,开箱即用」。


星火一体机设备,可提供对话开发、任务编排、插件执行、知识接入、提示工程等5种定制化优化模式,以及办公、代码、客服、运维、行销、采购等10种以上即开即用的场景,支持3种LLM尺寸,供用户选择。


综合中媒第一财经、快科技等报导,科大讯飞董事长刘庆峰表示,该公司和华为已在联合攻克算力卡关的问题。


刘庆峰指出,正在与华为打造针对超大规模参数LLM训练的本土算力的集群,对标NVIDIA的A100芯片。


他进一步表示,华为和科大讯飞将共同在生成式软硬件平台上,结合高算力、高效能的算子库与多卡的高速互连,以及分布式储存,目前该平台在单卡算力上,已经能够能齐平NVIDIA的A100芯片,在无法确保美国芯片的前提下,华为与科大讯飞按照本土的AI芯片来规划,着眼于国产化。


相较于A100可说是目前在LLM训练市场上,应用最广泛的芯片,第一财经取得业者证实,星火一体机采用的是华为尚未官宣的AI芯片升腾910B。


业界人士向中媒透露,华为并未揭露升腾910B芯片的效能,但近来华为在业内大力推广这一平台,而且它的效能与其上一代的升腾910芯片相比,不可同日而语。


值得注意的是,华为在2019年8月间,发表AI芯片升腾910,由台积电7纳米EUV制程代工。


当时,华为轮值董事长徐直军表示,升腾910具有两大亮点,一是当下全球运算力最强、训练学习速度最快的AI芯片。此外,他也强调,升腾910的算力是国际顶尖AI芯片的2倍,运算密度超过NVIDIA V100 、 Google TPU v3等。


2023年8月1日,华为在官网上公布升腾910B芯片的NPU驱动和韧体升级指引。不过,此前并未正式官宣该款新芯片的存在,目前也不清楚是否由中芯国际采7纳米DUV制程多重曝光代工制造。



责任编辑:张兴民



[ 新闻来源:DIGITIMES科技网,更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj]
存入云盘 收藏
举报
全部评论

暂无评论哦,快来评论一下吧!