
在生成式人工智能(generative AI)带动下,如何让每一家企业、每一个产业、每一个学校、每个医院都可以有机会打造属于自己的专属大型语言模型(LLM)?
这个需求,在国内市场上,还必须考量NVIDIA A100/A800芯片高价难求的供应吃紧困境。
有监于此,国内AI业者科大讯飞15日在星火认知大模型发表会上,与华为共同发表了一款用于企业打造专属LLM的软硬件一体化设备「星火一体机」,号称「企业拎回去,开箱即用」。
星火一体机设备,可提供对话开发、任务编排、插件执行、知识接入、提示工程等5种定制化优化模式,以及办公、代码、客服、运维、行销、采购等10种以上即开即用的场景,支持3种LLM尺寸,供用户选择。
综合中媒第一财经、快科技等报导,科大讯飞董事长刘庆峰表示,该公司和华为已在联合攻克算力卡关的问题。
刘庆峰指出,正在与华为打造针对超大规模参数LLM训练的本土算力的集群,对标NVIDIA的A100芯片。
他进一步表示,华为和科大讯飞将共同在生成式软硬件平台上,结合高算力、高效能的算子库与多卡的高速互连,以及分布式储存,目前该平台在单卡算力上,已经能够能齐平NVIDIA的A100芯片,在无法确保美国芯片的前提下,华为与科大讯飞按照本土的AI芯片来规划,着眼于国产化。
相较于A100可说是目前在LLM训练市场上,应用最广泛的芯片,第一财经取得业者证实,星火一体机采用的是华为尚未官宣的AI芯片升腾910B。
业界人士向中媒透露,华为并未揭露升腾910B芯片的效能,但近来华为在业内大力推广这一平台,而且它的效能与其上一代的升腾910芯片相比,不可同日而语。
值得注意的是,华为在2019年8月间,发表AI芯片升腾910,由台积电7纳米EUV制程代工。
当时,华为轮值董事长徐直军表示,升腾910具有两大亮点,一是当下全球运算力最强、训练学习速度最快的AI芯片。此外,他也强调,升腾910的算力是国际顶尖AI芯片的2倍,运算密度超过NVIDIA V100 、 Google TPU v3等。
2023年8月1日,华为在官网上公布升腾910B芯片的NPU驱动和韧体升级指引。不过,此前并未正式官宣该款新芯片的存在,目前也不清楚是否由中芯国际采7纳米DUV制程多重曝光代工制造。
责任编辑:张兴民
暂无评论哦,快来评论一下吧!
