NVIDIA GPU有新对手?IBM类比AI芯片内建相变存储器
来源:DIGITIMES发布时间:2023-08-181300浏览
询问 AI使用GPU执行人工智能(AI)任务的传统运算基础设施愈来愈耗电,IBM Research开发出一款用于AI推论的混合信号类比芯片,号称效能或可媲美GPU等数码芯片,并且可以大幅降低功耗。
根据The Register、eeNews Europe报导,这款类比运算AI芯片采用14纳米CMOS制程,并在后端流程加入相变存储器(PCM),降低制造成本。整合后的芯片共配置64个AI运算核心,透过芯片上通讯网络互连,并部署了处理卷积层及长短期记忆(LSTM)层所需的数码启用功能。
该芯片采用一种称为「类比存储器内运算」(AIMC)的方法,使用相变存储器单元将权重储存为类比值并执行运算。每一个AI核心都包含一个相变存储器交叉阵列,能够储存256×256的权重矩阵,并使用核心外部提供的输入启用执行类比矩阵矢量乘法。
这意味着每个核心都可执行深度神经网络(DNN)模型层相关的计算,并将权重编码为该相变存储器元件的类比电导值。
对于8位元输入/输出矩阵矢量乘法,在四相(高精度)或单相(低精度)运算读取模式下,此芯片最高可实现16.1或63.1 TOPS吞吐量。每瓦能源效率分别为2.48或9.76 TOPS。
IBM研究人员表示仍有2个关键挑战有待克服。一是存储器阵列需能够以现有数码系统的精度运算,并且能够和其他数码运算单元以及该类比AI芯片上的数码通讯结构无缝接合。
研究人员声称,将类比存储器内运算、数种数码处理单元以及数码通讯结构无缝结合,可产出每平方公厘400 GOPS矩阵矢量乘法吞吐量,比基于电阻式存储器的多核存储器内运算芯片高出15倍,并且能源效率更佳。
在CIFAR-10影像数据集测试方面,该芯片也达到接近软件等效的92.81%推论精度。能效方面,单一输入至ResNet-9模型可在1.52微秒(μs)内处理完毕,消耗能量为1.51微焦耳(μJ)。
研究人员表示,AIMC加速器如果想要与GPU等现有数码解决方案竞争,还需要进一步提高权重密度。
新闻来源:DIGITIMES,文中所述为作者独立观点,不代表icspec立场。更多精彩资讯请下载icspec App。如对本稿件有异议,请联系微信客服specltkj。
