页面加载中，请稍候
来源:电子发烧友网发布时间:2022-12-131026浏览
询问 AI深度学习还有哪些环节可以提升效率
我们先从深度学习运算来看哪些算数运算占比最高，根据IBM给出的统计数据，无论是语音识别的RNN、语言模型DNN和视觉模型CNN，矩阵向量乘法都占据了运算总数的70%到90%，所以打造一个矩阵矢量乘法加速器，是多数AI加速器的思路。
存内计算的存储选择
为了减少数据移动消耗的能量，提高MVM的计算性能，存内计算成了一个不错的选择。存内计算（IMC）是一项创新的计算方式，将特定的计算任务放到存储设备中，并使用模拟或混合信号的计算技术。相较冯诺依曼结构或近存计算来说，最大程度地减少了数据移动。而早期利用IMC进行神经网络推理的测试结果证明，在软硬件结合的情况下，可以得到优秀的精度结果，而DAC、ADC、功能激活之类的数字操作则是通过片外的软件或硬件来实现的。自那之后，各种使用SRAM、NOR Flash、RRAM、PCM和MRAM的单核或多核存内计算芯片纷纷面世。在对于正确存储类型的选择上，存内计算必须面临取舍的问题，比如性能、密度、写入时间、写入功耗、稳定性以及制造工艺上。性能自然就是直接影响到我们说的TOPS算力以及效率，目前SRAM优势较大，密度则决定了裸片大小，同时也影响到了成本。而在边缘场景下，环境一致性往往不比数据中心，所以如果不能保证稳定性的话，就会影响到存内计算进行深度学习的精度。最后的制造工艺不仅决定了这类存内计算芯片能否量产，是否存在供应链危机或成本问题，也决定了它有没有继续推进的空间，比如目前工艺较为先进的主要是PCM和SRAM，最高分别已经到了14nm和12nm。在2021年的VLSI技术大会上，IBM发表了一篇文章，讲述了他们以14nm CMOS工艺打造的一个64核PCM模拟存内计算芯片，HERMES。该芯片采用了后端集成的多层相变化内存，由256个线性化的CCO ADC组成，可以在1GHz的工作频率之上进行精确的片上矩阵矢量乘法运算。在深度学习的运算测试中，HERMES获得了10.5 TOPS/W的运算效率以及1.59TOPS/mm2的性能密度。
小结
除了“存”以外，存内计算在“算”上的选择也不尽相同，比如进行模拟或数字MAC运算等等。从斯坦福大学教授Boris Murmann提出的观点来看，在低精度下模拟运算要比数字运算更高效，但一旦精度拔高，比如8位以后，模拟计算的功耗就会成倍增加了。考虑到落地应用较少，未来的存内计算会更倾向于哪种形式仍有待观察，但从存储厂商、存算一体芯片厂商的动向来看，这或许是存储市场迎来又一轮爆发的绝佳机遇。
更多热点文章阅读
新闻来源：电子发烧友网，文中所述为作者独立观点，不代表icspec立场。更多精彩资讯请下载icspec App。如对本稿件有异议，请联系微信客服specltkj。
暂无评论哦，快来评论一下吧！
2026-06-26
2026-06-26