对话千芯科技董事长：清华系存储与计算老将联手，突围可重构存算AI芯片

这一创新架构同时打破“内存墙”和“编译墙”难题。作者 |  心缘
编辑 |  漠影
2021年，AI芯片进入新节点，而存算一体可以说是其中发展最为热闹的新兴技术路线之一。仅是年初，已有多家半导体巨头集中发力。2月，存储巨头三星首发新型存算一体HBM2存储器，AI性能达到1.2TFLOPS；3月，台积电在国际固态电路会议（ISSCC 2021）上提出一种基于SRAM的存算一体方案，以支持更大的神经网络。存算一体AI芯片让存储器分摊起数据处理任务，从而节省存储与计算单元之间的数据搬移开销。理论上，相比GPU，存算一体AI芯片能在兼顾通用性的同时，提供更高的能效和更大的单芯片算力。随着相关技术的成熟，这个被视作下一代AI芯片潜力股的新兴架构近年来声名鹊起。在这股热潮之中，刚刚成立两年的千芯科技选择了一条相对特别的路，提出将存算一体与可重构计算技术融合的创新架构，使得芯片能更加灵活地适配快速发展的AI算法。今年3月，千芯科技完成了由前海融华汇金和新世界投资的数千万元融资。这也是国内少有的兼具先进存储芯片、大算力AI芯片研发背景并聚焦于云端推理芯片和边缘AI芯片的团队，两位联合创始人陈巍和耿云川同为清华大学电子系毕业生，并分别在存储芯片设计和可重构计算领域拥有多年工程实践经验。近日，芯东西来到千芯科技办公室，与千芯科技董事长陈巍聊了聊创业背后的故事、可重构存算架构的技术特点，以及最新的AI芯片落地进展。

▲千芯科技董事长陈巍

01.清华电子系同窗联手创业

千芯科技团队的构建酝酿了三年，最初的萌芽可以追溯到AlphaGo横空出世击败世界围棋冠军、掀起人工智能（AI）热潮的2016年。2016年4月，IBM公布了一颗由人脑结构启发的特殊芯片TrueNorth，它只有邮票大小、几克重量，内部却紧密地集成了54亿个晶体管。这个从仿生学汲取灵感的芯片设计，令陈巍眼前一亮。此时他正在负责国内最先进的存储芯片。在2014年时，他曾创建知名IDM核心芯片设计团队，设计了国内首个多层三维芯片架构，这也是当时国内设计的单颗尺寸最大、设计最复杂、工艺最先进的芯片。研读IBM TrueNorth的论文后，一个新的想法开始在陈巍的心中酝酿：“为何不用做存储器的思路做存算一体芯片呢？”经过一番评估，陈巍判断，这个思路是可取的，但时机还不够成熟，一个关键问题横亘在面前——存储芯片架构相对死板，其灵活性对AI算法不算友好，解决这个问题，则需深入了解算法。“算法是AI芯片的灵魂，要跟整个架构吻合。”于是，陈巍受邀加入一家领域知名人工智能企业担任首席科学家，并指导了AI-NOR闪存存算芯片架构的设计，由此逐步积累对算法实际应用部署特征的理解。这为后来研发全新的可重构存算架构奠定了基础。在集齐存储器、AI芯片、算法三方面知识经验的同时，陈巍开始组建AI芯片创业团队，「存算一体+可重构计算」的创新架构设计思路也逐渐成形。这就要提到另一个关键人物——陈巍的大学同窗好友耿云川。陈巍和耿云川是清华大学电子工程系微电子学方向的本科同学。当年耿云川考GRE时，陈巍常在清华老图书馆帮他占座，由此建立了牢固的“占座之情”。后来陈巍在清华研究存储器及工艺，后获设计方向博士学位，耿云川则赴日本早稻田微电子专业深造。耿云川曾任NEC/瑞萨日本本部车规芯片技术负责人，从事车规计算及可重构芯片研发长达16年，如今在千芯科技担任首席科学家。他的可重构计算经验与陈巍在AI算法、AI芯片、存储芯片方面的积累结合后，2019年，一个全新架构可重构存算处理器（RMU）诞生，千芯科技的旅程也由此开始。
02.创新架构：打破“内存墙”和“编译墙”难题

千芯科技取自“千变万化的芯片”，寓意其AI芯片能适应不同算法更多场景，同时有谐音“潜心”做事之义。其英文名TensorChip则取自很多AI计算可表现为的张量（Tensor）计算模式，代表一种普适的计算。之所以选择将存算一体和可重构技术融合，是受仿生学的启发。当前AI领域最流行的CNN、DNN等算法思路模拟自人脑神经元结构，人脑即包含存算一体和可重构的特点，神经元能同时实现处理任务和存储，神经元突触连接可以调整重组。从计算学的角度，存算一体可有效规避传统冯·诺依曼普遍存在的“内存墙”问题，可重构技术则能有效规避“编译墙”问题，具备灵活的算子可变能力，可将电路重构成最接近算法的形态，从而提升算法映射效率，并能适应AI算法的升级迭代。陈巍认为，这样的架构理论上最适合AI计算。此外，通过融合可重构计算，存算一体架构具备了适应已有算法生态的能力，方便客户将原来在GPU上跑的算法迁移到千芯科技的产品上。在做了大量市场研究后，陈巍发现端侧语音和端侧图像市场，对AI加速的需求尚未凸显，云计算与自动驾驶才是强AI计算需求的场景。因此，千芯科技没有像多数初创公司那样从相对更易做出产品的终端AI芯片出发，而是一开始就推进面向云端推理和边缘计算的AI芯片研发。

具体到存储器，千芯团队现在准备量产和投片的可重构存算AI芯片采用SRAM，待RRAM/MRAM良率爬坡到位时再采用这两种新型存储器。这是综合考量的结果：RRAM固然新颖，但其存储容量较小，难以存放偏大的AI模型，并需要匹配专门定制化的工艺；MRAM则在算法单位面积综合成本方面较高；同时RRAM和MRAM都存在可靠性问题，芯片过一段时间后可能会失效，因此在陈巍看来，在RRAM和MRAM兼容工艺成熟前，SRAM是当前的最优选。而无论是做存储器还是可重构电路，对know-how的要求都很高，这也构成了千芯科技独特的竞争力。
03.三大核心优势加持性能远高于同工艺AI芯片

相比其他存算一体AI芯片团队，陈巍总结了千芯科技的三个核心优势：其一，深入了解客户底层需求。陈巍本身兼具先进AI算法研发经历和存储芯片、AI芯片设计背景，因此千芯团队在创立之初便确定“AI算法+AI芯片”软硬协同的思路，深入客户算法和底层需求后做优化，能更理解客户底层想法，适配客户核心需求。“只有满足客户和使用者需求的东西，才真正有生命力。”在研发云端及边缘AI芯片的同时，千芯科技也面向终端提供实现一站式部署的AI加速工具包，支持ARM/RISC-V/x86平台和自有算法的平滑迁移。其二，已跑通整个产品流程。当前千芯科技首款可重构存算AI芯片原型已经可以在Linux系统上跑起来，送给客户使用。相比之下，多数其他同一路线的芯片刚出来，跑通整个流程还需时日。其三，组建了有15~20年工业界经验的系统团队。千芯科技核心团队对存储/存算芯片从研发到生产的完整流程拥有足够经验。例如陈巍原先曾带过大的存储团队，而存储芯片设计难度要比常规ASIC更高。如果存算一体AI芯片团队在存储器工业界积累不足，很难及时解决用过一段时间后失效等问题。据悉，千芯科技的可重构存算AI芯片实现了可超过10-100TOPS/W的能效比和先进弹性算子技术FlexOperator。此外，千芯还储备了电路级AI芯片热压缩算法技术HotCompress、AI三维卷积加速技术等非存算一体类企业所具有的技术优势。单块AI计算卡算力可以超过1000~4000TOPS，算力优势非常明显。陈巍透露说，其芯片迭代周期通常约一年，“采用比其他（非存算一体）芯片落后两代的工艺，我们的芯片能做到高至少3倍以上的性能。”

▲千芯科技AI计算卡

04.首款芯片通过互联网大客户验证

如今，千芯科技第一代可重构存算AI芯片已通过互联网大客户验证，并进入互联网大客户的供应商名录，也在逐渐与做自动驾驶的厂商沟通，以IP形式授权核心技术。这是千芯科技创立至今最令陈巍骄傲的时刻。经过两年的发展，千芯科技已牢牢掌握了可重构存算的核心技术，研发团队占比达85%，其中多位核心成员来自AMD、瑞萨半导体、联发科、长江存储等先进企业，在芯片及算法加速方面多有积累。在取得阶段性进展后，当前，千芯科技正马不停蹄地奔向量产和客户深度导入的目标，逐步向客户提供满足其需求的大算力AI计算卡。由于走在一条新兴的道路上，外界尚且没有特别合适的培养体系和人才。因此，千芯科技一方面建立自己的培养体系来做内部人才培养，另一方面也计划循序渐进地向外输出一些资料和关键技术信息，以吸引更多人才加入，也为整个产业的发展助力。
05.结语：AI芯片创新架构走向落地整合

根据IDC研究，2021年上半年，中国AI芯片服务器加速卡中，GPU占据90%以上的市场份额，其他非GPU芯片被采用的占比正在扩大，预计到2025年将超过20%。用于云端推理的AI芯片市场占比已超50%，且预计到2024年超过60%。创新是持续创造芯片设计价值的不二法门，在探索更适合AI算力需求的创新道路中，存算一体的价值正日益显现。陈巍相信：“存算一体无论在技术还是市场需求上都逐渐成熟，现在是非常好的爆发时间点。”英伟达等AI芯片巨头还没有足够的团队和技术积累去做存算相关的研究和知识产权壁垒，这为存算一体AI芯片创企的快速成长提供了机遇。据他观察，现阶段AI芯片产业正呈现百家争鸣的格局，接下来将走向新架构的落地整合。其中存算一体AI芯片已经展现出可落地的机会，未来十年，碳基AI芯片、量子AI芯片等技术路线也有望得到更好的发展。而这些面向下一代AI芯片的新兴赛道，已经开始涌现代表性的中国创业团队。

新闻来源：芯东西，文中所述为作者独立观点，不代表icspec立场。更多精彩资讯请下载icspec App。如对本稿件有异议，请联系微信客服specltkj。