NVIDIA面临新威胁 GSI新一代Gemini APU即将设计定案

即使面临持续净损，仍将大部分营收都投入在研发中的人工智能（AI）芯片业者GSI Technology日前表示，新一代Gemini关联处理单元（Associative Processing Unit；APU）可望在2023年夏季设计定案（Tape-out），预计2023年底就会对试产芯片进行使用评估，2024年下半正式推出市场。

有别于传统运算芯片架构所采取的串行数据处理（Serial data processing）方式，即在进行运算时需要将数据数据在处理器和存储器间来回移动，GSI Gemini APU采取将「1位元处理单元」（1-bit processing units）与SRAM「读取－修改－写入线」（Read-Modify-Write lines）紧密结合在一起的架构方式，能够直接在存储器阵列内进行大量数据平行处理、运算和查找，成功消除了以往处理器与存储器间的输出入（I/O）瓶颈。

结合SRAM和200万个「1位元处理单元」的第一代Gemini APU运行时脉虽然仅400MHz，但具有26 TB/s存储器带宽，尖峰运算能力可达25 TOPS，并且热设计功耗仅60W。这使得该芯片整体能效和效能表现优于英特尔（Intel）Xeon 8280、NVIDIA A100、Graphcore IPU等芯片。

与NVIDIA GPU相较，数据显示，采用Gemini APU的数据中心在运行AI查找应用时的功耗降低了93%。

GSI表示，数据中心碳足迹可说是各种IT产业中成长最快的，约每4年用电量就会翻上一倍。这使得功耗已成为现今数据中心的严重问题，料中心用电量约占全球总用电量1%。而大幅采用Gemini APU，无疑可大幅减缓数据中心碳足迹成长速度，有效实现企业永续发展目标。

即将设计定案的Gemini-II APU，将会采台积电16纳米节点制程生产，内含6MB关联存储器（Associative memory）。该关联存储器与具有45MB/s带宽的100MB分布式SRAM相连，该45MB/s带宽为现今最先进AI并行处理器存储器带宽的15倍。

Gemini APU擅长进行如脸部识别、药物发现、Elasticsearch分散式数据库查找、物件侦测等大型数据数据库查找应用，虽不见得适合于每种AI运算需求，但GSICEOLee-Lean Shu表示，未来会以现今工作为基础，来满足自然语言处理大型语言模型（LLM）运算需求。尤其是做为ChatGPT 架构基本组成部分的矢量查找引擎（vector search engine），将会是Gemini APU应用扩展的重要焦点。

Castellano表示，数据中心AI有2个主要部分，训练与推论。训练根据运算结果来对先前设定的神经网络进行重新评估或调整，推论则是应用经过训练的神经网络模型知识，来运算推论结果。

目前NVIDIA GPU虽然主导了AI训练芯片市场，但在推论市场部分，正面临其他芯片技术的激烈竞争。预期新一代Gemini APU推出后，还会使NVIDIA面临更大的威胁。

GSI Technology表示，新一代Gemini APU可望在2023年夏设计定案，并预计会在2024年下半正式进入市场。GSI Technology