尽管GPU在如卷积神经网路等前馈神经网路处理上有相当不错的表现，但随着人工智慧(AI)应用与模型不断发展与日趋复杂，各界亟需要有新的解决方案推出。而采大规模平行同构多核架构的Graphcore智慧处理单元(IPU)，正是为满足各式AI训练与推论工作负载所推出的新型AI晶片。

COVID-19(新冠肺炎)疫情对全球经济与各式产业带来严重冲击，ZDNet报导，日前微软(Microsoft)AI研究部门负责人Sujeeth Bharadwaj在医疗照顾视讯会议中，演示了结合自家SONIC软体与Graphcore IPU的图像辨识系统。该系统可以在30分钟内由疑似患者胸部X光片中识别出COVID-19症状。

相较而言，如果采用NVIDIA晶片，需时5小时才能完成辨识。这不但为Graphcore和其他新型AI晶片业者开启了重大市场机会，也对NVIDIA造成竞争压力。有别于NVIDIA与英特尔(Intel)等业者传统晶片，Graphcore IPU等新型AI晶片记忆体容量和配置方式都与传统晶片不同。

以Graphcore IPU为例，该晶片内部除了配备有1,216颗同步多执行绪(SMT)IPU核心外，每颗核心还就近配置256KB SRAM来作为处理器内记忆体(In-Processor-Menory)运用。这不但使得整个IPU合计拥有300MB记忆体，远高于传统晶片的数十MB记忆体，也使得记忆体存取速度大幅提高，从而展现了更高的运算执行效能。

Graphcore共同创办人暨执行长Nigel Toon表示，虽然IPU设计目的是支持如SONIC等复杂AI演算法运算负载需求，但SONIC只是新兴神经网路模型中的一个例子，IPU还能够应用在如自然语言处理(NLP)系统等更广泛的AI模型中。随着尖端AI技术快速发展，IPU将能协助创新者创建新一代AI感知模型，并使其更加准确与更高效地执行。

AI晶片新创业者纷纷成立，已使AI晶片市场呈现拥挤，尤其是AI训练市场。目前AI训练晶片市场以NVIDIA为主导业者，英特尔则是在推论市场占居要角。其他重要新兴AI晶片业者尚包括Graphcore、Cerebras Systems、SambaNova Systems等。不过Toon一直将NVIDIA视为是Graphcore的最主要竞争对手。

Microprocessor Report表示，随着英特尔收购Habana，将成为NVIDIA在AI推论和训练市场的最大挑战者。实测结果显示，Habana晶片效能优于NVIDIA的V100以及Graphcore的IPU。一旦英特尔将自家广泛AI软体堆栈移植到Habana硬体上，预期该组合将会大幅领先任何新创业者平台。

NVIDIA日前推出新一代AI晶片A100，有分析表示，A100晶片效能的确高于现有产品，不过已有许多AI晶片业者宣称，自家尚未公布的新一代AI晶片效能将会超越A100。此外，Graphcore也必须要能够以较英特尔与NVIDIA团队为少的资源来满足客户在软体上的需求。