创鑫智能谈台湾AI芯片机会

创鑫智能创始人暨董事长林永隆表示，ChatGPT引发的算力需求已较以往成长千倍、万倍，但用户不会多买1万台电脑，得仰赖IC设计业者优化软硬件，支持快速成长的算力需求。而当国外云端大厂相继投入自研人工智能（AI）芯片，与中国台湾IC设计界的关系确实会愈趋密切。

深度学习模型的运作可分为训练和推论两部分。成立于2019年的创鑫智能开发为推论设计的AI芯片，可加速数据中心、社群和电商平台等场域的推荐模型效能。林永隆数次强调，专做推论，就是看好这块市场的成长潜力。

在开放工程联盟（MLCommons）4月公布的MLPerf评比中，创鑫智能的芯片效能在服务器模式中比NVIDIA H100高出1.67倍；在离线模式中，优于NVIDIA A100，但逊于NVIDIA H100。

林永隆受访时表示，AI发展初期多用于影像识别，算力需求落在Giga等级。NVIDIACEO黄仁勳近期访台受到高度重视，最大原因是ChatGPT爆发后，算力需求已达Tera等级，成长了千倍、万倍。

新增的算力需求从哪来？他认为，用户不会多买1万台电脑，也很难等待AI半导体的算力依照摩尔定律（Moore's Law）揭示的速度慢慢成长。此时得仰赖IC设计业者的能力，了解市场问题、优化相关软硬件，以提出高效能且成本可负担的解决方案。

亚马逊（Amazon）、微软（Microsoft）、Google、Meta等云端大厂相继投入自研芯片行列。新加入战局的Meta即于5月宣布，首次由内部开发定制化加速器芯片系列Meta Training and Inference Accelerator（MTIA），2020年开发出第一代。该加速器采台积电7纳米制程。

据了解，上述大厂的「自研」，并非百分百由内部团队自行开发，仍须与外部IC设计业者合作，例如博通（Broadcom）、Marvell、世芯、创意电子等业者。

林永隆表示，台湾IC设计生态系相当强盛，创鑫智能这麽小的团队已可善用台湾IC设计服务、协力厂商等相关资源，在短时间内打造出高效能AI芯片，全世界当然也都会来善用台湾IC设计的资源。国外云端大厂与台湾IC设计业界的关系确实会愈趋密切，然因签署保密协定（NDA）之故，无法揭露实际客户案例。

曾为创意电子创始人之一的林永隆也提到，几十年下来，台湾IC设计从Nobody变成Somebody，现在享有举足轻重的地位，必须持续努力，否则将会被来自美、加、韩国、以色列、英国、印度等国的竞争对手超越。

他也引述台积电高层所言，指出其制造的单一芯片可能卖600~700美元，而NVIDIA把8颗H100 GPU组装成系统出售，价格可达20万美元，差异就在软件和设计实力。

摩根士丹利（Morgan Stanley）于5月底发布AI半导体相关报告指出，以AI服务器而言，目前用于AI训练的半导体需求较大，但在2027年前，推论用的半导体需求将跃为主轴。

目前AI服务器中主要用到的芯片是通用型GPU，市占率79%，但Morgan Stanley报告预测，通用型GPU的市占率将逐年下滑，估2025年降至50%，2026年降至39%；定制化AI芯片市占率则将在2026年成长到50%，2027年增至56%。FPGA等其他通用型芯片将微幅成长，但仍难敌上述两者。

于此，可预见在接下来数年中，通用型GPU与定制化AI芯片的市占率，将有一番拉锯和消长。