人工智能（AI）热潮因NVIDIA创始人黄仁勳来台而再创高峰，供应链大厂和新创雨露均沾。COMPUTEX 2023展会中可看到AI新创遍地开花；有业者贴合大型语言模型（LLM）的趋势推出定制化服务，也有业者善用GPU与AI芯片的差别优势，开发影像识别相关方案。

ChatGPT带动生成式AI（Generative AI）热潮，不仅GPU、服务器代工业者受惠，软件和信息服务业者也感受到新一波商机涌现。

满拓科技行销长杨育明即表示，许多客户盼拥有自己的语言模型，而非依赖ChatGPT，并希望成本在可控范围。「对生成式AI有疑虑的阶段已经过了，现在重点是要找谁做，」他说。团队可运用台湾智能云端（台智云）或其他业者开发的模型，开发相关解决方案，从云端到边缘、软硬整合一站式部署。

台智云日前宣布运用超级电脑台湾杉二号，建立出与GPT-3.5模型同级、且是台湾首个高达1,760亿参数的福尔摩沙大模型。

杨育明表示，依据客户需求，LLM可部署在台智云的云端服务器、客户私有云、或边缘装置。现场摊位展示装有赛灵思（Xilinx）FPGA板的电脑，机壳由艾讯制作。部署在此边缘装置端的模型参数量约130亿。

满拓科技行销长杨育明表示，微型化的LLM可部署至边缘电脑端。林佳楠摄

然微软（Microsoft）也提供Azure OpenAI服务，其他新创还有何机会？杨育明认为，「市场不会被一两家公司所独占。」微软的服务确实相当完整，但应会优先服务自家产品生态系，因此可为单一厂商定制化的程度有限，且并非所有企业都可接受微软的价格。

杨育明观察，零售、金融、教育、观光、医疗等产业皆出现应用生成式AI的需求，许多企业也希望提升内部生产力工具的效率。他坦言，目前客户端的需求已大于团队可服务的能量。

另一方面，从阳明交大衍生的新创峻魁智能，主打嵌入式AI技术开发、先进驾驶辅助系统（ADAS）应用，现场使用NVIDIA Orin装置验证影像识别效果。

峻魁智能营运长苏培陞表示，团队以软件开发为主，可选择NVIDIA GPU或其他芯片为客户设计出最佳方案，例如也使用到芯鼎科技、耐能智能、安霸（Ambarella）的芯片。

他分析，GPU功能强大，但价格和耗能也较高，在边缘端的运算使用AI芯片较有效益。影像识别一般会用到卷积神经网络（CNN）或Transformer模型，但目前并非所有芯片都可支持Transformer运算，软件开发也会受到限制。

峻魁智能比较GPU与AI芯片的优势。林佳楠摄

此外，时代基金会的新创加速器Garage+率领37家新创参展，其中许多团队主打AI和数据分析技术，背景也相当多元。来自日本的Hacarus主打影像瑕疵检测技术，来自韩国的Nearthlab发展无人载具相关软件，皆有意开发台湾市场商机。

韩国新创Nearthlab开发无人载具相关AI软件。林佳楠摄

由意大利人和台湾人共同创立的Bubbleye，以AI演算法整合不同行销和广告平台的数据，特殊的团队基因也让他们快速打入国际市场。

台义混血新创Bubbleye以AI演算法整合不同行销平台的数据，左为意大利籍CEOStefano Roncari。林佳楠摄