边缘运算随AI起风 IPC大展「嵌入式」长才

边缘运算将数据处理移往设备端，降低延迟提高反应速度。法新社

ChatGPT让市场对大型语言模型（LLM）等AI应用产生极大兴趣，一时之间各产业的不同应用，都想借由AI创造新价值。由于实际应用上，无法将全数AI运算都置于云端，让边缘运算随之而起，以嵌入式为基础的各式产业电脑（IPC）将成关键。

业者指出，边缘运算是将数据处理与分析工作，移往数据来源的设备端，而非全数依赖线上的云端服务。此模式使得数据搜集、处理及储存等作业，直接在传感器、智能设备或嵌入式系统等生成端进行，减少传输带宽与时间递延影响，并提高系统效能与反应速度。

根据研调单位预估，边缘运算市场规模将从2021年的18.9亿美元，成长至2026年的58.4亿元；2021年时，边缘运算装置中具备深度机器学习能力的比重不到10%，2027年时将提升至65%。

业者认为，将AI导入边缘运算的优势包括低延迟，因为算力推进至数据端，可大幅缩减数据在云端与边缘间的传输时间，实践实时反应与快速处理；在隐私安全保护方面，因为数据处理分析在现场端，减少网络上传输需求，保护机台设备的敏感数据。

另外，若AI模型的运算与处理都在设备端完成，仅需将重要数据与结果回传云端/后台，节省对数据传输的带宽需求；边缘运算甚至能进行离线运作，在偏远地区、工厂等网络断线或有限网络的环境运作，亦可提供更高的可靠性及可用性。

虽然将AI置于边缘端有许多优势，但业者提到，想让AI在边缘端运行，还是需要一定的算力，虽然一般PC也能提供，但许多应用的边缘端需将终端设备置于偏远地区、狭小空间，甚至高温、潮湿等恶劣环境，对一般PC而言有较大挑战。

不过，对于长期耕耘嵌入式系统的IPC业者来说，不论抗震、防尘、防水、宽温、耐冲击等设计，都属于基本功，像是研华、研扬、凌华、磐仪、宸曜等业者，都已针对边缘运算需求，提出整合GPU或其他加速产品的AI边缘运算硬件平台，并广泛导入医疗、工业控制、自驾车等领域。

宸曜董事长高明和认为，AI应用兴起，以及将AI运算分析移往边缘，是产业重要趋势，因为不论是基于提升效率、准确性，或降低人力需求，大量运用AI技术是共同方向，但这些应用不能像过去一样仰赖云端/后台算力支持，在分层分工的前提下，才能达成资源有效应用，所以对于高效能、低功耗且能适用于恶劣、极端环境条件的边缘运算平台需求将大幅提升。

同样看好AI结合边缘运算市场商机的，还有研华董事长刘克振。刘克振先前提到，现在许多AI应用以云端为主，但随着各产业的实际应用需求陆续产生，终端设备也需要具备AI能力，将运算需求就近交由终端设备解决的情况，也将愈来愈多。

凌华在边缘AI领域也已着墨多年，不仅与多家上游芯片业者紧密合作，也有完整的产品线。凌华先前表示，边缘AI市场将于2024年起陆续浮现。

责任编辑：游允彤