随着人工智能（AI）技术的快速成熟，AI逐渐进入市场普及阶段，各行业纷纷希望通过AI实现转型升级。据研华边缘服务器事业群副总经理鲍志伟透露，结合大型语言模型（LLM）与边缘AI的模式正成为行业热点，特别是代理式AI（Agentic AI）在边缘端的落地实践，被认为是未来边缘计算市场的重要方向。

鲍志伟指出，边缘AI的发展得益于LLM模型的逐步缩小，使其能够在资源有限的边缘端运行，无需依赖云端资源。与云端LLM不同，边缘AI主要针对特定问题进行反应。因此，在导入AI应用前，不同产业需先明确需要解决的问题，并根据需求构建相应的解决方案。

目前，实时边缘AI应用已展现出较大成长潜力。例如，将AI引入现有智能设备，用于预防性维护、智能品质监测等场景。当设备需要维护或检测到品质问题时，AI可自动触发维护排程或不良品处理流程。此外，自助零售终端和自动化客服终端也通过AI增强了互动性。更进一步的应用包括优化LLM推理能力，例如AI客服、电子邮件与文件摘要生成、网络安全与欺诈检测等。

鲍志伟还提到，边缘AI已能支持特定领域的专业训练。例如，金融与法律领域的AI模型可用于法务文件分析和风险评估；医疗领域则可辅助诊断和患者数据分析。甚至在软件开发中，AI也能协助代码生成与错误检测。据透露，这些应用已有实际案例落地，更多细节将在AI EXPO Taiwan 2025上进一步披露。

然而，要让LLM在边缘端顺利运行，除了满足算力需求外，还需应对不同场景的环境挑战。研华等工业电脑（IPC）厂商正积极开发支持多种开源LLM的硬件平台，同时注重优化LLM的推论能力，确保平台具备低延迟和可扩展性，以满足不断增长的应用需求。

鲍志伟强调，随着LLM在边缘端的应用范围扩大，IPC厂商在产品规划中还需关注用户需求的持续变化，提供灵活且高效的边缘AI解决方案，助力各行业实现智能化转型。