华为、小米LLM手机抢滩边缘AI 苹果没跟到国内4Q23关键字？

「要如何把一只大象放进冰箱？」答案是把冰箱打开来，把大象放进去。如今，手机厂商们，争先恐后地要把大型语言模型（LLM）塞进手机里。相较ChatGPT、Midjourney等AI应用仰赖云端服务器提供服务，国内手机业者从8月起，掀起一波终端大模型浪潮，由华为、小米打头阵，开始纷纷致力于「云端+终端」，不仅可以调用云端算力使用各类AI应用，还要直接让LLM运行在手机上。

高通（Qualcomm）、华为、联发科等芯片大厂，也成为「华米」LLM手机的坚实支柱，正探索将AI大模型导入终端。厂商绞尽脑汁要让LLM「瘦身」塞进手机里，这一波终端大模型浪潮，是否可让手机实现新一代物种进化，迎接下一个iPhone时刻到来？随着苹果（Apple）日前官宣将在9月12日发表iPhone 15，第4季的国内手机市场关键字，是否少不了AI？那么，苹果呢？

延伸报导华为Mate 60 Pro硬件不够力 靠LLM一搏消费者眼球

为何手机厂纷纷角逐LLM？

从2019年开始，以手机为代表的消费性电子产品市场就进入瓶颈期，销量持续下滑，直至2023年，全球手机市场仍未能扭转颓势。据国内信通院数据，2023上半年国内手机出货量1.24亿支，年减7%，另据市调机构Canalys数据，2023年上半全球手机出货量约5.25亿支，较2022年同期下滑逾7,000万支。

手机市场销量下滑，长久以来，各业者的竞争高度同质化，能引起震撼性效果的产品不足，于是厂商之间就只能比较一些细节，例如芯片、电池、镜头镜头、屏幕大小、重量等。

有监于此，手机厂商需要在新技术上，建立竞争优势，也需要透过新的卖点，角逐高端市场，而AI LLM出现后，对手机业者来说是一个有可能引爆市场的新卖点，有资源、有能力的企业就开始布局。

现有技术条件下，手机效能远远不足以支撑LLM运行，目前业界主流的技术方案则是，透过剪枝、量化、蒸馏来替LLM「瘦身」，在尽可能愈少减损精确度的大前提下，降低其所需要的资源和功耗。

高通、联发科已经开始研发用于终端LLM的芯片，这无疑预示着，AI大模型正在从云端向终端转移，而LLM与终端的结合，成了下阶段AI战场必争之地。

在手机上跑LLM 有必要吗？

目前人们使用ChatGPT、Midjourney等AI应用提供的服务，基本都是透过云端服务器完成，以ChatGPT为例，其背后的LLM与运算资源都储存在线上服务器上，用户透过与服务器的实时互动，明显的好处在于，服务器通常配置强大的运算资源，而且可以随时扩充以支持高负载，确保LLM的高效稳定运行。

如今，华为、小米正尝试将LLM导入终端，这意味着前述的工作负载也能在本地（Local）完成，手机操作系统本身具备了一定的AI能力。

从华为8月初展示HarmonyOS 4鸿蒙系统，由华为盘古大模型提供底层支撑的案例来看，现阶段HarmonyOS 4的AI能力，主要由智能语音助理小艺来表现，将AI大模型内置于手机系统底层，华为希望借此全盘提升手机的智能化程度。

值得注意的是，不同于ChatGPT等第三方App安装在手机终端的方式，小艺是与系统的深度结合，在系统层面提供的LLM服务。当手机本身具有AI能力后，就像一个更全能的助理，提供全面的服务。

荣耀手机CEO赵明直言，终端AI大模型的使命，就是能够更好地理解用户：「知道我几点睡觉，知道我喜欢吃什么，能解决我的实时需求，相当于拥有洞察我需求的能力。」

为了达到这些目标，就需要AI根据用户的个人数据和习惯，进行训练，最终让手机成为全能助理，若以苹果Siri来举例，就是要提升语音助理的AI能力，让Siri摘掉「人工智障」的负面标签。

相比之下，无论是ChatGPT还是其他主流的AI应用，都是标准化产品，在不加改造的情况下，很难具备私人助理的能力，这些AI应用并不了解用户，只是根据用户的输入指令，做出相应的回应。至于手机则已经是一个私有的个人智能装置，如果理解人类自然语言的AI模型能在手机上跑，其应用潜力是否有希望让陷入瓶颈多年的手机，再现契机？

华为、小米打头阵 LLM之战暗潮汹涌

华为、小米分别在8月初与中旬，打头阵展示LLM在手机终端的AI应用可能性，侧面反映出手机LLM之战暗潮汹涌，无论是华为或小米，不约而同锁定手机智能语音助理小艺、小爱同学，导入LLM，更已向国内用户开启邀请测试。

不过，从两大业者的发表会来看，显然华为在其华为云盘古大模型的支撑下，已经能支持小艺展现许多AI应用，而小米CEO雷军虽在发表会上，强调小米大模型的重点突破方向，在于「轻量化、本地部署」，优先在手机上实现终端跑通，好让用户能够在手机上更容易使用LLM。

但此恐怕也凸显出相较于华为云的深厚布局，小米本身没有云端布局的深度奥援，小米手机导入LLM的进度，不仅亟需第三方合作伙伴加持，更必须尽早测试LLM与用户互动上的宝贵数据，在未来的竞争中，掌握先机。

截至2023年7月，国内十亿级参数规模以上的LLM，已超过80个，且还在快速增加当中，国内业界号称的「百模大战」并非空谈。以目前情况来看，十亿级参数规模的LLM，可视为敲门砖，但即便百亿参数规模的LLM，也未必保证成功。

有监于参数量本身并非决定战局的压倒性优势，资源调度能力、长期经验累积，LLM发布后还需要反复训练、有序迭代，这场长期投入的LLM之战，其实也是「烧钱」的对决。

即便连OpenAI的ChatGPT目前商业化获利能力仍堪忧，手机业者每一次训练投入，更要累积算力、演算法、数据，即便证明LLM能够导入手机终端产品，但并不意味着能够快速取得投资回报。

手机芯片顶得住？小型、离线化LLM崛起

对比过往的AI技术，将LLM塞进手机里，对手机的算力、储存等效能要求会更高，高通、联发科也都在针对AI大模型终端部署，研发专用芯片。联发科8月24日宣布，将运用Meta最新时代LLM Llama 2及旗下APU和AI开发平台NeuroPilot，建立完整的终端运算生态系统，加速手机、汽车、智能家庭、物联网（IoT）等终端装置上的AI应用开发，预计在2023年底最新旗舰产品上亮相。

但LLM想在手机发挥实力，存在一个显而易见的问题：手机芯片顶得住吗？由于LLM动辄包含上百亿、千亿的参数，且需要天文级的训练，消耗庞大的算力，现有手机芯片效能显然无法满足要求。对此，业界目前较主流的解决方案是「模型小型化」。

简单来说，当LLM网络结构确定后，在尽可能愈少减损精确度的前提下，替LLM「瘦身」，进而降低其所需的资源和功耗。

这一过程通常有三步骤，裁剪掉LLM当中，对精确度影响非常小的参数，被称为「剪枝」；使用更低精确度的数据类型进行推论，行话叫「量化」；而从复杂的LLM当中，提取出效果相近但更加简单的LLM，被称作「蒸馏」，最终目的都是为了缩小LLM。

券商研究报告指出，「小型化」和「离线化」LLM出现，可望加速边缘AI的终端装置和芯片迭代，轻量化AI大模型将赋能硬件终端装置，随着AIGC内容的拓宽，未来智能终端的人机互动可望重塑，也将带来产品逻辑的深度变革。

延伸报导小米自研大语言模型 力拼「轻量化部署」在手机

后发制人 苹果慢热不惊

对于手机终端厂商来说，AI大模型的角力可说是重构护城河的一个过程，LLM不是简单组装即可，背后隐含的是，对厂商技术以及软件等多重能力的考验。

诚然，预计9月12日发表的iPhone 15系列，未必能够马上端出类似华为、小米将LLM导入手机语音助理的「噱头」，尤其是，不同于Google、高通强调LLM在终端的「本地部署」、「离线运行」的路径，目前国内手机厂商端出的是，优先考虑将LLM导入手机语音助理，或者现有的图片查找功能，这种升级本质上还是调用更多云端能力，来使用LLM。

至于小米大模型的发展路径，从雷军强调的本地部署和轻量化方向来看，有监于小米终端LLM相关细节尚未披露，或可推测其可能尝试LLM在手机终端离线运行。

对此，高通也强调，和基于云端的LLM相比，在终端设备本地运行的Llama 2等LLM，不仅成本更低、效能更好、而且不需要连线服务，可以达到更个性化、安全、私密的服务。

表面上看来，抢先呛声苹果的华为，是否能达到本地部署、离线运行？其实还要取决于华为手机内部的芯片配置；而小米，甚或苹果，未来可能走向的LLM在手机终端，离线运行，又将花上多少时间酝酿？

国内手机市场第4季的关键字，虽然可能离不开AI应用，但距离成熟期还早，目前仍处于探索阶段，向来习惯「后发制人」的苹果，并不急。

责任编辑：游允彤