LLM仍存五大限制 Google盼藉查找引擎改善

Google杰出科学家纪怀新属DeepMind团队，此行访台盼深化与台湾学界及Google台湾团队的交流。林佳楠摄

Google杰出科学家纪怀新（Ed H. Chi）表示，大型语言模型（LLM）改变人类与人工智能（AI）互动的方式，早期发展阶段仍有诸多限制，团队正朝提升准确性、减少幻觉（Hallucination）等方向改善，导入查找引擎的实时信息和外部知识为部分解法。

来自台湾、长驻美国的纪怀新属Google DeepMind部门，带领机器学习研究团队。Google数据显示，他曾在6年半之内，取得美国明尼苏达大学的学士、硕士和博士三学位。

DeepMind原为Google在2014年购并的AI新创，因开发出打败人类棋士的AlphaGo而声名大噪。Google近期将Brain与DeepMind团队合并，并由DeepMind共同创始人DemisHassabis担任主管。

纪怀新谈到，机器学习为Google的强项，曾用于YouTube的推荐系统、App Store查找、Waymo自驾车、Android车用系统等，近年也用于开发Language Model for Dialogue Application（LaMDA）模型、对话机器人Bard等。

以往的个别模型通常支持单一任务；如今单一LLM可支持数百万个任务，并提升人机对话的互动性，而非仅是一来一往的交换。虽然Bard已开放使用，但纪怀新仍将Bard定位为实验型产品，坦言还有改善空间。

纪怀新认为，所有LLM仍存诸多限制，包括准确性不足、偏差、人格化特质、回应不稳定、恶意提示攻击等问题，这也是Google在研究的面向。

例如，AI机器人引发的「幻觉」即是准确性不足的问题；人格化则是指AI从训练数据中抽取个人化的回答，让人感觉好像有个性，但事实上，要不要让AI人格化也是开发者得处理的议题，须从用户回馈中持续学习。

纪怀新并未指名哪个聊天机器人对应哪些问题。不过目前看来，曾被指出有人格化议题的是微软（Microsoft）Bing，有用户反应Bing曾出现示爱、负面情绪等表现。相较之下，Google Bard较常被质疑的是回复不够准确、自然。

纪怀新表示，团队致力让Bard可基于事实数据产出回复，也在研究如何解决上述种种问题，包括导入查找引擎，透过实时信息提升回复准确性，并确保数据来源更为周全、降低偏差性。

LLM的变革仍属早期阶段，会大幅改变人与AI互动的方式。而在台湾，语言和学科家教会是相当有趣的应用场境，例如作为英语或数学等学科的个人助教。由于查找引擎拥有大量数据、如同superhuman，若能化为个人助教，相信可提升用户的学习成效。

由于GoogleCloud可让用户选择使用GoogleTPU或NVIDIA GPU，那么Bard和LLM相关训练推论是用到哪一类芯片？

纪怀新表示，Google在AI领域投入许多资源，包含硬件研发，几乎与深度学习相关的产品开发都是用自家TPU。他也看好台湾人才在AI/ML的潜能，此行访台盼深化与台湾学界的交流。

未来，Bard是否可支持台语、客语等方言？纪怀新回应，要搜集低资源（low resource）语言之语料，对Google也是项挑战，通常得与各地学者合作。中研院等学术机构也相当注重这方面的研究，Google有相当意愿合作。

事实上，Meta于2022年下旬发表闽南语与英语互译的系统，来自台湾的Meta软件工程师陈鹏仁即与台大电机系副教授李宏毅团队合作，采用来自台语连续剧的大量语料。

Google曾表示，全球首个半导体产学研究计划落地台湾，与台大、成大、阳明交大和清大等学校合作，计划涵盖AI、自然语言处理、数码健康等面向。

延伸阅读：
Google半导体产学合作 成大、台大领头羊

Meta闽英互译下一步？提升精确率、保留原音

责任编辑：朱原弘