魔搭社区推出AI Agent开发框架，人人都可基于开源LLM“攒”出智能体应用

9月5日消息，阿里云牵头建设的AI模型社区魔搭（ModelScope）又上新了，推出适配开源大语言模型的AI Agent开发框架ModelScope-Agent。借助ModelScope-Agent，所有开发者都可基于开源 LLM 搭建属于自己的智能体应用，最大限度释放想象力和创造力。ModelScope-Agent的代码现已开源。

AI Agent（AI智能体、AI代理）可谓当前大模型领域最热门的研究方向，它是指基于LLM的、能够使用工具自主完成特定任务的智能体。众所周知，目前阶段的LLM存在能力边界，主要擅长处理文本任务。AI Agent将LLM与其他模型、软件等外部工具协同，便能处理真实世界中的各种复杂任务，比如接入视频生成模型，自主生产视频；接入外部软件，帮人类写邮件、订票、购物等等。

AI Agent类应用正在成为大模型创业的重要赛道，AI Agent 开发框架也应运而生。但业界现有的AI Agent 开发框架大多基于闭源 LLM 构建。为了充分释放开源 LLM 的生产力，魔搭社区自研了适配开源 LLM 的AI Agent开发框架ModelScope-Agent。简而言之，ModelScope-Agent是pilot（领航员）而非copilot（副驾驶员）。

此前，魔搭已用这套框架在社区做了“打样”，搭建 ModeScopeGPT，它能通过自然语言与用户交互、接受用户指令，通过“中枢模型”通义千问调用社区的众多AI模型API，自主完成人类布置的任务。ModeScopeGPT的调用量已超过25万。

（ModelScope-Agent系统架构图）

AI Agent的工作流程一般包括任务的理解、规划和执行，其中，LLM 负责任务规划、工具调用以及回复生成，是整个流程的智能中枢，好比人类的大脑。ModelScope-Agent允许开发者自由选择智能体的“大脑”，适配百川、通义千问等各类开源模型。主流LLM能够做到“即插即用”，开发者如需专门训练LLM 以增强其工具调用能力，可以参考ModelScope-Agent开源的训练数据、训练方法、优化方案、评估方法。

ModelScope-Agent开发框架还包含记忆控制、工具使用等模块，记忆控制模块支持知识检索以及prompt（提示词）管理，工具使用模块支持工具库、工具检索、工具定制。为了增强开源大模型工具调用能力，魔搭社区还自研了一个包含60w样本的MSAgent-Bench工具调用数据集。

大多数 AI Agent开发框架需要手动添加工具，而ModelScope-Agent 通过调用魔搭社区上开源的文本向量模型，打造API 工具检索引擎，能让AI Agent根据用户指令自动检索相关工具。如果开发者想要新增外部工具/API，只需要在ModelScope-Agent上注册工具，即可直接调用。

开源正在成为很多头部大模型玩家的选择。未来，ModelScope-Agent会适配更多新增的开源LLM，并将推出更多基于ModelScope-Agent开发的应用，如个人助理 Agent、StoryAgent、Multi-Agent等。魔搭鼓励开发者用ModelScope-Agent探索工业制造、游戏开发、智能互联等行业的应用。

魔搭社区表示，作为国内规模最大、用户最活跃的AI模型开源社区，魔搭将持续通过开源开放推进大模型技术和应用发展。此前，阿里云曾表示要把促进中国大模型生态的繁荣作为首要目标，并将魔搭建设成为中国最大的大模型自由市场。