41项深度合成算法已备案！百度字节阿里腾讯等在列

点击维科网电子工程→ 主页右上角 → 设为星标

6月20日，据“网信中国”微信公众号消息，国家互联网信息办公室发布境内深度合成服务算法备案清单（2023年6月），其中包括美团在线智能客服算法、快手短视频生成合成算法、百度文生图内容生成算法、百度PLATO大模型算法、天猫小蜜智能客服算法、菜鸟物流智能客服算法、讯飞星火认知大模型算法、腾讯云语音合成算法等合共41项深度合成服务算法（详细的清单请见下文附表）。

根据《互联网信息服务深度合成管理规定》第十九条明确规定，具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。深度合成服务技术支持者应当参照履行备案和变更、注销备案手续。请尚未履行备案手续的深度合成服务提供者和技术支持者尽快申请备案。

深度合成技术是人工智能发展中最具争议的领域之一。中国对深度合成技术实施监管，在全球算法监管方面领先一步。

深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。

深度合成是在2014年一种开源算法诞生后出现的，在人工智能驱动下一直在不断发展，并扩展到不同的媒介，比如聊天对话、换脸应用、虚拟人物等，这些在商业和娱乐应用中的效用越来越大。所有这些应用现在通常被归类为“生成式人工智能”。

近年来，深度合成技术快速发展，在服务用户需求、改进用户体验的同时，也被一些不法人员用于制作、复制、发布、传播违法和不良信息，诋毁、贬损他人名誉、荣誉，仿冒他人身份实施诈骗等，影响传播秩序和社会秩序，损害人民群众合法权益，危害国家安全和社会稳定。

从今年1月10日起，由国家网信办、工信部、公安部联合发布的《互联网信息服务深度合成管理规定》（简称“规定”）正式实施，针对所谓的深度合成技术，包括人工智能图像、音频和文本生成软件，进行了边界划分和初步规范。

这标志着世界上首次由一个主要监管机构全面尝试遏制人工智能发展中最具爆炸性和争议性的领域之一。

《规定》中要求，禁止使用人工智能生成的内容来传播假新闻，或被认为对经济或国家安全具有破坏性的信息。定义广泛的类别给了当局很大的解释空间。

《规定》还要求，深度合成技术的提供者，包括公司、研究机构和个人在可能被误解为真实的图像、视频和文本时，应将它们突出标记为合成或编辑过的。

而美国方面，也在试图解决deepfakes的扩散和潜在滥用问题，但因为言论自由问题而停滞不前。

面对生成式AI迅猛的发展速度，实行严格的监管制度势在必行。

今年4月，国家网信办起草了《生成式人工智能服务管理办法（征求意见稿）》，当中要求生成式人工智能产品提供服务前需申报安全评估；需对生成的图片、视频进行标识；内容应当真实准确；不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销等。

早在ChatGPT爆火之前，我国已对生成式人工智能有所关注，并开始为规范和监管生成式AI布局。

事实上，世界各国政府也在抓紧推进相关的限制和监管举措。

4月11日，美国商务部也开始正式公开征求意见，其中包括新人工智能模型在发布前是否应经过认证程序等内容。

5月11日，欧洲议会内部市场委员会和公民自由委员会通过了欧盟委员会提出的“人工智能法案”提案的谈判授权草案，该草案将于6月中旬提交欧洲议会全会表决。

5月11日，日本政府召开了“AI战略会议”，讨论如何妥善应对AI的潜力和风险。

5月16日，美国国会召开主题为“AI监管：人工智能规则的听证会”，首次对OpenAI创始人萨姆・奥特曼质询，参议院表示该场听证会开启了对人工智能先进算法和强大技术的监督和阐释工作。

5月24日，欧盟委员会宣布其正着手在法律正式生效之前制定一项涉及欧洲和非欧洲公司的AI协议。

6 月 8 日，英国政府宣布，今年秋天将举办有史以来第一次人工智能安全全球峰会。这次峰会将邀请关键国家、领先的科技公司和研究人员，共同讨论评估和监督人工智能带来的最重大风险的安全措施。

由此可见，AI的“全面监管”时代即将到来。

而对AI进行监管，有业内人士表示，严格的监管措施可能会阻碍AI技术的进一步发展。但是要看到，目前为止的AI技术革新，来自于之前已经纳入发展规范的各领域技术的融合。合理的监管，是促进技术正向发展的必要条件。

由于微信公众平台修改了推送规则，没有加“星标★”的读者，收到的推送仅有标题和小图，或者十天半个月都无法收到最新的推送。建议读者朋友们多点击“点赞、在看、收藏”，并点击微信公众号右上角的“设为星标★”，成为常读用户。

添加小助手微信，加入电子工程行业交流群