重磅！我国首部《生成式人工智能服务管理办法》即将立法审议

来源:OFweek电子工程发布时间:2023-06-121822浏览

点击维科网电子工程→ 主页右上角 → 设为星标

随着生成式AI的快速发展，全社会开始对该技术存在的隐患担忧。近日来，全球各国政府都在寻求建立和完善生成式AI的监管机制，以引导未来AI技术的可控和可持续的健康发展。在这场和AI赛跑的时间争夺战中，中国依靠立法走在了AI监管的前列。6月8日，国务院办公厅日前印发了《国务院 2023 年度立法工作计划》，其中显示，《生成式人工智能服务管理办法（征求意见稿）》等预备提请全国人大常委会审议。

“AI监管”，正在进行时

目前，由ChatGPT引发的AI热潮正在全球蔓延。经过多年的技术迭代、样本积累和算力的爆发增长，生成式人工智能迎来了真正的“涌现能力”节点。这股潮流被视作“百年来不可错失之机遇”。国内外科技巨头、互联网大厂纷纷下场参战，大大小小的AI大模型如雨后春笋，霎时间挤满了生成式AI赛道。

而“野蛮生长”的背后，往往隐藏着不可预知的威胁。自去年底ChatGPT爆火以来，生成式AI从一定程度上降低了相关技术的操作门槛。随之，有关AI诈骗、AI非法换脸等利用AI技术侵犯人权和财产的犯罪事件层出不穷。技术层面，AI训练和处理数据涉及个人信息，隐私泄露和安全问题尤为突出。其次，现阶段生成式AI大模型通常采用“黑箱”技术，AI系统无法“解释”其行为或决策的标准，可能产生误导性和歪曲性。此外，数据投毒攻击、对抗样本攻击也对生态和国家安全存在威胁。面对生成式AI迅猛的发展速度，实行严格的监管制度势在必行。2023年4月11日，为促进生成式人工智能技术健康发展和规范应用，根据《中华人民共和国网络安全法》等法律法规，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》（下文简称“《征求意见稿》”或“《新规》”），并就《征求意见稿》向社会公开征求意见。鉴于生成式AI的利弊表现，征求意见稿提出一系列相应要求：生成式人工智能产品提供服务前需申报安全评估；需对生成的图片、视频进行标识；内容应当真实准确；不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销等。

图源：中国司法部官网在征求意见稿公布之前，国际上尚无一部规制生成式人工智能的法律法规。此次意见稿率先发布，也反映了中国在人工智能治理领域的先发位置。早在ChatGPT爆火之前，我国已对生成式人工智能有所关注，并开始为规范和监管生成式AI布局。2022年3月，我国颁布实施了《互联网信息服务算法推荐管理规定》，其中对生成式AI的“深度合成技术”加以关注，将生成合成类算法作为五类算法推荐服务规制对象之首，从而将深度合成算法技术纳入我国算法监管体系之中。2023年1月，我国已经开始施行《互联网信息服务深度合成管理规定》，这是中国首部专门针对人工智能特定技术制定的法规。事实上，AI监管这条赛道上，不止有中国。

“AI监管”，下一个增量赛道

类GPT大模型表现出来的不受控和无视规则，让各界奔走呼吁，加强AI监管。包括AI“教父”杰弗里・辛顿，“ChatGPT之父”、OpenAI创始人萨姆・奥特曼，Google DeepMind 首席执行官戴米斯・哈萨比斯，以及2018年图灵奖得主约书亚・本希奥在内的等AI领域的大佬，纷纷在不同场合表达了关于对AI立即采取监管措施的诉求。关于推进AI监管的公开信，全球也已陆续签署了多篇。为应对呼吁和督促，世界各国政府也在抓紧推进相关的限制和监管举措。

4月11日，美国商务部也开始正式公开征求意见，其中包括新人工智能模型在发布前是否应经过认证程序等内容。5月11日，欧洲议会内部市场委员会和公民自由委员会通过了欧盟委员会提出的“人工智能法案”提案的谈判授权草案，该草案将于6月中旬提交欧洲议会全会表决。5月11日，日本政府召开了“AI战略会议”，讨论如何妥善应对AI的潜力和风险。5月16日，美国国会召开主题为“AI监管：人工智能规则的听证会”，首次对OpenAI创始人萨姆・奥特曼质询，参议院表示该场听证会开启了对人工智能先进算法和强大技术的监督和阐释工作。5月24日，欧盟委员会宣布其正着手在法律正式生效之前制定一项涉及欧洲和非欧洲公司的AI协议。6 月 8 日，英国政府宣布，今年秋天将举办有史以来第一次人工智能安全全球峰会。这次峰会将邀请关键国家、领先的科技公司和研究人员，共同讨论评估和监督人工智能带来的最重大风险的安全措施。

图源 Pexels由此可见，AI的“全面监管”时代即将到来。而对AI进行监管，有业内人士表示，严格的监管措施可能会阻碍AI技术的进一步发展。但是要看到，目前为止的AI技术革新，来自于之前已经纳入发展规范的各领域技术的融合。合理的监管，是促进技术正向发展的必要条件。法立于上，则俗成于下。我国出台的《生成式人工智能服务管理办法》以及世界各国即将落地的监管政策，将为生成式AI划定“边界”和“底线”，同样也为AI技术圈定适宜的生存空间。创新技术的存在，是为造福人类。已经开始飞奔的AI技术，不可能按下暂停键，但是可以引导他驶向光明的未来。附《生成式人工智能服务管理办法（征求意见稿）》：“第一条为促进生成式人工智能健康发展和规范应用，根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规，制定本办法。第二条研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的，适用本办法。本办法所称生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。第三条国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。第四条提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，符合以下要求：（一）利用生成式人工智能生成的内容应当体现社会主义核心价值观。（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。（三）尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。（四）利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。（五）尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。第五条利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。第六条利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。第七条提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求：（一）符合《中华人民共和国网络安全法》等法律法规的要求；（二）不含有侵犯知识产权的内容；（三）数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形；（四）能够保证数据的真实性、准确性、客观性、多样性；（五）国家网信部门关于生成式人工智能服务的其他监管要求。第八条生成式人工智能产品研制中采用人工标注时，提供者应当制定符合本办法要求，清晰、具体、可操作的标注规则，对标注人员进行必要培训，抽样核验标注内容的正确性。第九条提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定，要求用户提供真实身份信息。第十条提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。第十一条提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。法律法规另有规定的，从其规定。第十二条提供者不得根据用户的种族、国别、性别等进行带有歧视性的内容生成。第十三条提供者应当建立用户投诉接收处理机制，及时处置个人关于更正、删除、屏蔽其个人信息的请求；发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合本办法要求时，应当采取措施，停止生成，防止危害持续。第十四条提供者应当在生命周期内，提供安全、稳健、持续的服务，保障用户正常使用。第十五条对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在 3 个月内通过模型优化训练等方式防止再次生成。第十六条提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。第十七条提供者应当根据国家网信部门和有关主管部门的要求，提供可以影响用户信任、选择的必要信息，包括预训练和优化训练数据的来源、规模、类型、质量等描述，人工标注规则，人工标注数据的规模和类型，基础算法和技术体系等。第十八条提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容，不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销。用户发现生成内容不符合本办法要求时，有权向网信部门或者有关主管部门举报。第十九条提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。第二十条提供者违反本办法规定的，由网信部门和有关主管部门按照《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规的规定予以处罚。法律、行政法规没有规定的，由网信部门和有关主管部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停或者终止其利用生成式人工智能提供服务，并处一万元以上十万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。第二十一条本办法自 2023 年月日起实施。【温馨提示】

由于微信公众平台修改了推送规则，没有加“星标★”的读者，收到的推送仅有标题和小图，或者十天半个月都无法收到最新的推送。建议读者朋友们多点击“点赞、在看、收藏”，并点击微信公众号右上角的“设为星标★”，成为常读用户。