植德数字经济 | 关于我国生成式人工智能与深度合成监管差异与联系的探析
作者：李倩 谌惠
本文共计4200字，阅读需约11分钟
2022年11月3日，国家互联网信息办公室、工业和信息化部、公安部令发布《互联网信息服务深度合成管理规定》（以下简称“《深度合成管理规定》”），该规定自2023年1月10日起施行。
该规定正式施行后时隔三个月，2023年4月11日，国家互联网信息办公室又公布了《生成式人工智能服务管理办法（征求意见稿）》（以下简称“《生成式人工智能办法》”）向社会公开征求意见。
可见网信办等国家监管机构对人工智能技术的高度关注，但也让很我们产生些疑惑，那就是深度合成规定与生成式人工智能办法中所指的技术或者说两个法规适用对象有什么区别？同时它们之间有什么联系？
一、技术区别
首先，笔者根据《深度合成管理规定》和《生成式人工智能办法》中的规定，从语义上进行二者的对比。
生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。
深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术，包括但不限于：
（六）三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术。
从以上定义来看，生成式人工智能和深度合成技术从字面上比较有以下区别：
1、生成式人工智能较深度合成技术而言不仅仅指由算法生成，还包括了模型、规则生成的内容
《生成式人工智能办法》第四条也提到：“提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，符合以下要求：...（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视...”
从定义以及《生成式人工智能办法》第四条第二项的要求上看，生成式人工智能不局限于算法技术，还包括了模型和规则，在计算机科学角度，算法和模型、规则不是一个概念，算法是在代码中实现并在数据上运行的过程，模型是运行在数据集上的机器学习算法的输出，规则是算法的底层逻辑和思想。
笔者认为，虽然生成式人工智能中涉及算法的部分与深度合成技术较为类似，均属于生成合成类算法技术范畴内，但生成式人工智能办法希望监管的范围比单纯的算法更广。
2、深度合成技术与生成式人工智能技术应用场景侧重点不同
在此要介绍下两个词语的来源，深度合成技术来源于国外深度伪造（deep fake）一词，即深度学习deep learning和伪造fake的结合，生成式人工智能来源于国外非常热门的AI Generated Content。
笔者认为在生成合成类算法角度而言深度合成技术和生成式人工智能在本质上没有实质性区别，而是由于应用侧重点不同导致有所区分，例如深度合成技术主要应用功能为合成类软件例如Deep Fake，生成式人工智能主要应用功能于人工智能对话机器人例如chatGPT。
二、法规适用区别
1、立法目的不同
首先从上位法以及立法目的来看，《深度合成管理规定》的立法目的是为了加强互联网信息服务深度合成管理，其上位法中有《互联网信息服务管理办法》，可见深度合成技术规定的侧重点在于互联网的治理。在《深度合成管理规定》答记者中介绍到，制定该规定的初衷之一是维护网络空间良好生态，深度合成服务在满足用户需求、改进用户体验的同时，也被一些不法人员用于制作、复制、发布、传播违法信息，诋毁、贬损他人名誉、荣誉，仿冒他人身份实施诈骗等违法行为，影响传播秩序和社会秩序，损害人民群众合法权益，危害国家安全和社会稳定。
而《生成式人工智能办法》的立法目的在于促进生成式人工智能健康发展和规范应用，不仅仅限于互联网的治理，而是关注于整个人工智能行业的健康发展。
2、监管范围不同
《深度合成管理规定》较《生成式人工智能办法》不同的是，它的监管范围除了技术的提供者还包括深度合成服务技术支持者（为深度合成服务提供技术支持的组织、个人）和深度合成服务使用者（使用深度合成服务制作、复制、发布、传播信息的组织、个人）。
3、具体合规要求不同
《深度合成管理规定》明确了深度合成服务提供者和技术支持者对训练数据的管理义务，还对训练数据和其他数据作出区分并提出不同监管要求，比如单独设计“输入数据”相关条款，例如第十条规定“深度合成服务提供者应当加强深度合成内容管理，采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核”。
《生成式人工智能办法》对数据来源的合法性规定主要是侧重于提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责，要求用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求：（一）符合《中华人民共和国网络安全法》等法律法规的要求；（二）不含有侵犯知识产权的内容；（三）数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形；（四）能够保证数据的真实性、准确性、客观性、多样性；（五）国家网信部门关于生成式人工智能服务的其他监管要求。
两个规定对于输出内容应当符合法律规定、体现社会主义核心价值观等正面导向均有一般性规定，虽然表达的具体语义不一样，但笔者不在此具体列示。笔者认为两个对于发现输出内容不符合正面导向的相应规定时的处理结果有些许不同，主要表现在《生成式人工智能办法》对使用者的措施非常简单，只有暂停或终止服务两种，而《深度合成管理规定》有警示、限制功能、暂停服务、关闭账号等措施。
但《生成式人工智能办法》有一个特色措施，即第十五条：“对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在 3 个月内通过模型优化训练等方式防止再次生成”，虽然该条没有像上下其他条款中写明主体是提供者，但笔者认为从该条文内容来看应当是针对提供者的合规义务，猜测是否为征求意见稿漏写？该条款要求提供者应在3 个月内通过模型优化训练等方式防止再次生成，可见监管部门希望人工智能技术能够通过优化训练积极向善发展。
三、两个法规之间的衔接
虽然两个法规在立法目的、监管范围以及具体合规要求方面有不同侧重，但两个法规以及《算法推荐管理规定》之间还是有相互链接的地方，《生成式人工智能办法》中在第六条和第十六条中都提到在某种情况下应当按照《互联网信息服务算法推荐管理规定》、《深度合成技术规定》中的相应规定来处理。
例如《生成式人工智能办法》第六条规定：“利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续”。
《生成式人工智能办法》第十六条规定：“提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识”。
同时，两个规定在监管中与其他规定的衔接还具有一致性，例如算法备案和安全评估方面，两个规定对于生成式人工智能和深度合成技术的产品都规定了相应的要求。
例如《生成式人工智能办法》第六条规定：“利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续”。
《深度合成管理规定》第十九条规定：“具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续” 。第二十条规定：“深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能的，应当按照国家有关规定开展安全评估” 。
结语
随着人工智能技术的不断发展，当大量信息涌入社会公众面前时，一般民众难以判断信息的真实性，导致了互联网已经进入了“眼见不一定为实”的后真相时代，监管部门必然将在《数据安全法》《网络安全法》《个人信息保护法》等上位法框架下继续完善配套监管规则，根据不同的业务领域的特点布局相应的监管要求，逐步填补对人工智能技术的监管空白。
鉴于目前生成式人工智能办法征求意见稿尚未正式通过，各专家、学者对于本文探讨的《生成式人工智能办法》征求意见稿如何与《深度合成管理规定》以及《互联网信息服务算法推荐管理规定》等规定中相互衔接和适用的问题仍有许多疑问。
虽然笔者认为两个技术在语义和应用场景方面存在不同的侧重点，但是这两个技术究竟有何区别，或者说两个规定的适用范围有何区别在行业内还是存在很多争议，因此在生成式人工智能办法正式施行后，是否存在适用主体发生冲突或矛盾的可能性还是有待监管部门释明。
植德元宇宙与数字经济
植德元宇宙与数字经济行业委员会，从元宇宙产业链、法律、商业模式等多角度出发，专注于研究元宇宙监管、区块链游戏、NFT、商业模式中的法律问题，为客户提供多维度的元宇宙法律服务，包括投融资、IPO、知识产权、合规（数据合规、刑事合规、税务合规、知识产权合规）等法律服务。
植德元宇宙与数字经济行业委员会由在不同合规专业领域具有行业、法律多重背景，且深耕多年的合伙人组成，擅长通过完整且动态的合规体系来协助元宇宙企业搭建合规制度，完善产品合规性，在事前、事中和事后多个环节进行风险防范或危机处理，结合商业化思维，协助客户做好合规审查和风险防控，为客户的经营活动保驾护航。
植德元宇宙与数字经济行业委员会
合伙人：郭晓兴、何京、李倩、时萧楠、汪闻超、王妍妍、王海青、杨诚、赵芸芸
合伙人 李倩
业务领域：投资基金 、银行与金融 、家事服务与财富管理
134 7608 5669
tracy.li@meritsandtree.com
谌惠
业务领域：投资基金、银行与金融
186 2778 8617
hui.shen@meritsandtree.com
声明
以上所刊登的文章仅代表作者本人观点，不得视为植德律师事务所或其律师出具的正式法律意见或建议。如需转载或引用该等文章的任何内容，请注明出处。未经本所书面同意，不得转载或使用该等文章中包含的任何图片或影像。如您有意就相关议题进一步交流或探讨，欢迎与本所联系。