附对照表 | 全球首部生成式AI行政立法有何看点？

在对生成式人工智能的监管方面，中国走在了世界前列。来源 | 综合澎湃新闻、光明日报、财经E法、路透社、知产力等消息文字及对照表整理、编辑 | 布鲁斯

2023年，可以被称为生成式人工智能技术应用爆发的一年。以ChatGPT为代表的生成式人工智能服务，已经让人们初步领略了人工智能的魅力和潜力。它们能写会画，能弹会唱，似乎一夜间解放了打工人，让人欢喜让人忧。

而自从ChatGPT爆火以来，全球科技企业也纷纷入场生成式人工智能。2023年，微软宣布与OpenAI扩大合作伙伴关系，正将ChatGPT整合进Bing搜索引擎等微软产品中；百度推出文心一言项目；谷歌推出对话人工智能Bard……

可以预见，从2022年火到2023年的ChatGPT们，在未来相当长一段时期内，还将继续火下去。

ChatGPT们来袭，催生新的监管措施

生成式人工智能是一把双刃剑。它在帮助人们提高生产力、给人们生活带来改变的同时，也给人们带来伦理道德、社会治理、法律法规等方面的新问题。其中，生成式人工智能带来的知识产权问题也引起热议。

相关链接

这也令部分人群产生了担忧。对于深度人工智能的未来，特斯拉首席执行官伊隆·马斯克（Elon Musk）就有些忧心忡忡。“这样的超级智能有强大的能力，比人类要强大，这也代表着一种风险和隐忧。”马斯克在近期举行的世界人工智能大会开幕式上说，“它可能会有很积极的未来，但也有概率引发一些负面事件，我们要尽自己所能确保这些消极的未来不发生，积极的未来会发生。”

其实，早在今年（2023年）3月，伊隆·马斯克等千名业界和学界人士就已联署公开信《暂停大型人工智能研究》，呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的AI系统，暂停时间至少6个月，以便制定和实施安全协议。截至目前，马斯克、苹果联合创始人Steve Wozniak、Stability AI创始人Emad Mostaque等上千名科技大佬和AI专家已经签署公开信。美国政府也已开始研究是否需要监管ChatGPT。

新兴的技术不能没有监管。除了美国外，欧洲也已准备出台相关监管措施。今年6月14日，欧洲议会以499票赞成、28票反对和93票弃权的压倒性结果通过了《人工智能法案》草案。若通过立法，或成为全球首个关于人工智能的法案。但欧洲媒体随后评论称，《人工智能法案》预计将在今年年底获得最终批准，完全生效还需数年时间。

该法案旨在确保欧盟使用的生成式人工智能工具的安全性、透明度，并明确一部分问责制度。2021年，欧盟委员会提出全球首部监管人工智能的法律草案，此后欧洲议会和欧盟理事会就草案进行多轮修订和讨论。在ChatGPT等生成式人工智能应用横空出世后，欧盟立法者紧急商讨了原版本草案中未涵盖的问题。

亚洲方面，日本政府的目标是年底前制定人工智能管理办法，相对于欧盟方面倡导的严格监管规则，日本可能倾向于制定比欧盟更为宽松的人工智能使用规则，更接近美国的态度。

而这一次，在对生成式人工智能的监管方面，中国走在了世界前列。

全球首部生成式AI行政立法即将生效

为促进生成式人工智能技术健康发展和规范应用，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》，并在今年4月11日至5月10日期间就《生成式人工智能服务管理办法（征求意见稿）》（下称征求意见稿）公开征求意见。

征求意见稿拟规定，利用生成式人工智能生成内容应尊重知识产权，防止生成虚假信息。

根据征求意见稿，提供生成式人工智能产品或服务应当尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争；尊重他人合法利益，防止侵犯知识产权；禁止非法获取、披露、利用个人信息和隐私、商业秘密；同时，利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

征求意见稿还特别指出，用于生成式人工智能产品的预训练、优化训练数据，应不含有侵犯知识产权的内容。

此外，征求意见稿还拟规定，利用生成式人工智能提供聊天、图像生成等服务的提供者，发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合该办法要求时，应当采取措施，停止生成，防止危害持续。

5月23日，国家网信办2023年第12次室务会会议审议通过了《生成式人工智能服务管理暂行办法》（下称《暂行办法》），并经国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部、国家广播电视总局同意后，于7月14日对外公布。《暂行办法》将自2023年8月15日起施行。

据悉，这是中国首次对生成式AI研发及服务作出明确规定，也将有可能是全球范围内最早生效的一部专门针对生成式人工智能领域的行政立法。

与征求意见稿相比有何变化？

此次公布的《暂行办法》共分为5章24条。相比于征求意见稿，《暂行办法》新增了不少内容。

征求意见稿中涉及知识产权的规定在《暂行办法》中得到保留和完善，包括规定：提供和使用生成式人工智能服务，应当“尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为”；征求意见稿中的“用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求：……（二）不含有侵犯知识产权的内容”，修改为了“生成式人工智能服务提供者（以下称提供者）应当依法开展预训练、优化训练等训练数据处理活动，遵守以下规定：……（二）涉及知识产权的，不得侵害他人依法享有的知识产权”。

对于《暂行办法》的适用范围，《暂行办法》第二条新增了第二款：“国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。”以及第三款：“行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。”

《暂行办法》提出了对生成式人工智能服务实行包容审慎和分类分级监管，新增了第三条：“国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。”

对于征求意见稿中有关“国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作”的内容，《暂行办法》在第五条、第六条做了更加详尽的表述。

在服务规范方面，《暂行办法》增加了“提供者应当与注册其服务的生成式人工智能服务使用者（以下称使用者）签订服务协议，明确双方权利义务”的规定。同时，在第十四条新增第二款：“提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。”

《暂行办法》还增加了对有关主管部门依据各自职责依法加强对生成式人工智能服务的管理的规定；并规定，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续；在第十九条增加第二款，即对“参与生成式人工智能服务安全评估和监督检查的相关机构和人员对在履行职责中知悉的国家秘密、商业秘密、个人隐私和个人信息应当依法予以保密”的要求；同时新增第二十条，规定对境外向境内提供生成式AI服务不符合法律、行政法规和本办法规定的，国家网信部门应当通知有关机构采取技术措施和其他必要措施予以处置。

值得注意的是，《暂行办法》删除了原先征求意见稿中的部分内容，例如“提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定，要求用户提供真实身份信息”、“（提供者）不得根据用户输入信息和使用情况进行画像”、“提供者不得根据用户的种族、国别、性别等进行带有歧视性的内容生成”、“对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成”，以及有关提供者应当指导用户不利用生成内容进行商业炒作、不正当营销等的规定。征求意见稿第二十条中对违法情节严重或拒不改正者处以1万到10万元罚款的内容在《暂行办法》中也被删除。

对于此次公布的《暂行办法》，有观点认为对企业整体上利好，有助于提升大模型行业开发者和应用者的信心。据媒体援引参与了《暂行办法》制定的、对外经贸大学数字经济与法律创新研究中心主任许可的观点称，我国的通用大模型等生成式人工智能创新仍处于萌芽期，这时推出《暂行办法》，区别于其他在业态发展至成熟期时推行的管理规范，属于“在技术创新的同时实现监管创新”。许可认为，《暂行办法》弱化了《征求意见稿》强调监管的基调，从治理的角度看，《暂行办法》出台极大程度上会利于当下生成式人工智能相关产业朝着规范化方向发展。

附：《暂行办法》修改对照表

生成式人工智能服务管理办法（征求意见稿）	生成式人工智能服务管理暂行办法
	第一章  总则
第一条 为促进生成式人工智能健康发展和规范应用，根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规，制定本办法。	第一条  为了促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规，制定本办法。
第二条（第一款） 研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的，适用本办法。	第二条  利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务（以下称生成式人工智能服务），适用本办法。 国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。 行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。
	第三条  国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。
第四条 提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，符合以下要求： （一）利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。 （二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。 （三）尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。 （五）尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。 （四）利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。	第四条  提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，遵守以下规定： （一）坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容； （二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视； （三）尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为； （四）尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益； （五）基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。
	第二章  技术发展与治理
	第五条  鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。 支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作。
第三条 国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。	第六条  鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。 推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享，提升算力资源利用效能。推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力和数据资源。
第七条 提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。 用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求： （二）不含有侵犯知识产权的内容； （三）数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形； （四）能够保证数据的真实性、准确性、客观性、多样性； （一）符合《中华人民共和国网络安全法》等法律法规的要求； （五）国家网信部门关于生成式人工智能服务的其他监管要求。	第七条  生成式人工智能服务提供者（以下称提供者）应当依法开展预训练、优化训练等训练数据处理活动，遵守以下规定： （一）使用具有合法来源的数据和基础模型； （二）涉及知识产权的，不得侵害他人依法享有的知识产权； （三）涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形； （四）采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性； （五）《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。
第八条 生成式人工智能产品研制中采用人工标注时，提供者应当制定符合本办法要求，清晰、具体、可操作的标注规则，对标注人员进行必要培训，抽样核验标注内容的正确性。	第八条  在生成式人工智能技术研发过程中进行数据标注的，提供者应当制定符合本办法要求的清晰、具体、可操作的标注规则；开展数据标注质量评估，抽样核验标注内容的准确性；对标注人员进行必要培训，提升尊法守法意识，监督指导标注人员规范开展标注工作。
	第三章  服务规范
第五条 利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。	第九条  提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务。 提供者应当与注册其服务的生成式人工智能服务使用者（以下称使用者）签订服务协议，明确双方权利义务。
第九条 提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定，要求用户提供真实身份信息。
第十条 提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。	第十条  提供者应当明确并公开其服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术，采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。
第十一条 提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。法律法规另有规定的，从其规定。 第十三条（中间部分） （提供者应当……）及时处置个人关于更正、删除、屏蔽其个人信息的请求；（……）	第十一条  提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。 提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。
第十二条 提供者不得根据用户的种族、国别、性别等进行带有歧视性的内容生成。
第十六条 提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。	第十二条  提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。
第十四条 提供者应当在生命周期内，提供安全、稳健、持续的服务，保障用户正常使用。	第十三条  提供者应当在其服务过程中，提供安全、稳定、持续的服务，保障用户正常使用。
第十三条（后半部分） （提供者……）发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合本办法要求时，应当采取措施，停止生成，防止危害持续。	第十四条  提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。 提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。
第十三条（前半部分） 提供者应当建立用户投诉接收处理机制，（……）	第十五条  提供者应当建立健全投诉、举报机制，设置便捷的投诉、举报入口，公布处理流程和反馈时限，及时受理、处理公众投诉举报并反馈处理结果。
第十五条 对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成。
	第四章  监督检查和法律责任
	第十六条  网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等部门，依据各自职责依法加强对生成式人工智能服务的管理。 国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。
第六条 利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。	第十七条  提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
第十八条 提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容，不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销。 用户发现生成内容不符合本办法要求时，有权向网信部门或者有关主管部门举报。	第十八条  使用者发现生成式人工智能服务不符合法律、行政法规和本办法规定的，有权向有关主管部门投诉、举报。
第十九条 提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。
第十七条 提供者应当根据国家网信部门和有关主管部门的要求，提供可以影响用户信任、选择的必要信息，包括预训练和优化训练数据的来源、规模、类型、质量等描述，人工标注规则，人工标注数据的规模和类型，基础算法和技术体系等。	第十九条  有关主管部门依据职责对生成式人工智能服务开展监督检查，提供者应当依法予以配合，按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明，并提供必要的技术、数据等支持和协助。 参与生成式人工智能服务安全评估和监督检查的相关机构和人员对在履行职责中知悉的国家秘密、商业秘密、个人隐私和个人信息应当依法予以保密，不得泄露或者非法向他人提供。
	第二十条  对来源于中华人民共和国境外向境内提供生成式人工智能服务不符合法律、行政法规和本办法规定的，国家网信部门应当通知有关机构采取技术措施和其他必要措施予以处置。
第二十条 提供者违反本办法规定的，由网信部门和有关主管部门按照《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规的规定予以处罚。 法律、行政法规没有规定的，由网信部门和有关主管部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停或者终止其利用生成式人工智能提供服务，并处一万元以上十万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。	第二十一条  提供者违反本办法规定的，由有关主管部门依照《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规的规定予以处罚；法律、行政法规没有规定的，由有关主管部门依据职责予以警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停提供相关服务。 构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。
	第五章  附则
第二条（第二款） 本办法所称生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。	第二十二条  本办法下列用语的含义是： （一）生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。 （二）生成式人工智能服务提供者，是指利用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人。 （三）生成式人工智能服务使用者，是指使用生成式人工智能服务生成内容的组织、个人。
	第二十三条  法律、行政法规规定提供生成式人工智能服务应当取得相关行政许可的，提供者应当依法取得许可。 外商投资生成式人工智能服务，应当符合外商投资相关法律、行政法规的规定。
第二十一条 本办法自2023年 月 日起实施。	第二十四条  本办法自2023年8月15日起施行。

（本文仅代表作者观点，不代表知产力立场）图片来源 | 网络




往期热文