我国首份AIGC监管文件正式出台，企业如何应对算法备案制度？

⊙ 本文长约4600字，阅读需时12分钟

本文来源：熊猫法律星球

作者：曾理，广东启源律师事务所律师

高级企业合规师

《民法典时代合同实务指南》编委会成员

生成式人工智能（Generative Artificial Intelligence）（AIGC）是指一类人工智能技术和算法，其目标是通过学习和模拟现实世界的数据来生成新的、创造性的内容、图像、声音或其他形式的信息。生成式人工智能系统能够分析和理解大规模的数据集，并从中提取模式、规律和特征，然后利用这些学习到的知识生成全新的内容。

AIGC作为当代社会最具前瞻性和颠覆性的技术之一，正深刻地影响着人们的生活和工作方式。其核心技术之一就是算法，它决定了人工智能系统的学习能力和推荐效果。然而，随着算法的广泛应用和智能化进程的加速，也带来了一系列监管和治理的挑战。为了保障算法的透明度、公平性和安全性，各国纷纷加强算法的监管措施。2022年3月1日，我国正式上线运行了“互联网信息服务算法备案系统”，开启了我国算法监管的新里程。

国家互联网信息办公室公布《生成式人工智能服务管理暂行办法》已经2023年5月23日2023年第12次室务会会议审议通过，并经国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部、国家广播电视总局同意，自2023年8月15日起施行。

在《生成式人工智能服务管理暂行办法》中，算法备案制度备受瞩目。作为多维一体的算法监管体系的关键环节，AIGC企业备案制度将与算法评估、算法检查一道，共同推进算法治理体系的完善和企业算法应用的合规。

01

国内外算法治理模式

（1）欧盟的算法治理模式

在欧盟，针对大型网络平台和人工智能系统的算法透明度要求日益增加。欧盟委员会通过《数字服务法案》对网络平台的算法透明度提出了新的要求，包括在服务条款中明确公开推荐算法系统的主要参数和提供算法及数据库的完整解释。

此外，为保障高风险人工智能应用的算法透明度，欧盟还规定了人工智能算法登记备案制度。根据该制度，高风险人工智能系统投放市场或投入使用之前，提供商或授权代表需要进行登记备案，并要求备案信息在欧盟数据库中可供公众访问。

（2）美国的算法治理模式

美国在算法治理方面分别对企业和政府机构的算法应用进行了区别规制。针对企业，主要关注商业消费领域的算法透明度。例如，科罗拉多州立法规定禁止保险公司使用外部消费者数据和信息源的算法或预测模型进行歧视。美国联邦贸易委员会强调企业在应用算法时应使用透明框架和独立标准，并进行定期测试，以确保算法不会基于种族、性别等因素进行歧视。

在政府应用算法方面，为促进公众对政府在决策中使用人工智能和算法技术的接受和信任，美国对行政机构和国防、情报部门的算法应用进行了详细规范。

例如，美国行政会议规定政府机构应公开确定算法流程的目标及其背后的理由，以促进对决策的内部或外部审查。美国国防部要求确保算法的透明度和可解释性，并在可行的范围内使用可理解和可解释的方法，以便用户、监督者和公众了解人工智能的输出如何产生。

（3）国内监管现状

在我国，算法的规制在一些法律法规和指导意见中初露端倪。《电子商务法》第18条首次规定了禁止“大数据杀熟”的行为。《个人信息保护法》将反自动化决策权纳入个人信息保护体系，要求个人信息处理者保证决策的透明性、公平性和平等交易。《国务院反垄断委员会关于平台经济领域的反垄断指南》明确规制“算法共谋”导致的垄断行为。

为了加强互联网信息服务算法的综合治理，2021年9月，国家互联网信息办公室等九部门发布了《关于加强互联网信息服务算法综合治理的指导意见》，计划在三年左右的时间内建立完善的算法安全综合治理格局。

随后，国家互联网信息办公室发布了《互联网信息服务算法推荐管理规定》，作为我国首部以算法推荐服务为规制对象的部门规章，该规定旨在规范通过算法技术向用户提供信息的行为，保护用户的知情权、选择权、拒绝权和救济权。其中，算法备案管理作为重要环节，要求具有舆论属性或社会动员能力的算法推荐服务提供者在备案系统中填报相关信息并履行备案手续。

02

AIGC企业备案制度的实施现状

（1）算法备案制度的重要性和作用

AIGC企业备案制度作为算法治理体系的关键环节，具有重要的意义和作用。

首先，它有助于监管机关系统摸排算法的基本情况，为算法分级分类体系提供基础性支撑。其次，备案制度可以为公众提供算法的基本信息和透明度，为未来的公众算法知情权提供制度性保障。此外，备案制度还可以督促算法推荐服务提供者积极进行风险评估和全流程记录，促使运营者在算法活动的各个阶段考虑算法合规问题。算法作为个人信息处理者收集和处理数据、推送信息、调配资源的核心力量，一旦泄露将损害国家利益、社会公共利益和公民合法权益。

因此，采取相对温和但具有强约束力的行政监管手段是必要的。在数字法治的实践背景下，AIGC企业备案制度将扩展和适用于更广泛的领域，并在我国的算法治理体系中发挥更加重要的作用。

（2）算法备案主体和内容

《生成式人工智能服务管理暂行办法》第十七条 提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

① 备案主体

根据《生成式人工智能服务管理暂行办法》和《互联网信息服务算法推荐管理规定》，具有舆论属性或社会动员能力的算法推荐服务提供者需要履行备案手续。

这些备案主体包括开办论坛、博客、微博客、公众账号、短视频、网络直播、信息分享、各类小程序等信息服务或具有发动社会公众从事特定活动能力的其他互联网信息服务。例如，微信、微博、抖音、豆瓣等应用都属于具有舆论属性或社会动员能力的算法推荐服务提供者。

② 备案内容

根据《互联网信息服务算法推荐管理规定》第二十四条，备案内容包括服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息。

算法备案的主要目的是为了公开和透明算法的基本情况，让公众了解算法的应用范围和类型，并提供自评估报告以评估算法的风险和合规性。通过备案系统，社会公众可以查询备案算法的基本原理和其他相关信息，从而增加对算法推荐服务的了解和监督。

类别	制度	具体内容
算法安全机构设置	算法安全专职机构	·算法安全专职机构名称及其组织架构 ·机构负责人基本信息和主要工作职责 ·算法安全工作人员的任职要求 ·算法安全工作人员配备的规模 ·算法安全技术保障措施
算法安全管理制度	算法安全自评估制度	·算法自评估的制度设计考虑 ·论证制度的合理性、完备性和可落地性 ·为制度执行所采取的保障措施
算法安全监测制度	·信息安全监测：信息内容安全、信息源安全等方面的监测制度与技术保障措施 ·数据安全监测：服务开发过程中和上线后的数据安全监测制度与技术保障措施 ·用户个人信息安全监测：服务开发或上线后的用户个人信息安全监测制度与技术保障措施 ·算法安全监测：算法应用过程中算法推荐服务自身的安全监测
算法安全事件应急处置制度	·在发生算法安全事件时应急处置的操作步骤、责任人、协调调度机制
算法违法违规处置制度	·算法违法违规处置的情形及实施处罚的条文规则
其他	·包括但不限于科技伦理审查制度等

03

算法备案的流程与操作

根据《互联网信息服务算法推荐管理规定》，企业在提供算法服务后的10个工作日内，需通过互联网信息服务算法备案系统进行填报和备案手续。填报信息包括算法主体信息、产品及功能信息以及算法信息。

算法主体信息涉及服务提供者的基本信息和备案申请人的联系方式等（例如主体基本信息、证件信息、法定代表人信息、算法安全责任人信息等）。产品及功能信息需要详细描述服务提供者的应用产品和功能特点（例如产品功能访问路径，路径下的功能信息等）。算法信息包括算法的类型、算法数据、算法模型、算法策略、算法风险、防范机制、数据处理方式等。此外需要填写《算法安全自评估报告》、《落实算法安全主体责任基本情况》等备案文件。

完成备案后，企业还可以根据业务变化进行备案信息的变更或注销备案。

04

算法备案制度的意义和挑战

（1）算法备案制度作为算法治理体系的重要组成部分，具有以下几方面的意义：

保护用户权益：通过备案制度，确保算法推荐服务提供者遵守规定，保护用户的知情权、选择权和拒绝权，促进公众对算法的信任和接受。

促进算法透明和安全：备案制度可以迫使算法推荐服务提供者进行风险评估和全流程记录，加强对算法合规性的考虑，从而提升算法的透明度和安全性。

推动算法治理体系的完善：通过备案制度，监管机关能够了解和掌握算法的基本情况，为建立完善的算法分级分类体系提供基础支撑，推动算法治理体系的不断完善和发展。

（2）算法备案制度在实施过程中也面临一些挑战：

技术难题：由于算法的复杂性和快速发展，如何准确理解和分类算法类型，以及如何对各类算法进行评估和审核，是一个技术上的挑战。

数据隐私和保护：备案过程涉及大量的数据和信息，如何保护用户数据隐私和商业秘密，防止数据滥用和泄露，是一个重要的挑战。

国际合作与标准统一：算法治理是全球性的挑战，尤其是跨国企业，各国之间的法律法规有所差异，因此需要进行合作和交流，制定统一的标准和规范，以推动全球算法治理体系的协调发展。

05

结论

AIGC企业备案制度作为我国算法治理体系的重要组成部分，具有重要的意义和作用。它有助于保护用户权益、推进算法透明和安全，并推动算法治理体系的完善。然而，实施备案制度也面临技术、隐私保护和国际合作等挑战。

为了更好地应对这些挑战，需要采取一系列措施：

技术研发与创新：加强对算法技术的研发和创新，提高算法的可解释性和可控性，以应对技术难题。同时，鼓励跨学科的合作，促进算法与伦理、法律、社会科学等领域的交叉融合，共同探索算法治理的最佳实践。

加强数据隐私保护：建立健全的数据隐私保护机制，明确数据使用和共享的边界和权限，加强对用户数据的合法获取和使用监管，确保算法备案过程中的数据隐私保护措施得到有效执行。同时，加强用户教育，提高用户对数据隐私保护的意识和知识，使用户能够主动参与和监督算法的使用过程。

国际合作与标准统一：积极参与国际合作，加强与其他国家和组织的交流与合作，共同研究算法治理的国际标准和最佳实践。建立国际合作机制，促进算法治理规范的共识和互认，推动全球算法治理体系的协调发展。

加强监管与执法能力：根据《生成式人工智能服务管理暂行办法》第十九条：“有关主管部门依据职责对生成式人工智能服务开展监督检查，提供者应当依法予以配合，按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明，并提供必要的技术、数据等支持和协助。参与生成式人工智能服务安全评估和监督检查的相关机构和人员对在履行职责中知悉的国家秘密、商业秘密、个人隐私和个人信息应当依法予以保密，不得泄露或者非法向他人提供。”

因此，建立健全的监管机制和执法体系，加强对算法备案制度的监督和执行力度。加强监管部门的技术能力培养，提高对算法的审查和评估能力，确保备案制度的有效实施和执行。

通过以上措施的实施，AIGC企业备案制度可以更好地发挥作用，促进算法治理的透明、公平和安全，为社会提供更可靠的算法推荐服务，推动人工智能技术的可持续发展和社会进步。同时，也需要不断总结经验和教训，及时调整和完善制度，以适应技术和社会的发展变化，推动算法治理体系的不断优化和升级。

-END-

编辑排版丨吴晓婧
审核人员丨张文硕本文声明丨本文章仅为交流之目的，不代表北大法宝的法律意见或对相关法规/案件/事件等的解读。 

▼ 往期精彩回顾 ▼

北大法宝怎么“让法律更智能”？对话ChatGPT，人工智能如何能成为论文作者？
ChatGPT的创新与挑战
谢澍：ChatGPT到来，监督管理与技术研发应当如何互动？
法宝重磅 | ChatGPT来了，法宝人工智能研究院告诉你真相北大法宝宣布联合百度文心一言 打造法律人工智能新生态
OpenAI独家回应｜ChatGPT为何不向所有中国用户开放注册？
什么都懂的ChatGPT如何看待爱情？
ChatGPT来袭，法律人真的要失业了吗？
专访ChatGPT：2023涉外律师高度关注的十个问题，我给出了高质量回答
高绍林：ChatGPT法律智能化应用及其规制罗翔：ChatGPT没法回答“老婆和妈掉河里先救谁”

点击下方公众号名片

获取更多信息