观点 | “算法推荐的规制方式与路径”研讨会
数·说（DJ TALK）
“算法推荐的规制方式与路径”
专题研讨会回顾
为规范互联网信息服务算法推荐活动，弘扬社会主义核心价值观，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，促进互联网信息服务健康有序发展，国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》，该规定自2022年3月1日起施行。这是我国第一部以算法作为专门规制对象的部门规章，意味着算法推荐技术的治理进入新的阶段。
2022年1月9日，由北京航空航天大学法学院数字正义研究中心主办的“算法推荐的规制方式与路径——评《互联网信息服务算法推荐管理规定》”专题研讨会于线上成功举行，来自中国信通院、对外经济贸易大学、北京科技大学、中国人民公安大学、北京周泰律师事务所等六余位专家围绕新出台的《互联网信息服务算法推荐管理规定》进行了充分的交流与探讨。
本次研讨会共分为两个环节，第一环节是由六位专家评述新出台的《算法推荐管理规定》，第二环节是访谈对话。
第一环节
（裴炜 北京航空航天大学法学院数字正义研究中心执行主任、教授）
第一环节由北京航空航天大学法学院数字正义研究中心执行主任裴炜教授主持。
（张凌寒 北京科技大学副教授）
北京科技大学的张凌寒副教授谈到当今世界范围内，以算法作为调整对象的法律性文件相对较少，我国《互联网信息服务算法推荐管理规定》可以说是世界上首次全面性、系统性、整体性地对算法进行了规制，在世界范围内具有重大意义。随后，张凌寒副教授聚焦该《规定》的三大亮点指出，第一，该《规定》的性质是由四部委联发的部门规章，与此前发布的《网络安全法》、《数据安全法》、《个人信息保护法》等法律的价值取向是一脉相承的，该《规定》是对前述法律在具体制度上的细化和落地。第二，该《规定》涉及的算法种类囊括了现行平台治理中所使用的各种算法类型，规制对象基本覆盖了现有的互联网业态。第三，该《规定》确立了一系列具有中国本土特色的算法规制手段，如针对“标签”“算法的机制机理”“模型”的技术治理，算法备案制度等等。
（苏宇 中国人民公安大学数据法学研究院院长、副教授）
中国人民公安大学的苏宇副教授聚焦该《规定》第12条，即“算法可解释性和透明度”问题，并分享了自己的看法。苏宇副教授指出原该《规定（征求意见稿）》中这一条的表述是“应当”，对于算法推荐服务提供者是硬性的义务条款，而正式出台的版本则修改为鼓励性条款，给予各企业去探索适合的优化策略空间；同时，应当注意该第12条中“运用内容去重、打散干预等策略”和优化透明度和可解释性分属两个不同的要求；优化算法可解释性与透明度又是两个不同的要求。此外，原该《规定（征求意见稿）》第15条与第12条有密切联系，原征求意见稿第15条提出了用户的算法解释请求权，而正式版本的第17条第三款中关于算法解释请求权问题已经改头换面，从用户有权要求解释变为不直接跟用户的算法解释请求权相对应。最后，苏宇副教授谈到《规定》第23条的算法分级分类安全管理制度，是未来中国算法治理建设的重要切入点，应当首先关注算法推荐服务的舆论属性或者社会动员能力，其次是数据的重要程度以及对用户行为的干预程度，最后是内容类别、用户规模等因素实施分级分类管理。
（张欣 对外经贸大学数字经济与法律创新研究中心执行主任、副教授）
对外经济贸易大学的张欣副教授同样聚焦该《规定》中值得关注的亮点。张欣副教授指出，我国对于算法的规制具有本土化特色。第一，该《规定》的规制主体并非所有的算法类型，而是算法深入社会结构各层面中引发社会广泛关注的推荐算法，此前九部委发布的《关于加强互联网信息服务算法综合治理的指导意见》中就曾提出国家算法治理的主要目标是利用三年左右时间建立算法安全综合治理格局，这也是该《规定》出台的背景之一。同样，算法类型的全面覆盖也彰显了该《规定》的系统性。第二，我国与其他国家关于算法规制路径的不同点在于，我国的算法问责机制建立在数据治理和平台治理基础之上，故该《规定》延续此前关于平台主体责任的逻辑框架，提出“算法安全主体”概念。接下来我们还需要探索算法安全主体的责任边界在哪？算法安全主体的正当性、合理性以及对算法安全主体认定的标准在哪？第三，我国除去像其他国家出台算法和人工智能相关的技术标准和伦理规范外，还在该《规定》中倡导算法的主流价值取向，坚持促进算法应用的向上向善，以此纠偏所谓算法过程中因“技术中立”引致的责任规避问题。第四，该《规定》对用户赋予了非常健全的权利，从事前事中事后的视角赋予用户自主选择权、知情权、拒绝权、获得说明和救济的权利，此外还规定了算法备案制度，包括机制机理审核，这更加符合算法运作的底层逻辑。
（程莹 中国信通院互联网法律研究中心研究员）
中国信通院的程莹研究员立足宏观角度，并结合自身工作经验，从三个视角对该《规定》进行解读分析。从横向来看，关注该《规定》和美欧算法治理的差异性，一是该《规定》具有一定的超前性和开创性；二是该《规定》体现了各国关注点的差异性，而我国的核心关注点在信息内容安全和网络平台在商业领域的应用方面；三是算法治理落地方式的不同，我国更加依赖政府监管和社会监督。从纵向来看，关注该《规定》在我国互联网法治当中的角色，主要从该《规定》与其他信息内容立法之间的关系、在我国现有互联网立法体系当中的位置和作用、与当前数字经济立法和政策的协调等三方面展开。从未来实施的角度来看，不仅要加快理论层面的研究支撑，还要在行业分散监管的同时注重整体统筹协调，以及探索创新监管举措、提升技术监管能力。
（储江 北京周泰律师事务所律师、专利代理师）
北京周泰律师事务所的储江律师从实务角度出发谈到该《规定》将过去企业的算法安全部分和个人隐私数据合规部分做了有效衔接，这为实务工作者提供了非常明确的指导参考标准。基于此，储江律师进一步分享到，第一，该《规定》第7、8条提供了正反两方面的合规指引；第二，该《规定》不仅细化落实网络空间治理法律体系中的个人权利保护要求，还重点针对特定群体的特殊场景进行回应，这为应对算法歧视提供更加细致的指引；第三，该《规定》将算法监管纳入到合规监管体系当中；第四，该《规定》从反垄断和反不正当竞争的视角对算法推荐服务进行了规制。
（许可 对外经贸大学数字经济与法律创新研究中心主任、副教授）
对外经济贸易大学的许可副教授主要谈及了理解该《规定》的两个维度。第一个维度是社会和经济的维度，算法推荐作为常见的经营业态具备两方面价值，一是推荐性算法是社会建构的重要工具；二是算法是数字时代的重要生产性工具，也即算法推荐同时兼有社会层面和经济层面的双重价值，应当采取分而治之的思路。第二个维度是技术、法律和社会规范的维度，算法治理是技术、法律与社会规范的协作过程，该《规定》中也提出一系列行业标准、行业准则、行业自律以及算法价值引导等要求，从多方面对算法和法律的关系作出补充。
第二环节
（赵精武 北航法学院数字正义研究中心副主任、助理教授）
第二个环节由北京航空航天大学法学院数字正义研究中心副主任赵精武助理教授主持。《互联网信息服务算法推荐管理规定》作为一部专门性规章，聚焦算法推荐服务乱象问题，为算法综合治理中的算法推荐领域提出了新要求和新挑战，基于此，该环节共设置十个问题，六位专家分别从不同的维度对话解读新出台的《互联网信息服务算法推荐管理规定》。
（访谈对话环节）
【问题一】《规定》出台的背景是什么？最终版本与之前的草案有何重要区别？
许可副教授谈到算法大数据杀熟以及算法的差别化定价等社会问题构成了算法推荐监管的宏观背景。对于算法监管，可以从国际视角和中国自身视角来看待，一方面人们对脱离或至少部分脱离人控制的算法的担忧引发政治及法律层面对算法规制的回应，这是全球的宏观视野；另一方面我国关于算法监管特别是推荐性算法的监管是原有平台治理思路与信息内容管理思路的进一步延伸。
张欣副教授谈到从我国关于算法监管的发展脉络来看，算法治理已从原有的分散治理走向统筹一体化、整合化和系统化的治理。此外，社会的焦点性事件所引发的算法不良影响和算法焦虑也是直接推动该《规定》出台的重要原因。与征求意见稿相比，生效版本就监管工作职能分配、互联网新闻信息服务的算法利用规制、禁止利用算法实施垄断和不正当竞争行为、老年人合法权益保障、组织和个人的投诉举报渠道的建立等五个方面新增了规定。
【问题二】什么是算法推荐？为什么算法推荐需要被规制？不受规制的算法推荐可能产生哪些问题？
程莹研究员回应到关于算法推荐，它的范围实际上是比较广泛的，该《规定》不仅在第2条列举了五种典型算法类型，还将征求意见稿中的“提供信息内容”表述修改为“提供信息”，进一步明确了算法推荐的涵盖范围。而关于规制算法推荐的原因，该《规定》第1条有所提及，但更应当在算法制度设定当中关注数字经济发展和九部门《算法综合治理指导意见》中提到的传播秩序、市场秩序和社会秩序这三种秩序安全和数字经济创新发展之间的有效平衡问题。
储江律师立足纯技术的角度，指出算法推荐的理念和逻辑自上世纪即被提出，而经过30多年的发展，现阶段仍需对算法推荐进行规制的原因主要有两个，一是近年来人工智能、机器学习和大数据技术的应用加大算法推荐能力的同时，对个人隐私带来比较强烈和直接的冲击。二是从互联网产品传播的角度看，互联网经济更多是一种流量经济，抢夺用户交易机会是较为重要的环节和内容，以自动化推荐为代表的算法目前能够做到影响消费者的决策能力，若不加以限制，容易对消费者形成信息茧房或信息孤岛，影响消费者对主流事物的理解，影响社会稳定、国家安全的传播效果。
【问题三】什么是“算法推荐服务提供者”？《规定》的出台会对产业产生哪些影响？
程莹研究员指出，算法推荐服务指在中华人民共和国境内应用算法推荐技术提供互联网信息服务。从这一角度来看，算法推荐服务提供者可以理解为应用算法推荐技术的互联网信息服务提供者。互联网信息服务提供者在《互联网信息服务管理办法》中有较为明确的界定。当然，在具体理解过程中仍需要注意两个问题，一是算法推荐服务提供者规制的重点并非算法的开发者和设计者，而是应用算法技术向用户提供信息服务的主体；二是对于没有算法开发能力，需要通过与其他技术公司合作才能应用算法推荐技术的中小企业，需要通过合同确定算法责任和算法义务的分担问题。至于对产业的影响，程莹研究员谈到当前算法合规对企业来说缺乏域外参考，也缺乏较为明确的指引，可能在一定程度上干扰新兴业态的算法创新问题。算法推荐服务提供者分级分类管理制度的有效落地同样关乎中小企业的利益保障和发展问题。
张凌寒副教授谈到算法推荐服务提供者对接的是用户端，即提供技术的企业并不是该《规定》的调整对象。因为该《规定》主要关注的是能够对用户权益产生直接影响的平台企业，为算法推荐服务提供者提供技术的企业尚不是《规定》关注的重点。关于《规定》的出台对产业产生的影响来看，一方面会使得企业的合规成本增加，另一方面也会使得自身没有算法推荐服务开发能力的企业对为自己提供算法推荐技术的技术服务提供者尽到合规自我审查的义务，承担起应负的责任。
储江律师则聚焦实务界中关于算法推荐服务提供者的理解分歧进而提出对于参与到个人信息处理中的主体未来是否也要纳入到算法推荐服务提供者的范畴的思考，此外，储江律师还谈到将算法推荐作为企业单独的合规模块可能会对整个行业带来一定的挑战，但这种挑战本身顺应了数据合规的工作思路，不会有太大的合规负担和额外增加的合规成本，而对于中小平台在使用推荐算法技术或使用大平台向他们分享的推荐算法时，有赖于后续从反不正当竞争法层面做出一系列规制，规范相应的行为。
【问题四】《规定》第2条提到“在中华人民共和国境内应用算法推荐技术”，如何理解“境内”？
许可副教授分享到从目前的表述来看，“境内”体现的是属地管辖的原则，即只要在中国国境以内应用算法，特别是境内的算法服务提供者，无论算法服务的对象是中国人、外国人还是向境外提供服务，都适用本法。
【问题五】算法解释与算法透明度第一次以明确的技术要求具体提出，应该在实践中如何实现？
苏宇副教授谈到算法的可解释性指的是算法模型本身是否可以解释或本身提供解释的能力有多强，有的算法模型是自解释的，不需要额外提供解释，而有的算法模型如带黑箱的算法涉及可解释性问题。当前，提供算法解释的途径有两种，一种是算法模型自己产生解释，另一种是算法模型本身不做解释，事后再提供解释器。基于此，要优化算法模型的可解释性，一方面可以从算法本身入手，增强算法本身的规则化特征，另一方面可以提供针对此类算法模型或跨模型的解释器。而优化算法的透明度技术有很多可选方案，例如可以提供可量化的透明度报告。该《规定》第12条实际给算法推荐服务提供者提供了多元化探索的空间，以促成更多实现算法可解释性和透明度的方案。
张凌寒副教授则聚焦该正式出台的《规定》与此前征求意见稿的差别，回应了实务界关于技术上无法实现算法可解释性和透明度的争议。张凌寒副教授谈到，《规定》第12条中关于算法解释的表述发生了非常大的改变，从义务性规定到鼓励性规定的转变，实际是整个监管部门和立法部门考虑到各个算法推荐服务提供者在技术能力上的巨大差距，为包括算法推荐服务提供者在内的平台企业提供了一个逐渐摸索算法解释和透明度的机制。立法的初衷仍是希望算法企业能够在自身技术允许的范围内，以自律的方式逐步推进算法透明度与算法解释的制度建设。此外，《规定》第12条的另一明显变化是将“引发争议纠纷”修改为“预防和减少争议纠纷”，这主要针对的是信息内容平台上的水军、用户攻击、饭圈乱象等。因此，张凌寒副教授总结到《规定》的改变实际上是希望鼓励平台在整个内容生态治理过程中，通过内容去重和打散干预策略发挥更多积极的作用，并非强制性要求企业公布自己的算法甚至是源代码，故企业无需担忧。
储江律师关注到算法的可解释性和透明度问题是十多年前算法霸权概念被提出后对掌握关键大量个人信息企业提出的要求和原则，对于如何在企业合规中做到透明性和可解释性的要求，储江律师分享了两点思考，一是将此项工作内化到算法设计和算法开发的过程中，二是在算法最终服务利用阶段，企业可以在不影响知识产权竞争力、商业秘密保护的前提下尝试建立一定的申诉反馈机制，建立针对单个消费者的解释渠道。
【问题六】《规定》在第7条特别强调落实算法安全主体责任，什么是算法安全？它与网络安全、数据安全是什么关系？
张欣副教授结合该《规定》和《算法综合治理指导意见》中关于算法安全的表述，提出算法安全并非狭义上的算法本身是否安全和可靠，而是需要把它放在综合治理的格局之下，故整体来讲，继网络安全和数据安全之后，算法安全是非常重要的概念，也是未来治理的目标。从微观层面来看，算法安全与算法性能即算法的安全可靠相关，这要求算法的设计者、信息服务提供者提供的系统和模型的设计与运行是可靠的；从中观层面来看，算法安全指的是算法的安全可控，安全可控已经超越模型和设计本身，是在应用场景当中的风险可控；从宏观层面来看，算法安全指的是算法的安全可信，不管是《规定》还是《指导意见》都在强调算法的向上向善，算法的安全可信要放归到整个算法运行生态中观察算法是否可信。
苏宇副教授则强调了算法安全问题的复杂性：算法本身可能存在缺陷，也可能受到外部的数据投毒、对抗样本或模型窃取等攻击；在现行有关规定中，算法安全不仅面临着技术安全问题，还涉及科技伦理方面的安全，甚至涉及超出算法本身安全层次的安全问题，若把完整的算法安全考虑进来，可能只有大企业才有能力去承担算法安全要求，因此算法安全的要求程度非常高，中小企业很难抵抗所有针对算法模型的攻击，故算法安全应当与算法的分级分类安全管理相结合，使算法安全的要求实现精准、合理的场景化。
储江律师提到算法安全在一般企业中是网络安全的子模块，是单独的安全工作任务，是数据安全相互并列，而该《规定》中的算法安全已超出算法技术本身，更多成为网络安全和数据安全之间的内容。企业在算法开发过程中若涉及个人信息保护、网络诈骗等安全评估监测时，是与传统的数据安全工作有所交叉的。储江律师还关注到《算法综合治理指导意见》中提及的“组织建立专业技术评估队伍，深入分析算法机制机理”等内容，对未来企业算法安全方面的投入提出一定的要求，但这种合规成本的增加可以通过现阶段工作任务的调整来实现。
【问题七】《规定》设专章规定了用户权益保护，具体涉及哪些权益？哪种/些权益是比较重要的？
许可副教授强调该《规定》在制定过程中一直倡导协同治理思路，其除了包括国家监管机构在算法治理过程中发挥的监管作用外，还包括个体如何通过权利的行使对算法治理发挥作用。许可副教授进一步谈到基于算法的公开透明这一治理目标，算法权益是对既有《个人信息保护法》下个人信息保护权益的延伸；而基于算法的公平公正需求，算法权益对算法的个人信息权益作了进一步的提升，其赋予未成年人、老年人、劳动者、消费者更多的权益保障内容，而这些内容都可以成为未来个人信息权益非常重要的立足点和出发点。
储江律师则关注到该《规定》中对用户权利的立体保护模式，一方面保障了传统数据立法之下消费者知情权和拒绝权或者可选择权的实现，另一方面也在后续的监管层面对数据权利主体的权利提出一系列保障机制。
【问题八】平台的算法责任设置层次如何，是否合理？
张凌寒副教授指出该《规定》明确了平台的算法问责制体系的建设，并在第五章设专章规定相关的法律责任。其中，需要尤为关注两点内容，一是规定了算法的虚假备案责任这一新型算法相关责任；二是明确了算法服务提供者违反相关义务所承担的行政责任，并且这一责任力度的设置和网信办此前的其他法规规章规定的力度基本保持一致。
程莹研究员从主体责任的视角探讨了平台责任，并通过梳理该《规定》中关于平台责任的10项不得和16项应当的要求提出，平台企业重点关注的是责任的边界问题，这其中不仅包括平台责任设置的法理基础，还包括平台具体义务履行过程中的标准界定；此外，平台义务是否可以落地也是平台重点关注的问题，在未来三年的算法综合治理过程中需要不断探索和思考。
【问题九】《规定》在第四章监督管理部分规定了算法备案制度，该制度有哪些作用？实践中可能面临哪些障碍？
张欣副教授认为要把算法备案制度放在整个算法治理体系中以及算法治理要实现的治理功能中去理解。整体来讲，算法备案必须要达成自身的治理效能和功能，才能称之为有效的制度设计。从定义来讲，算法备案是要求符合特定级别的算法推荐服务提供者，报送算法推荐服务相关活动的材料，以便日后备查和监督的监管方法。要完成算法备案制度，上游和下游都需要相应的工具与其衔接。上游需要算法分级分类包括算法应用的分级分类和算法推荐者的分级分类，需要监管机关出台一套更细化的评估清单或者评估的关键标准和流程；下游则更加关注备案之后的行为，是审查、审批还是后续的其他算法监管措施。基于此，张欣副教授进一步讲到上下游之间的衔接问题以及算法备案时各级别各主体之间的备案协调问题都是需要重点关注的。此外，张欣副教授还通过信息搜集、信息披露、归责等方面分享了算法备案的定位问题，并指出未来需要加强算法备案的法治化路径探索。
储江律师指出产业界除了关注备案的流程之外，还关注到频繁的算法动态更新与算法备案之前的平衡问题。算法备案制度能够有效确保《规定》中相关规则和处罚责任的落实到位，故算法的更新如何衔接备案工作是未来需要着重探讨的方向，可以通过在平台和监管部门之间设置开放接口平台对接的办法在保护企业商业秘密、知识产权的前提之下做好相关推荐算法的动态更新。
程莹研究员谈到备案制度相对来说具有中国特色，也是该《规定》落实当下需要积极推进的制度，包括创建算法备案系统、如何去确定相关的备案内容、备案主体等等。但复杂的算法节点关系以及繁多的算法服务类型给算法备案系统和内容设置诸多的问题和障碍，此外，具体备案当中是否存在重复备案或以哪种主体去备案更有利于未来监管和降低企业成本，如何避免备案带有许可性质等问题也是我们需要着重考虑的问题。
【问题十】《规定》的内容为合规责任主体提出了哪些新要求？合规责任主体应如何根据《规定》要求调整现有合规方案？
储江律师提出了三个方向的思考，即合规主体内部合规机制、对数据主体权利的保护以及对外部监管的应对。《规定》在内部合规领域带来的变化主要是算法的机制机理评估的制度，以及透明度和可解释性的问题，未来合规主体需要重点解决。针对数据主体权利保护，对特殊群体的保护义务是一个重点。在外部监管方面，算法备案以及算法的分类分级是未来合规主体需要重视的方向。储江律师进一步对企业如何去调整合规方案提出了建议，第一，《算法综合治理的指导意见》的重点内容同样不能在这次的合规方案调整当中被忽视。第二，一些特殊类型的企业需要积极探索《规定》当中相关概念的边界。第三，在《规定》的法律责任框架体系下，合规主体也需要尝试自己提出新的合规手段来适应推荐算法整体的监管体系。
苏宇副教授指出，相比于国内研究较多的刑事合规而言，该《规定》对企业合规的要求属于行政合规。企业投入人力财力做合规的动力是防止承担严厉的法律责任，那就需要从法律责任的设置谈起，即企业内部需要采用何种规定或管理模式来避免行政责任。就《规定》当中的法律责任而言，第31条中行政处罚的前置程序给企业提供了纠正错误、明确合规方向的机会。《规定》中涉及大数据杀熟、未成年人保护、影响社会舆论或者社会动员的问题、平台用工等涉及算法伦理的问题比较容易触发直接处罚，合规工作中需要对此进行特别关注。
最后，北京航空航天大学法学院数字正义研究中心执行主任裴炜教授总结到，《互联网信息服务算法推荐管理规定》本身具有复杂性，无论是从算法规制本身需要的整体性、综合性和协同性，还是从责任主体、责任内容、责任对应的义务权利交叉性上，亦或是分类分级中不同领域应用的独特性上，都预示着未来这一算法推荐领域存在着诸多可以挖掘、研究和探索的事项。期待未来与各位专家进一步合作研究，共同推进算法规制在我国的落地实施。至此，本次专题研讨会圆满结束。