算法推荐新规生效：五大视角厘清算法治理新格局
作者：
陈际红 陈煜烺
2022年3月1日，《互联网信息服务算法推荐管理规定》（以下简称“《算法推荐规定》”）正式生效。而在去年的9月份网信办等九部委即发布《关于加强互联网信息服务算法综合治理的指导意见》（以下简称“《指导意见》”），提出利用三年左右时间建立算法安全综合治理格局的主要目标。作为世界范围内第一部针对算法进行全面性规制的正式立法，《算法推荐规定》的实施意味着我国已正式迈入以互联网信息服务为抓手，以数据治理和平台治理为核心的算法治理新格局。
笔者曾在《网络空间治理升级——从数据治理迈向算法治理》一文中系统探讨了算法的本质、重点应用领域、治理基本原则和监管思路，为企业提出算法的合规治理路径。值此《算法推荐规定》正式生效之际，本文将从五大视角，结合算法推荐服务在我国的现有实践，全方位解读《算法推荐规定》为算法推荐服务提供者（以下或称“企业”）设定的相关合规义务，以期为算法型企业提供实务性、落地化的合规分析及建议。
一
聚焦：《算法推荐规定》适用范围
《算法推荐规定》第二条明确提出属地管辖原则，适用于所有在中国境内应用算法推荐技术提供的互联网信息服务（以下简称“算法推荐服务”）。具体而言，企业判断自身是否受该规定所规制应考虑主体和技术两个层面。即：1）是否构成互联网信息服务提供者；2）是否属于算法推荐技术。
1、是否构成互联网信息服务提供者
首先，《互联网信息服务管理办法》第二条明确，互联网信息服务，是指通过互联网向上网用户提供信息的服务活动。《互联网信息服务管理办法（修订草案征求意见稿）》第五十二条则进一步指出互联网信息服务的范围包括但不限于“互联网新闻信息服务、搜索引擎、即时通讯、交互式信息服务、网络直播、网络支付、广告推广、网络存储、网络购物、网络预约、应用软件下载”。据此我们理解，互联网信息服务的业态非常广泛，凡在中国境内应用算法推荐技术的互联网信息发布和应用平台均属《算法推荐规定》的规制范围。
2、是否属于算法推荐技术
《算法推荐规定》第二条就算法推荐技术进行了不完全列举，明确包括“生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类”五类重点算法技术，并以“等算法技术”的表述为将来技术发展可能诞生的新型算法技术留下解释空间。
结合现有企业实践，我们梳理了《算法推荐规定》列举的五类重点算法技术之适用场景及其示例如下表：
点击可查看大图
二
内控：设定企业八大合规义务
《算法推荐规定》第二章为算法推荐服务提供者明确提出一系列算法应用规则，除第十二条在此前征求意见稿基础上将“应当”修改为“鼓励”外，其余均为强制性义务，并在第五章法律责任中课以罚则。据此，企业开展算法推荐服务至少应当遵循如下八大合规义务：
合规义务一：算法安全
《算法推荐规定》第七条与《指导意见》第（四）条一脉相承，要求企业强化责任意识，落实安全主体责任，包括建立健全相关管理制度和技术措施，制定并公开算法推荐服务相关规则，配备与算法推荐服务规模相适应的专业人员和技术支撑。
为落实上述责任，首先，企业应当主动开展科技伦理审查、用户注册管理、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等内部控制措施和外部防范措施；其次，企业应盘点和梳理算法应用的机制机理、模型、数据和应用结果并撰写说明文档，识别和评估风险，为算法的可解释性和透明性打下基础；最后，组建专业团队提供技术支撑，确保包括应用过程、应用结果在内的算法运行生态的整体安全。
合规义务二：算法定期审核与“防沉迷”
《算法推荐规定》第八条要求企业对算法机制机理、模型、数据和应用结果等进行定期审核、评估、验证，不得违反法律法规或者违背伦理道德。企业应建立定期审查制度，明确审查周期、审查内容、审查方式等，并留存相应记录，以备监管核查。审查标准应不局限于合法，可通过组建道德评审委员会、判断社会影响、论述算法正当性等方式，确保算法传播正能量，形成“算法向善”的企业价值观。
值得注意，该条还对算法模型提出“防沉迷”“防过度消费”的要求。我们理解，该规定并非禁止企业通过设定算法机制而增强网络信息服务的吸引力，企业可借鉴游戏行业防止未成年人沉迷的相关经验，如设置使用时长提醒、高额消费二次确认等机制，以实现吸引力增强与防沉迷、防过度消费之间的平衡。
合规义务三：建立违法信息识别特征库
《算法推荐规定》第九条要求算法推荐服务提供者建立健全识别违法和不良信息的特征库并采取相应处置措施。内容生态治理是网络治理的重要一环，企业可通过《用户协议》《社区规范》等文本明确用户信息发布规则及和处置措施，并根据《网络信息内容生态治理规定》等细化违法信息和不良信息目录，健全自动审核和人工审核机制，提高审核质量。此外，对于深度合成等易被不法分子滥用的内容，还应按照第九条之规定对此等信息作出显著标识后才可继续传输。
合规义务四：“用户画像”和“个推”管理
《算法推荐规定》第十条对算法推荐服务提供者形成“用户画像”提出要求，即不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息。我们理解，企业落实此条合规义务的重点在于，企业应建立兴趣点和用户标签的合法性判定规则，据此也可避免由于用户经常浏览相关违法或不良信息内容而由算法自动生成的用户标签中直接或间接带有相关违法或不良信息，进而避免被认定为违反上述规定。
合规义务五：建立“热搜”“榜单”人工干预机制
热搜、榜单等在很大程度上影响着用户的信息接收兴趣和范围，进而影响主流价值导向甚至国家安全。《算法推荐规定》第十一条要求企业不得以“技术中立”为由逃避责任，而应设置人工干预机制。排序精选类算法应用企业应开展内部评估，明确触发干预的情形，完善干预流程与措施，保存操作记录以备监管核查。此外，规定还要求企业为用户提供自主选择的功能，尊重用户的自决权。
合规义务六：依法开展互联网新闻信息服务
根据《互联网新闻信息服务管理规定》，向社会公众提供互联网新闻信息服务应当取得许可，《算法推荐规定》第十三条重申了此项规定，企业如应用算法技术从事相关业务须事先获得牌照。
合规义务七：“网络水军”严监管
《算法推荐规定》第十四条对目前网络环境中“网络水军”“控制热搜”等问题进行规制，要求企业不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发，不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施影响网络舆论或者规避监督管理行为。
值得注意，结合前述第十一条，企业可能面临判断人工干预与影响舆论的边界问题。对此，我们理解，《算法推荐规定》着力于要求企业提升防范化解算法推荐安全风险的能力，算法治理重点指向数据应用的内在逻辑和产生的效果。因此，企业宜以算法所产生的效果为导向开展人工干预，以促进国家安全、社会稳定、巩固主流价值为目的使用和控制算法。
合规义务八：反垄断与反不正当竞争
《算法推荐规定》第十五条承继了《中华人民共和国反不正当竞争法》《中华人民共和国反垄断法》的监管要求，回应“二选一”与自我优待等问题，禁止算法推荐服务提供者使用算法不合理限制其他互联网信息服务提供者，妨碍、破坏其合法提供的互联网信息服务正常运行。近年来，执法部门保持着对反垄断与反不正当竞争领域的监管高压，企业尤其是大型企业在使用算法推荐过程中应注意对市场公平竞争所造成的影响，避免因对竞争对手使用“二选一”、屏蔽封锁等措施而遭受巨额罚款。
三
对外：保障算法用户四大权益
《算法推荐规定》第三章针对算法用户设定了一系列权益保障机制。分别从算法应用的透明性、自决性、可解释性以及可问责性等层面，规定了算法用户的知情权、自主选择权、获得说明和救济权等四大权益。
点击可查看大图
1、透明性：知情权
《算法推荐规定》第十六条要求提供算法推荐服务应“告知提供算法推荐服务的情况，并公示算法的基本原理、目的意图和主要运行机制”。此等透明性要求将对企业提出较大挑战，包括：
算法应当以何种形式披露，是否需包含技术细节，是否应确保用户充分理解？
企业如何保证自身商业秘密、经营模式不被泄露的前提下履行算法透明性义务？
对于算法的披露需要达到何种程度，标准如何界定？
事实上，《算法推荐规定》《指导意见》等规定对于算法透明性的要求并未要求披露技术细节，因此，企业不必过于担心因对代码、技术方案、核心经营模式等可能涉商业秘密的细节披露不充分而受到监管处罚。但同时，算法治理透明性的终极目标仍在于保护用户的自主选择权，据此，企业所披露的算法规则应尽可能便于确保用户理解并据此作出选择，例如以示例、流程图等方式予以告知，并至少应当包括“基本原理、目的意图、运行机制”等算法的决定性因素。
例如，国内某头部外卖平台即在2021年9月首次公开骑手配送中“预估到达时间”的算法规则，其中并未披露技术细节，但对于基本原理（四层算法模型）、目的意图（为骑手提供充裕送餐时间）、运行机制（在模型预估时间的基础上增加三层保护时间）均予以告知。尽管上述规定的落地细则和监管尺度尚不明确，我们理解关于算法推荐服务透明性要求的监管红线将始终聚焦于用户，企业可据此部署显著明确、易于用户理解的算法公开机制。
2、自决性：自主选择权
《算法推荐规定》第十七条第一款和第二款明确要求企业应当为用户提供自主选择的权利，分别包括对算法应用的结果性选择和过程性选择，即：
结果性选择：用户可选择直接关闭算法推荐服务（如未向用户提供不针对其个人的选项）；如用户选择，则企业应当终止提供服务。
过程性选择：用户可选择或者删除针对其个人特征的用户标签；如用户选择或删除，企业不可再继续针对此等标签提供服务，但仍可能基于其他标签对该用户提供算法推荐服务。
从《算法推荐规定》第十七条的文意来看，我们理解上述两种选择模式并非择一提供，而系需向用户并行提供的两种选择模式。据此，企业应当评估自身网络产品是否已涵盖上述两种模式，尤其是“过程性选择”，目前实践中仍存在大量企业未涵盖此等对用户标签明确予以区分并交由用户选择的模式，应当尽快予以落实和部署。
3、可解释性和可问责性：获得说明和救济权
基于算法应用的可解释性和可问责性，《算法推荐规定》第十七条第三款和第二十二条分别为用户设定了获得说明和获得救济的权利。
其中，第十七条第三款要求如算法对用户权益造成重大影响，则企业应当予以说明并承担相应责任，该条款相比此前征求意见稿中规定的“用户认为......造成重大影响的，有权要求......说明并采取相应改进或补救措施”作出较大调整。我们理解，一方面，该规定采用客观效果标准，强调“对用户权益造成重大影响”的事实；另一方面，为企业设定了主动性合规义务，相比处于信息不对称地位的用户，企业通常对于算法的背后逻辑及可产生的效果非常清楚，建议企业应对其算法应用场景主动进行风险评估和识别，进而予以说明。
第二十二条为用户设定了一系列救济机制，包括要求企业应设置便捷有效的用户申诉和公众投诉、举报入口，明确处理流程和反馈时限。这也进一步对企业的网络产品界面设计提出了相应要求，考虑到现有实践中大部分企业已事实上建立起“知识产权投诉入口”“违法信息举报入口”等，加之算法于用户而言存在一定程度的隐蔽性，为充分实现该规定的立法意旨，企业可以考虑在网络产品相关入口提供对算法救济的渠道。
四
回应：特定群体的针对性保护机制
1、未成年人保护义务
未成年人身心不成熟、缺乏辨识能力等导致其难以辨别网络信息的良莠，较成年人更易被不良信息诱导，2020年修订的《未成年人保护法》在第七十四条中明确要求网络产品和服务提供者不得向未成年人提供诱导其沉迷的产品和服务。部分地方立法，例如刚刚实施的《上海市未成年人保护条例》第五十三条亦规定网络产品和服务提供者应删除、屏蔽或者修改诱导未成年人沉迷网络、危害未成年人身心健康、侵害未成年人合法权益的内容、功能或规则。
《算法推荐规定》第十八条延续了《未成年人保护法》的立法取向，分别从正反两面对算法推荐服务提供者提出未成年人保护要求：
主动性义务。要求企业通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式，便利未成年人获取有益身心健康的信息。
禁止性义务。要求企业不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息，且不得利用算法推荐服务诱导未成年人沉迷网络。
2、老年人保护义务
截至2021年12月，我国60岁及以上老年网民规模达1.19亿[2]，但老年人群体广泛面临网络产品和服务使用上的困难，也更易遭遇电信网络诈骗。许多不法分子以“免费赠送”“积分兑换”等为诱饵，借助平台广告推送算法，接触、哄骗缺乏相应金融知识的老年群体。
据此，《算法推荐规定》在征求意见稿基础上新增第十九条，明确要求向老年人提供服务的算法推荐服务提供者应履行老年人保护义务：
提供智能化适老服务。要求企业应“保障老年人依法享有的权益，充分考虑老年人出行、就医、消费、办事等需求，按照国家有关规定提供智能化适老服务”。企业可参考《互联网应用适老化及无障碍改造专项行动方案》等规定，针对老年人特殊需求进行产品和服务研发、设计或调整，如利用算法，面向老年人提供易于阅读的简洁界面和简易的操作环境等。
防范电信网络诈骗，便利老年人安全使用算法推荐服务。要求企业应“依法开展涉电信网络诈骗信息的监测、识别和处置，便利老年人安全使用算法推荐服务”。结合2021年10月发布的《中华人民共和国反电信网络诈骗法(草案)》的相关规定，企业应落实对用户真实身份信息的确认，并随时监测账号异常情况，重点避免为他人实施电信网络诈骗提供内容分发、广告推广、引流推广、搜索引擎等网络推广服务。
3、劳动者保护义务
《外卖骑手，困在系统里》[3]一文，引发社会各界对于外卖平台通过算法严格限制外卖骑手送餐时间问题的关注。近日，某企业通过算法“指挥”员工的问题也引发社会热议。互联网平台新就业形态下，如何保障劳动者权益已成为监管重点关注的问题。
针对此等问题，《算法推荐规定》第二十条明确要求向劳动者提供工作调度服务的算法推荐服务提供者应当“建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法”，以充分保护劳动者包括取得劳动报酬、休息休假在内的合法权益。
结合近期出台《关于维护新就业形态劳动者劳动保障权益的指导意见》与《关于落实网络餐饮平台责任切实维护外卖送餐员权益的指导意见》等文件，企业应当：
不得将最严算法作为考核要求，应充分听取工会或劳动者代表意见，制定修订平台进入退出、订单分配、计件单价、抽成比例、报酬构成及支付、工作时间、奖惩等直接涉及劳动者权益的平台算法；
通过“算法取中”等方式，合理确定订单数量、准时率、在线率等考核要素，适当放宽配送时限；
重点就与劳动者报酬、休假相关的算法进行审查与优化。
4、消费者保护义务
针对大数据杀熟和差别待遇等问题，我国已就此建立了多层次的规制体系，包括《电子商务法》《关于平台经济领域的反垄断指南》《个人信息保护法》均对此予以规制，《算法推荐规定》第二十一条则主要从算法监管角度补充了该规制体系，明确向消费者销售商品或者提供服务应当保护消费者公平交易的权利，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。据此，企业在提供算法推荐技术时，应确保算法的中立，重点避免对消费者公平交易权利的侵害。
五
强监管：具有舆论属性或社会动员能力
除上述针对算法推荐服务提供者所设定的一般性合规义务外，《算法推荐规定》在第四章则就一类特殊主体提出了更强的监管要求，即具有舆论属性或者社会动员能力的算法推荐服务提供者。
我们理解，针对该类算法推荐服务提供者开展强监管的必要性在于，此等企业可通过其算法设定+人工干预的模式对呈现在公众面前的信息内容产生较大影响，进而足以达到影响社会舆论和主流价值观的效果，甚至进而影响社会。据此，《算法推荐规定》对该类具有舆论属性或者社会动员能力的算法推荐服务提供者提出的合规要求如下图：
点击可查看大图
值得注意，国家网信办于2月28日发布了《关于互联网信息服务算法备案系统上线的通告》，通告称上述备案系统于2022年3月1日起正式上线运行，备案系统官方网址为https://beian.cac.gov.cn。据此，企业应当尽快评估自身是否可能被纳入前述备案主体范围，并依法履行相应备案手续。
结语
Conclusion
《算法推荐管理》刚刚正式施行，目前各国对算法监管缺乏有效经验，作为我国对算法监管的首次尝试，企业的算法治理并非一件易事。在分类分级治理的大背景下，企业应当结合自身算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度以及对用户行为的干预程度，判断自身合规风险，积极落实八大合规义务，保障算法用户四大权益，应对算法监管时代。
[注]
The End
作者简介
陈际红 律师
北京办公室 合伙人
业务领域：知识产权权利保护, 网络安全和数据保护, 反垄断和竞争法
特色行业类别：金融行业, 通讯与技术
陈煜烺
北京办公室 知识产权部
*林婉琪、邱腾岳对本文亦有贡献。
作者往期文章推荐
《<网络安全审查办法>尘埃落定，境外上市影响几何（下）》
《<网络安全审查办法>尘埃落定，境外上市影响几何（上）》
《网络安全与数据保护2021年度法律观察》
《关于《网络数据安全管理条例（征求意见稿）》的三十四个核心问题（下）》
《关于<网络数据安全管理条例（征求意见稿）>的三十四个核心问题（上）》
《IDC产业链全解析（四）：互联网数据中心的数据安全保护义务》
《<个人信息保护法>正式生效，我们聊聊合规落地中的“五六七”》
《网络空间治理升级——从数据治理迈向算法治理》
《<个人信息保护法>正式稿与二审稿对比》
《全景解构<个人信息保护法>，助力企业进入中国个人信息保护新纪元》
《明晰人脸识别案件司法裁判规则，推动AI行业规范发展——最高院人脸识别司法解释解读》
《激活网络安全审查制度 筑牢数据安全防火墙—— <网络安全审查办法（修订草案征求意见稿）>评析》
《欧盟个人数据传输的两项新工具（SCCs）：历史演变、法律影响和应对策略》
《九万里风鹏正举：<数据安全法>已来，企业当如何乘风?》
《汽车数据强监管时代开启：<汽车数据安全管理若干规定>（征求意见稿）评析》
《天之未雨 绸缪牖户：企业如何实施个人信息安全影响评估？》
《简评<网络直播营销管理办法（试行）>》
《健康医疗企业IPO数据合规重点问题与应对（下）》
《健康医疗企业IPO数据合规重点问题与应对（上）》
《解读<网络交易监督管理办法>》
特别声明：
以上所刊登的文章仅代表作者本人观点，不代表北京市中伦律师事务所或其律师出具的任何形式之法律意见或建议。
如需转载或引用该等文章的任何内容，请私信沟通授权事宜，并于转载时在文章开头处注明来源于公众号“中伦视界”及作者姓名。未经本所书面授权，不得转载或使用该等文章中的任何内容，含图片、影像等视听资料。如您有意就相关议题进一步交流或探讨，欢迎与本所联系。
点击“阅读原文”，可查阅该专业文章官网版。