世辉观点 |《互联网信息服务算法推荐管理规定》系列解读一：合规红线和义务清单
The following article is from CCIA数据安全工作委员会 Author 王新锐 卢璟
2021年12月31日，国家网信办会同工信部、公安部、市场监管总局出台《互联网信息服务算法推荐管理规定》（以下简称“《算法推荐管理规定》”），全面规范互联网信息服务算法活动，旨在实现算法技术创新与用户权益保障之间的动态平衡。本文将对《算法推荐管理规定》的监管关注点以及企业需要着重注意的合规要求进行分析。
01
算法推荐服务的监管关注点
随着数字经济的高速发展，算法应用本身带来的社会问题不断积累，引起社会的广泛关注，《算法推荐管理规定》可谓是一个阶段性的法律回应。需要明确的是，算法监管的对象不是算法技术或应用本身，而是设计和使用算法的人。规则的设计意在通过义务设置引导人的行为。
根据相关参与立法支撑工作专家的说明，出台《算法推荐管理规定》主要聚焦在算法引发的五个方面的社会问题：
一是大数据杀熟问题；
二是诱导沉迷网络问题；
三是劳动权益保障问题；
四是偏见歧视问题；
五是未成年人和老年人权益保障问题。
为了解决这些问题，《算法推荐管理规定》一方面对所有算法推荐服务提供者的整体要求，例如“建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和技术措施，制定并公开算法推荐服务相关规则，配备与算法推荐服务规模相适应的专业人员和技术支撑”，另一方面则针对场景提出一系列具体要求。以下归纳为“十不得”和“十六应当”。
02
合规红线：“十不得”
基于算法引发的重点问题，《算法推荐管理规定》对算法推荐服务提供者提出了十项禁止性要求。企业应将“十不得”作为其合规红线，逐项排查。而且这些行为不仅违反《算法推荐管理规定》，也有可能违反其他法律规则。
“十不得”清单
禁止事项 | 具体内容 |
违法和不良信息 | ▽ 不得利用算法推荐服务传播法律、行政法规禁止的信息 ▽ 不得生成合成虚假新闻信息，或传播非国家规定范围内的单位发布的新闻信息 ▽ 不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息 |
诱导沉迷 | ▽ 不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型 ▽ 不得利用算法推荐服务诱导未成年人沉迷网络 |
算法歧视 | ▽ 不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为 ▽ 不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息 |
算法操控 | ▽ 不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发 ▽ 不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施影响网络舆论或者规避监督管理行为 |
垄断和不正当竞争 | ▽ 不得利用算法对其他互联网信息服务提供者进行不合理限制，或者妨碍、破坏其合法提供的互联网信息服务正常运行，实施垄断和不正当竞争行为 |
03
主要合规义务：“十六应当”
《算法推荐管理规定》对算法推荐服务提供商提出了多项合规义务要求。总体来看，企业的算法合规义务可以分为完善信息服务规范、加强用户权益保护和特殊人群权益保护三方面。企业应当重点关注《算法推荐管理规定》明确要求的十六项应当履行的合规义务，并和前述五类问题进行对照。
“十六应当”清单
类别 | 企业应当履行的义务 | 具体内容 |
信息服务规范 | 算法安全主体责任 | ▼ 应当建立健全算法安全管理制度和技术措施，配备相应的专业人员和技术支撑 ▼ 应当定期审核、评估、验证算法机制机理、模型、数据和应用结果 |
信息安全管理 | ▼ 应当建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序 ▼ 发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输 | |
用户模型和用户标签管理 | ▼ 应当加强用户模型和用户标签管理，完善记入用户模型的兴趣点规则和用户标签管理规则 | |
版面页面生态管理 | ▼ 应当加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息 | |
提供互联网新闻信息服务的算法推荐服务提供者 | ▼ 算法推荐服务提供者提供互联网新闻信息服务的，应当依法取得互联网新闻信息服务许可，并规范开展相关互联网新闻信息服务 | |
具有舆论属性或者社会动员能力的算法推荐服务提供者 | ▼ 具有舆论属性或者社会动员能力的算法推荐服务提供者，应当向网信部门办理算法备案，并在备案后公式相关备案信息 ▼ 应当按照国家有关规定开展安全评估 | |
用户权益保护 | 强化算法透明度，保障用户知情权 | ▼ 应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等 |
赋予用户退出个性化推荐的权利 | ▼ 应当向用户提供不针对其个人特征的选项或者向用户提供便捷的关闭算法推荐服务的选项，并且如果用户选择关闭，应立即停止提供相关服务 | |
赋予用户标签的管理权 | ▼ 应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能 | |
保障用户和公众的申诉、投诉、举报的权利 | ▼ 应当设置便捷有效的用户申诉和公众投诉、举报入口，明确处理流程和反馈时限，及时受理、处理并反馈处理结果 | |
特殊人群权益保护 | 未成年人 | ▼ 应当依法履行未成年人网络保护义务，通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式，便利未成年人获取有益身心健康的信息 |
老年人 | ▼ 应当保障老年人依法享有的权益，充分考虑老年人出行、就医、消费、办事等需求，按照国家有关规定提供智能化适老服务，依法开展涉电信网络诈骗信息的监测、识别和处置，便利老年人安全使用算法推荐服务 | |
平台劳动者 | ▼向劳动者提供工作调度服务的企业，应当保护劳动者取得劳动报酬、休息休假等合法权益，建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法 |
04
总结
2022年可谓“算法监管元年”，《算法推荐管理规定》只是起点，后续预计还会有其他和算法有关的规则出台。尤其是《数据安全法》《个人信息保护法》《反垄断法》的多项配套措施将会颁布，也会涉及与算法有关规则的细化。目前算法监管的很多理论问题和具体标准都还没有定论，因此也是一个循序渐进的过程，目前观察总体方向将是场景化的精确治理。
在后续解读中，我们将同技术专家一起就不同类型的算法涉及的不同合规重点和难点进行讨论。
本文章仅供业内人士参考，不应被视为任何意义上的法律意见。未经世辉律师事务所书面同意，本文章不得被用于其他目的。如需转载，请注明来源。如您对本文章的内容有任何问题，可联系本文作者王新锐律师、卢璟律师或您熟悉的其他世辉律师。
王新锐 合伙人
wangxr@shihuilaw.com
王新锐律师毕业于清华大学法学院，执业已超过18年，曾长期在国内顶尖律师事务所工作，现为世辉律师事务所合伙人。
王律师长期深耕网络安全和数据保护业务，其提供深度法律服务的客户包括数十家中外顶级科技公司，亦为多个中央部委和地方政府的数据立法和监管工作提供支撑。王律师作为中方专家，入选ICC（国际商会）、B20（二十国集团工商峰会）等国际组织的数字治理工作组。
王律师是《个人信息保护国际比较研究》、《数据服务框架》两本书的主要作者，并有大量文章和译作公开发表，专业观点经常被新华社、人民网等国内外主流媒体引用。近两年，王律师作为课程讲师在北大、清华等多所著名高校讲授网络法和数据保护相关内容，并兼任对外经贸大学法学院高级研究员。
2018年以来，王律师本人和团队在TMT和数据保护领域先后获得钱伯斯、The Legal 500、ALB、商法、China Law ＆ Practice、asialaw、LEGALBAND等多个法律专业评级机构的推荐，其中包括ALB China十五佳TMT律师、The Legal 500亚太数据保护领先律师、LegalBand中国顶级律师排行榜：网络安全和数据保护（第一梯队）（2019-2021）等个人奖项。
卢璟 合伙人
luj@shihuilaw.com
卢璟律师在生命科学领域有着丰富的法律服务经验，其服务的客户既包括辉瑞、拜耳、吉利德、美敦力、奥林巴斯等外商投资企业，也包括百济神州、天演药业、永仁心等根植于中国的的药械创新公司。卢律师为客户提供的服务包括：数据合规体系以及反腐败合规体系的搭建，合规治理有效性的评估，在并购交易中开展合规尽职调查，代表雇主企业开展针对员工的内部合规调查，以及在产品许可交易、销售外包服务交易、广阔市场项目、零售渠道合作项目、患者援助项目、数字化平台管理项目等各类交易或合作项目中为企业提供商业谈判、尽职调查、协议起草以及法律及合规风险分析等服务。
卢璟律师先后毕业于北京大学和美国哥伦比亚大学，并获得法学学士和法学硕士学位。加入世辉之前，卢律师是美国盛德国际律师事务所的资深律师，并作为其中国生命科学团队的核心成员工作多年。
往期推荐