算法合规——解读《互联网信息服务算法推荐管理规定（征求意见稿）》

作者：

蔡荣伟 杨杰

在互联网时代，算法推荐逐渐侵入我们的生活，影响着我们生活的方方面面，同时也滋生了“大数据杀熟”“流量造假”“过度推荐”及“操纵榜单”等损害公众利益，破坏正当竞争，扰乱社会秩序的行为。2021年08月27日，国家互联网信息办公室（“网信办”）公布了《互联网信息服务算法推荐管理规定（征求意见稿）》（“《算法规定草案》”），意在有针对性地对算法推荐领域的乱象进行监管，并全面规范各类算法推荐活动。

一

《算法规定草案》适用于哪些主体？

《算法规定草案》第二条规定，在中国境内应用算法推荐技术提供互联网信息服务（“算法推荐服务”）的，适用本规定，并进一步明确了“应用算法推荐技术”的定义，即“应用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息内容”。以上适用范围非常广泛，各类提供算法推荐服务的互联网公司几乎都在监管范围内，如各类短视频平台、电商平台、社交平台及餐饮外卖平台等。

二

算法推荐服务由谁监管？主要有哪些监管措施？

1.

建立全面监督管理体系

（1）各级网信部门监管

《算法规定草案》第三条规定，国家网信部门负责全国算法推荐服务的监督管理执法工作，省级网信部门依职责负责本行政区域内算法推荐服务的监督管理执法工作。

（2）加强行业自律

《算法规定草案》鼓励相关行业组织加强行业自律，建立健全自律制度、行业准则及行业标准，并督促指导算法推荐服务提供者建立健全服务规范。（见《算法规定草案》第五条）

（3）完善社会监督

《算法规定草案》为社会监督提供渠道，发动社会公众，开展监督。《算法规定草案》规定，算法推荐服务提供者应为公众投诉举报设置便捷的投诉举报入口，同时建立用户申诉渠道和制度。（见《算法规定草案》第二十六条）

2.

建立分类分级制度

《算法规定草案》第十九条规定，网信办应“根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据敏感程度、对用户行为的干预程度等对算法推荐服务提供者实施分类分级管理。”该分类分级制度的具体实施规则仍待进一步明确，如应划分为哪几类，哪几个等级，分别适用何种监管措施等。

3.

对特殊算法推荐服务提供者的监管措施

（1）实施备案管理

《算法规定草案》规定，具有舆论属性或者社会动员能力的算法推荐服务提供者（“特殊算法推荐服务提供者”）应当通过相关备案系统填报相关信息，进行备案，并在其对外提供服务的平台的显著位置标明其备案编号并提供公示信息链接。[1]《算法规定草案》未对特殊算法推荐服务提供者的定义和范围进行说明，仍待相关配套规定以及网信部门执法案例进一步明确。

（2）需进行安全评估

《算法规定草案》规定，特殊算法推荐服务提供者应当按照国家有关规定开展安全评估。网信办及省级网信部门将会同有关主管部门对算法推荐服务负责开展算法安全评估和监督检查工作，相关算法推荐服务提供者应提供必要的支持和协助。[2]相关安全评估的具体实施规则仍待进一步明确。

三

在算法推荐活动中如何保障用户自主选择权？

保障用户的知情权和自主选择权是保障公平交易、维持市场秩序的重要前提，国家对算法可能不当影响用户自主决定权的问题日益关注，并积极进行立法予以回应。如《个人信息保护法》（ “个保法”）中规定，通过自动化决策方式进行推送或营销，应同时提供不针对其个人特征的选项，或向个人提供便捷的拒绝方式。[3]近日出台的《禁止网络不正当竞争行为规定（公开征求意见稿）》亦强调，经营者不得利用数据、算法等技术手段，通过收集、分析交易相对方的信息、浏览内容及次数等方式，对交易相对方不合理地提供不同的交易信息，侵害交易相对方的知情权、选择权。[4]《算法规定草案》此次也从以下方面明确规定保护用户知情权及自主选择权：

1.

增加算法推荐的公开透明度，保障用户知情权

算法推荐具有一定隐蔽性，常常使得公众在无形之中被“算计”。因此，《算法规定草案》在增加算法推荐的公开透明度，保障用户知情权方面作出了一系列规定，如《算法规定草案》规定了特殊算法推荐服务提供者的备案义务、算法推荐服务提供者以显著方式告知用户其提供算法推荐服务情况的告知义务、算法推荐服务提供者公示算法推荐服务基本原理、目的意图、运行机制等的公示义务以及优化检索、排序、选择、推送、展示等规则的透明度和可解释性义务[5]。上述规则增加了算法推荐相关信息及推荐方式的透明度，一定程度上保证了用户知情权，同时也有利于公众去监督互联网企业的算法推荐功能。

2.

明确用户选择权

与个保法相关规定相呼应，《算法规定草案》也明确了用户接受算法推荐服务的选择权。《算法规定草案》第十五条规定，“算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。”该规定主要针对实践中众多互联网平台未提供算法推荐服务关闭选项或难以关闭相关服务的情形。据报道，通过微信设置功能，经过至少14个步骤，可关闭为期六个月的个性化定制广告。费尽千辛万苦关闭后，用户其实仍会接收到普遍投放的广告。[6]本条款生效后，可督促相关平台设置更为便捷的算法推荐服务关闭方式，真正便利用户行使选择权。

《算法规定草案》第十五条进一步规定，“算法推荐服务提供者应当向用户提供选择、修改或者删除用于算法推荐服务的用户标签的功能。”该条在算法推荐方面给了用户一定主动权，可以避免企业根据自己所确定的用户标签，持续向用户推送相关信息。

四

《算法规定草案》对哪些不正当竞争行为作出明确规范？

1.

不得实施流量造假

在移动互联网时代，注意力成为稀缺资源，流量造假逐渐形成产业链，对公平竞争的市场秩序造成破坏，也不断侵蚀网络空间的社会信任。对此，《算法规定草案》第十三条明确规定，“算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号，或者虚假点赞、评论、转发、网页导航等，实施流量造假、流量劫持”，对流量造假、流量劫持行为明令禁止。

2.

不得操纵搜索结果

互联网时代，信息量爆炸，很多商家或流量网红为了脱颖而出，不惜通过重金以购买热搜或精选，操纵榜单等方式“做广告”，破市场坏公平竞争，扰乱市场秩序，占用公共资源。对此，《算法规定草案》第十三条进一步规定，“不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施自我优待、不正当竞争、影响网络舆论或者规避监管”。

但值得注意的是，《算法规定草案》对违反上述规定所设置的行政处罚金额上限为人民币三万元[7]，并未根据流量造假方或搜索结果操纵方因流量造假或操纵搜索结果所获利润金额设置更高的处罚金额上限。因此，对上述行为的处罚可能仍需主要依靠刑法等其他法律进行处罚和整治。

五

《算法规定草案》对特定群体有哪些特殊保护？

1.

禁止“大数据杀熟”，保障消费者合法权益

近年来，随着互联网不断渗透到我们的生活，“大数据杀熟”已变成一个热词，从订机票、订酒店甚至订外卖都会被“大数据杀熟”。[8]2021年8月20日发布的《个人信息保护法》（“个保法”）针对“大数据杀熟行为”提出了相关应对措施，如规定个人信息处理者利用个人信息进行自动化决策，不得对个人在交易价格等交易条件上实行不合理的差别待遇[9]。

与个保法相呼应，《算法规定草案》也针对“大数据杀熟”提出了类似措施，规定算法推荐服务提供者向消费者销售商品或者提供服务的，“不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实行不合理的差别待遇等违法行为。”（见《算法规定草案》第十八条）

2.

防止未成年人沉迷网络，保障未成年人身心健康

在互联网飞速发展的时代，未成年人沉迷网络的问题引起了社会的广泛关注。由于未成年人价值观尚未健全，缺乏辨别正确价值观的能力，极易掉进互联网的“算法陷阱”里，成为资本逐利的牺牲品。因此，《算法规定草案》针对未成年人网络保护进行了特殊规定，要求算法推荐服务提供者向未成年人提供服务的，应当开发适合未成年人使用的模式、提供适合未成年人特点的服务，不得向未成年人用户推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息内容，或利用算法推荐服务诱导未成年人沉迷网络（见《算法规定草案》第十六条）。但该规定较为概括，且对违反本规定的处罚措施亦不明确，仅规定由主管部门依据职责，按照有关法律、行政法规和部门规章的规定予以处理。因此，仍待在实践中探索更为具体的保护措施。

3.

完善平台调度服务，保障劳动者权益

此前，外卖平台通过算法来测算外卖员配送时间引热议。在外卖平台智能算法的深度学习下，外卖员送餐的时间被平台逐渐压缩，给外卖员造成了巨大压力，也一度使得外卖骑手被贴上了最危险职业的标签。对此，《算法规定草案》第十七条规定，“算法推荐服务提供者向劳动者提供工作调度服务的，应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法，履行劳动者权益保障义务。”但该规定亦相对概括，且相应的处罚措施亦不够明确，仍待结合实际处罚案例探索有关主管部门的执法尺度和力度。

六

《算法规定草案》还规定了算法推荐服务提供者哪些主要义务？

1.

落实算法安全主体责任

《算法规定草案》规定，算法推荐服务提供者作为算法安全主体，应履行以下主体责任[10]：

（1）建立健全用户注册、信息发布审核、算法机制机理审核、安全评估监测、安全事件应急处置、数据安全保护和个人信息保护等管理制度；

（2）制定并公开算法推荐相关服务规则；及

（3）配备与算法推荐服务规模相适应的专业人员和技术支撑。

2.

维护法律及公序良俗，倡导主流价值导向

《算法规定草案》除了强调算法推荐服务应遵守法律法规，同时也强调应尊重公序良俗，倡导主流价值导向。为此，《算法规定草案》规定算法推荐服务提供者应：

（1）定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷或者高额消费等违背公序良俗的算法模型（见《算法规定草案》第八条）；

（2）加强信息内容管理，防止违法信息扩散，保存有关记录，并向网信部门报告。（见《算法规定草案》第九条）

（3）加强用户模型和用户标签管理，不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息内容，不得设置歧视性或者偏见性用户标签（见《算法规定草案》第十条）；及

（4）加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在各个重点环节积极呈现符合主流价值导向的信息内容（见《算法规定草案》第十一条）。

七

企业应根据《算法规定草案》做哪些准备？

《算法规定草案》适用范围较广，几乎涵盖了所有提供算法推荐服务的互联网企业，且其对算法推荐活动亦做了较为全面的规范，一些规则更是直指算法推荐领域的一些乱象，因此，《算法规定草案》的内容对提供算法推荐服务的企业影响较大，故相关企业应根据《算法规定草案》的相关规定着重从以下方面进行准备：

（1）根据《算法规定草案》要求，准备制定相关服务规则、管理制度，并配备相关专业人员及技术支撑；

（2）对开展的算法推荐活动进行自我审核、评估，排除违法和不良信息、诱导性算法模型、偏见性用户标签及其他不符合法律法规、公序良俗及和主流价值导向的情形；

（3）根据《算法规定草案》要求，增加算法推荐服务的公开透明度，保障用户知情权和自主选择权，待《算法规定草案》生效后，及时履行相关告知、公示义务；以及

（4）密切关注《算法规定草案》及相关立法及执法活动对待明确问题的进一步解释，如关注特殊算法推荐服务者的范围，以自查是否需进行相关备案及安全评估。

[注] 

[1] 《互联网信息服务算法推荐管理规定（征求意见稿）》第二十条、第二十二条。

[2]《互联网信息服务算法推荐管理规定（征求意见稿）》第二十三、二十四条。

[3]《个人信息保护法》第二十四条。

[4] 《禁止网络不正当竞争行为规定（公开征求意见稿）》第十三条、第二十一条。

[5] 《互联网信息服务算法推荐管理规定（征求意见稿）》第十二条、第十四条。

[6] 《“查三次攻略共14个步骤”难以关闭的微信朋友圈广告》，21世纪经济报道2020年03月25日讯。

[7] 《互联网信息服务算法推荐管理规定（征求意见稿）》第二十七条。

[8] 新华网《绍兴首例“大数据杀熟”案成功维权》。

[9] 《个人信息保护法》第二十四条。

[10] 《互联网信息服务算法推荐管理规定（征求意见稿）》第七条。

The End

 作者简介

蔡荣伟  律师

上海办公室  高级顾问

业务领域：投资并购和公司治理, 网络安全和数据保护, 诉讼仲裁

特色行业类别：能源与自然资源, 通讯与技术

杨杰

上海办公室  公司业务部

作者往期文章推荐

特别声明：

以上所刊登的文章仅代表作者本人观点，不代表北京市中伦律师事务所或其律师出具的任何形式之法律意见或建议。

如需转载或引用该等文章的任何内容，请私信沟通授权事宜，并于转载时在文章开头处注明来源于公众号“中伦视界”及作者姓名。未经本所书面授权，不得转载或使用该等文章中的任何内容，含图片、影像等视听资料。如您有意就相关议题进一步交流或探讨，欢迎与本所联系。

点击“阅读原文”，可查阅该专业文章官网版。