我国信息服务算法推荐管理 | 条文背后的技术逻辑“想象”

编者按

2021年，全球范围内对于人工智能的监管已经开始从理论探讨走向实际的立法和执法阶段，标志性的事件就是欧盟提出了《欧洲议会和理事会关于制定人工智能统一规则（《人工智能法》）和修正某些欧盟立法的条例》的提案，以及我国国家互联网信息办公室于8月27日发布的《互联网信息服务算法推荐管理规定（征求意见稿）》。【国家互联网信息办公室关于《互联网信息服务算法推荐管理规定（征求意见稿）》公开征求意见的通知】

关于人工智能安全和监管，本公号发布过以下文章：

今天和大家分享的是公号君对《互联网信息服务算法推荐管理规定（征求意见稿）》的研究笔记之二，关注的是这个规定的内在技术逻辑。

任何技术规范在制定时，都或多或少地预设了一个技术逻辑的“想象”。今天这篇文章的目的就是整理出《互联网信息服务算法推荐管理规定（征求意见稿）》背后的技术逻辑的“想象”。

以上是公号君对该规定的学习后整理出来的技术逻辑示意图。接下来，我们就分别从这算法推荐技术、信息内容（文本、视频、音频等）、展示页面、特定用户等四个部分，来认识规定中的具体条款。

算法推荐技术

种类	生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等（规定的第二条）
禁止的算法性质	不得设置诱导用户沉迷或者高额消费等违背公序良俗的算法模型。（规定的第八条）
透明度要求	应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图、运行机制等。（规定的第十四条）
权益影响	用户认为算法推荐服务提供者应用算法对其权益造成重大影响的，有权要求算法推荐服务提供者予以说明并采取相应改进或者补救措施。（规定的第十五条）

信息内容

信息内容特征库	建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序。（规定的第九条）
合成信息的标识	发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输。（规定的第九条）
违法信息的阻断	发现违法信息的，应当立即停止传输，采取消除等处置措施，防止信息扩散，保存有关记录，并向网信部门报告。发现不良信息的，应当按照网络信息内容生态治理有关规定予以处置。（规定的第九条）

展示页面

页面生态管理	算法推荐服务提供者应当加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息内容。（规定第十一条）
调整页面展示	应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。（规定的第十五条）
推荐商品或服务	算法推荐服务提供者向消费者销售商品或者提供服务的，应当保护消费者合法权益，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实行不合理的差别待遇等违法行为。
未成年人保护	算法推荐服务提供者向未成年人提供服务的，应当依法履行未成年人网络保护义务，并通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式，便利未成年人获取有益身心健康的信息内容。 算法推荐服务提供者不得向未成年人用户推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息内容，不得利用算法推荐服务诱导未成年人沉迷网络。（规定的第十六条）
工作调度	算法推荐服务提供者向劳动者提供工作调度服务的，应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法，履行劳动者权益保障义务。（规定的第十七条）

特定用户的自主选择能力

用户模型和标签管理	应当加强用户模型和用户标签管理，完善记入用户模型的兴趣点规则，不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息内容，不得设置歧视性或者偏见性用户标签。（规定的第十条）
对用户的影响	应当综合运用内容去重、打散干预等策略，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响、引发争议纠纷。（规定的第十二条）
用户标签选择	算法推荐服务提供者应当向用户提供选择、修改或者删除用于算法推荐服务的用户标签的功能。（规定的第十五条）

在按照技术逻辑的四个元素进行分别规定后，《互联网信息服务算法推荐管理规定（征求意见稿）》集中对“具有舆论属性或者社会动员能力”的算法推荐服务进行了有针对性的规制。所谓的“具有舆论属性或者社会动员能力”的算法推荐服务，本质上是以上四个方面综合判断后才能确定其是否以及多大程度上“具有舆论属性或者社会动员能力”。

分类分级管理	国家网信部门建立分类分级管理制度，根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据敏感程度、对用户行为的干预程度等对算法推荐服务提供者实施分类分级管理。（规定的第十九条）
备案制度	具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。 算法推荐服务提供者的备案信息发生变更时，应当在变更之日起五个工作日内办理变更手续。 算法推荐服务提供者终止服务的，应当在终止服务三十个工作日前办理注销备案手续，并作出妥善安排。（规定的第二十条） 完成备案的算法推荐服务提供者应当在其对外提供服务的网站、应用程序等显著位置标明其备案编号并提供公示信息链接。（规定的第二十二条）
强制的安全自评估	具有舆论属性或者社会动员能力的算法推荐服务提供者应当按照国家有关规定开展安全评估。 算法推荐服务提供者应当完善算法推荐服务管理机制，对算法推荐服务日志等信息进行留存，留存期限不少于六个月，并在相关执法部门依法查询时予以提供。（规定的第二十三条）

数据保护官（DPO）社群主要成员是个人信息保护和数据安全一线工作者。他们主要来自于国内头部的互联网公司、安全公司、律所、会计师事务所、高校、研究机构等。在从事本职工作的同时，DPO社群成员还放眼全球思考数据安全和隐私保护的最新动态、进展、趋势。2018年5月，DPO社群举行了第一次线下沙龙。沙龙每月一期，集中讨论不同的议题。目前DPO社群已超过300人。关于DPO社群和沙龙更多的情况如下：

域外数据安全和个人信息保护领域的权威文件，DPO社群的全文翻译：

DPO线下沙龙的实录见：

个人数据与域外国家安全审查系列文章

围绕着TIKTOK和WECHAT的总统令，本公号发表了以下文章：

第29条工作组/EDPB关于GDPR的指导意见的翻译：

关于美国出口管制制度，本公号发表过系列文章：

供应链安全文章：

数据跨境流动政策、法律、实践的系列文章：

传染病疫情防控与个人信息保护系列文章

关于数据与竞争政策的翻译和分析：

数据安全法系列文章：

健康医疗大数据系列文章：

网联汽车数据和自动驾驶的系列文章：

关于中美与国家安全相关的审查机制的系列文章：

网络空间的国际法适用问题系列文章：

赴美上市网络、数据安全风险系列文章如下：

人脸识别系列文章：

关于欧盟技术主权相关举措的翻译和分析：

数据要素治理的相关文章包括：

关于保护网络和信息系统安全的相关文章包括：

数据执法跨境调取的相关文章：

我国个人信息保护立法的相关文章：