我国信息服务算法推荐管理 | 分类分级管理

编者按

2021年，全球范围内对于人工智能的监管已经开始从理论探讨走向实际的立法和执法阶段，标志性的事件就是欧盟提出了《欧洲议会和理事会关于制定人工智能统一规则（《人工智能法》）和修正某些欧盟立法的条例》的提案，以及我国国家互联网信息办公室于8月27日发布的《互联网信息服务算法推荐管理规定（征求意见稿）》。【国家互联网信息办公室关于《互联网信息服务算法推荐管理规定（征求意见稿）》公开征求意见的通知】

关于人工智能安全和监管，本公号发布过以下文章：

今天和大家分享的是公号君对《互联网信息服务算法推荐管理规定（征求意见稿）》的研究笔记之三，关注的是“对算法推荐服务提供者实施分类分级管理”。

《互联网信息服务算法推荐管理规定（征求意见稿）》提出了对“对算法推荐服务提供者实施分类分级管理”的思路，但具体如何分类分级，目前尚不明确。但从现有条文可以看出，《互联网信息服务算法推荐管理规定（征求意见稿）》在管理监督方面，区分了“具有舆论属性或者社会动员能力的算法推荐服务”和其他算法推荐服务。《规定》对这两大类算法推荐服务设计了不同程度的管理监督措施。具体如下：

算法属性	管理监督措施
具有舆论属性或者社会动员能力的算法推荐服务	1、备案制度 第二十条 具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。 算法推荐服务提供者的备案信息发生变更时，应当在变更之日起五个工作日内办理变更手续。 算法推荐服务提供者终止服务的，应当在终止服务三十个工作日前办理注销备案手续，并作出妥善安排。 第二十一条 国家和省、自治区、直辖市网信部门收到备案人提交的备案材料后，材料齐全的，应当在三十个工作日内予以备案，发放备案编号并进行公示；材料不齐全的，不予备案，并应当在三十个工作日内通知备案人并说明理由。 第二十二条 完成备案的算法推荐服务提供者应当在其对外提供服务的网站、应用程序等显著位置标明其备案编号并提供公示信息链接。
2、安全评估制度 第二十三条 具有舆论属性或者社会动员能力的算法推荐服务提供者应当按照国家有关规定开展安全评估。 注：如何开展安全评估，见【国家互联网信息办公室公布《互联网新闻信息服务新技术新应用安全评估管理规定》】
其他类型的算法推荐服务	1、算法推荐服务日志 算法推荐服务提供者应当完善算法推荐服务管理机制，对算法推荐服务日志等信息进行留存，留存期限不少于六个月，并在相关执法部门依法查询时予以提供。
2、配合安全评估和监督检查工作 第二十四条 国家和省、自治区、直辖市网信部门会同有关主管部门对算法推荐服务开展算法安全评估和监督检查工作，对发现的问题及时提出整改意见并限期整改。 算法推荐服务提供者应当配合有关主管部门依法实施的安全评估和监督检查工作，并提供必要的技术、数据等支持和协助。

从上述归纳可见，《互联网信息服务算法推荐管理规定（征求意见稿）》对其他类型的算法推荐服务，则强调“事中事后监督”的路径；仅仅对具有舆论属性或者社会动员能力的算法推荐服务，采取了“事前管理”的态度，具体如下：

《互联网新闻信息服务新技术新应用安全评估管理规定》

第七条 有下列情形之一的，互联网新闻信息服务提供者应当自行组织开展新技术新应用安全评估，编制书面安全评估报告，并对评估结果负责：

（一）应用新技术、调整增设具有新闻舆论属性或社会动员能力的应用功能的；

（二）新技术、新应用功能在用户规模、功能属性、技术实现方式、基础资源配置等方面的改变导致新闻舆论属性或社会动员能力发生重大变化的。

国家互联网信息办公室适时发布新技术新应用安全评估目录，供互联网新闻信息服务提供者自行组织开展安全评估参考。

第八条 互联网新闻信息服务提供者按照本规定第七条自行组织开展新技术新应用安全评估，发现存在安全风险的，应当及时整改，直至消除相关安全风险。

按照本规定第七条规定自行组织开展安全评估的，应当在应用新技术、调整增设应用功能前完成评估。

第九条 互联网新闻信息服务提供者按照本规定第八条自行组织开展新技术新应用安全评估后，应当自安全评估完成之日起10个工作日内报请国家或者省、自治区、直辖市互联网信息办公室组织开展安全评估。

第十三条 新技术新应用安全评估报告载明的意见认为新技术新应用存在信息安全风险隐患，未能配套必要的安全保障措施手段的，互联网新闻信息服务提供者应当及时进行整改，直至符合法律法规规章等相关规定和国家强制性标准相关要求。在整改完成前，拟调整增设的新技术新应用不得用于提供互联网新闻信息服务。

总结起来，《互联网信息服务算法推荐管理规定（征求意见稿）》对具有舆论属性或者社会动员能力的算法推荐服务采取了同时覆盖事前、事中、事后的管理体系；对于其他类型的算法推荐服务，主要强调事中和事后。

但是一个问题随之而来，本来《互联网信息服务算法推荐管理规定（征求意见稿）》就聚焦于信息服务，因此算法推荐的都是信息内容。如何判断什么情况下，算法推荐服务就具备了舆论属性或者社会动员能力，什么情况下就不具备？实际上，哪怕是一个工作调度服务的推荐系统，在特定场景中也具备舆论属性或者社会动员能力......（完）

数据保护官（DPO）社群主要成员是个人信息保护和数据安全一线工作者。他们主要来自于国内头部的互联网公司、安全公司、律所、会计师事务所、高校、研究机构等。在从事本职工作的同时，DPO社群成员还放眼全球思考数据安全和隐私保护的最新动态、进展、趋势。2018年5月，DPO社群举行了第一次线下沙龙。沙龙每月一期，集中讨论不同的议题。目前DPO社群已超过300人。关于DPO社群和沙龙更多的情况如下：

域外数据安全和个人信息保护领域的权威文件，DPO社群的全文翻译：

DPO线下沙龙的实录见：

个人数据与域外国家安全审查系列文章

围绕着TIKTOK和WECHAT的总统令，本公号发表了以下文章：

第29条工作组/EDPB关于GDPR的指导意见的翻译：

关于美国出口管制制度，本公号发表过系列文章：

供应链安全文章：

数据跨境流动政策、法律、实践的系列文章：

传染病疫情防控与个人信息保护系列文章

关于数据与竞争政策的翻译和分析：

数据安全法系列文章：

健康医疗大数据系列文章：

网联汽车数据和自动驾驶的系列文章：

关于中美与国家安全相关的审查机制的系列文章：

网络空间的国际法适用问题系列文章：

赴美上市网络、数据安全风险系列文章如下：

人脸识别系列文章：

关于欧盟技术主权相关举措的翻译和分析：

数据要素治理的相关文章包括：

关于保护网络和信息系统安全的相关文章包括：

数据执法跨境调取的相关文章：

我国个人信息保护立法的相关文章：