算法透明度推进中需注重分类透明满足不同对象预期及降低透明风险

编者按

2021年，全球范围内对于人工智能的监管已经开始从理论探讨走向实际的立法和执法阶段，标志性的事件就是欧盟提出了《欧洲议会和理事会关于制定人工智能统一规则（《人工智能法》）和修正某些欧盟立法的条例》的提案，以及我国国家互联网信息办公室发布的《互联网信息服务算法推荐管理规定》。

关于人工智能安全和监管，本公号发布过以下文章：

今天和大家分享的是中国广告协会法律与道德工作委员会常务委员杜东为的文章。

算法透明度构建算法治理中的重要的环节和方法，通过透明度构建要一定程度解决人们对算法黑箱未知引发的误会，增强基本了解和对结果的预见性，从而避免各方对于算法运行中出现各类问题现象的偏见、误读。推进过程中也存在反对算法透明的声音，认为算法透明因本身复杂各方无法理解无意义而且存在损害相关方利益的可能性，造成整体成本提升。

算法透明度推进具有重要意义，帮助各方避免“算法黑箱”，了解算法推荐服务，评估算法服务的合理性，推动各方共识建立以及不断改进和优化算法服务。只是因为算法本身复杂度和各方利益交织导致透明度中对于“度”的把握分析难度大。算法关联用户、商家或内容产出者、其他服务参与者、算法服务提供者、政府监管部门、第三方评估机构等多种角色，各方对于算法透明的目的不同伴随预期也不同；同时透明度中的度到底是要透明算法中原始数据、加工方法、模型、展现应用结果，面对不同对象需求不同，透明重点也是不同，在结果透明、过程透明、影响力透明、合规情况透明等都会有不同表达方式。此外，算法透明通常伴有成本和风险，在推进过程中每个环节都需要考虑进去。本文就算法透明度面对不同对象、预期、重点以及如何有序推进的考量要素进行初步分析。

一、普通用户、平台内商家或内容生产者、监管部门对于算法透明度的期待不同。

算法透明度的作用之一是让各方对于平台通过算法呈现商品、内容，以及算法服务本身与用户或消费者、商家或内容产出者对通过算法获得的信息的预期价值相匹配。预期就包括搜索推荐准确性，私密性保护、价格适合、流量分配公平有序等等要素，通过算法透明度建设，让各方预期更加明确和准确。通过算法决定信息匹配一般是供给端量级大、匹配效率要求高、需求个性化需求强的生态型平台服务，通过透明度引导好各方预期也是繁荣有序的必要条件之一。

普通用户期待：一是算法原理“白话级”透明，算法原理透明化满足用户接受商品或服务的知情权，包含主要影响算法的因子、权重，以及产生不同结果可能的原因，需要用通俗讲法可以说清楚基本逻辑；二是便捷实现对于自身与算法互动调整的选择权和拒绝权，认为算法推荐、搜索展示等不准确或过于准确进行反馈和调整，通过让产品建立条件筛选、负向反馈、删除标签、个性化退出等方式实现；

平台内商家、内容产出者期待：一是算法规则公开，平台算法引导流量的规则透明化，二是期待算法流量分配公平，对于平台自然流量的分配是否公平，这里就包含如何看待公平问题，例如流量分配的马太效应，新商家、新商品、新内容冷启动是否公平，平台对于自营是否存在自我优待等问题；三是平台算法惩戒措施公平，对于因轻微违规的平台流量惩罚，应当公开透明，避免黑箱。

监管部门期待: 一是对算法进一步深入和充分了解，未来出台相关法律法规、指引等更加准确有效，探索平台算法透明度对于消费者、商家及内容产出者等参与角色中各方权益的平衡机制；二是推动算法设计注重公平，平台设计算法不仅围绕平台商业效率提升，同时需要满足社会公平需求，在原始数据、加工方法、模型构建、人工策略融入、展现应用等多个方面融入公平性要素。

当然，也要区分各种期待是否正当，可依据合理、合法、理性进行判断。一是是否合理，如：内容产出者要求推荐算法或者搜索算法透明实时热门词，这样就更容易在内容中加入该类热门词获得更多推荐或者搜索展示机会，这些内容可以增加在原内容中没有实际意义，仅是未来获得更多流量，该期待就属于不合理期待。二是否合法，有些要被法律支持与保障，有些又需要限制，如：超越商业秘密保护部分；三是是否理性，如：普通用户要求算法非原理级透明，要求透明各类参数、模型等，这些并不是普通用户，可能属于一些灰黑产人员向平台试探便于更低成本运行灰黑产，从而增加平台和社会治理总成本，基于算法复杂度普通用户完全没有必要了解过多细节。所以，各群体期待里需要做筛选过滤，并不是所有期待都必要满足。

二、算法透明度面向不同对象及预期，方式和重点不同

（一）不同受众群体的透明重点及方式

1、面向用户或公众：主要围绕受众知情权和选择权，可以在该APP或网站说明或者制作浅显易懂的算法原理说明，让用户对于平台应用了几种算法，算法服务内容价值、原理及用户如何实现自身算法服务选择权和拒绝权如何操作等进行说明；需要算法服务提供者通过APP内向用户专区说明。同时，应鼓励使用平台算法实践蓝皮书等形式进行年度公开透明报告，让公众更加了解算法和信任算法。

2、面向平台内直接经营者或内容产出者：如平台内网店、内容生产者、运营车辆骑手等，主要围绕让其更了解算法中流量分配、违规惩罚等规则，侧重于通过算法透明度引导其健康有序经营、公平竞争、为用户提供更优质的商品和服务。侧重于算法目的意图、运行机制和决策逻辑的透明，推动其自律和他律。需要算法服务提供者在经营后台公示算法规则、运营机制、决策逻辑、申诉渠道等，通过各类算法透明方式赢得更多商业信任。

3、面向监管部门：要透明地更彻底，要能够有能力发现、验证算法服务提供者对用户、商家或内容产出者的合规性，是否落实各项合规要求，如主要应用算法类型，算法设计时决策规则、相应数据来源、用户权利及实现方式、如何防止过度沉迷、信息茧房及公平竞争等；透明方式可以采用年度报告、专项报告等方式呈现算法运行情况。

4、面向算法审计或算法评估三方机构：因算法复杂度高，需要鼓励具有一定公信力组织通过算法三方评估或审计的方式，帮助社会各方对于算法运行实际情况掌握，提升信任。算法服务提供者向该类机构可以在签署保密协议或有法律明确要求的情况下，涉及更多含有商业秘密部分的算法评估或审计。如各类技术参数外泄可能会造成商业秘密泄露导致巨额损失、灰黑产低成本进入和治理成本随之大幅增加。在必要透明的前提下，只有基于法律、机制保障，才能透传以保障良性运转。

三、衡量算法透明度有序推进考量要素

在算法透明过程中，应把握好“度”，平衡好各方权益。既有成本与风险权衡，也有商业秘密与各方利益的平衡；既要通过透明增加理解与信任，也要保护好有序的运行机制。有序推进考量要素如下：

（一）多方理解与共识增加。

公众进一步理解接受算法服务的基本原理，可以与算法进行交互，从而调整自身所接受的算法服务方式，知情权和选择权进一步增加；平台中商家、内容产出者等对于平台算法规则更清晰知晓、公平参与平台内市场竞争；政府监管部门指导算法透明度工作进一步有序开展，通过算法一定程度透明，推进维护好各方权益。

（二）灰黑产治理难度和成本未增加。

在算法透明度推进过程中，因算法规则、机制、运营原理等透出，恶意获取流量、电信诈骗、销售禁限售商品或服务的灰黑产讲可能恶意利用，要保障在算法透明度推进中，灰黑产继续得到遏制，治理难度和成本不因算法透明度推进造成提升和增加。

（三）公平性提升，算法不确定性风险降低。

因算法透明度增加对算法公平性推动进一步提升，减少不正当的人群歧视（如大数据杀熟）、平台治理流量不恰当限权等可能存在的不公平情形。

（四）商业秘密保护未影响。

   算法内很多运行机制、技术、规则等属于核心商业秘密，不要因算法透明度导致保护难度和商业秘密泄露风险提升，在法律法规、政策机制制定时需审慎考虑，避免由于因政府监管过度透明导致涉及商业秘密的算法技术参数、源代码存在泄露的可能，在妥当性、必要性、均衡性上需要进一步梳理清楚机制规则，避免算法商业秘密保护因透明度推进受到不必要的影响。

数据保护官（DPO）社群主要成员是个人信息保护和数据安全一线工作者。他们主要来自于国内头部的互联网公司、安全公司、律所、会计师事务所、高校、研究机构等。在从事本职工作的同时，DPO社群成员还放眼全球思考数据安全和隐私保护的最新动态、进展、趋势。2018年5月，DPO社群举行了第一次线下沙龙。沙龙每月一期，集中讨论不同的议题。目前DPO社群已超过400人。关于DPO社群和沙龙更多的情况如下：

DPO线下沙龙的实录见：

域外数据安全和个人信息保护领域的权威文件，DPO社群的全文翻译：

传染病疫情防控与个人信息保护系列文章

关于数据与竞争政策的翻译和分析：

健康医疗大数据系列文章：

网联汽车数据和自动驾驶的系列文章：

网络空间的国际法适用问题系列文章：

关于保护网络和信息系统安全的相关文章包括：

《网络数据安全管理条例（征求意见稿）》系列文章：

《数据安全法》的相关文章包括：

赴美上市的网络、数据安全方面的两国监管乃至冲突方：

个性化广告或行为定向广告（behavioral targeting advertising）系列的文章：

人脸识别系列文章：

内容安全方面的文章如下：

关于中美与国家安全相关的审查机制的文章：

地缘政治与跨国科技公司运营之间的互动影响：

围绕着TIKTOK和WECHAT的总统令，本公号发表了以下文章：

关于个人数据和域外国家安全审查之间的关系，见：

关于健康医疗数据方面的文章有：

关于数据执法跨境调取的相关文章：

第29条工作组/EDPB关于GDPR的指导意见的翻译：

数字贸易专题系列：

关于《数据出境安全评估办法》的系列解读文章

美国方面的个人信息保护立法的文章：

关于个人信息安全影响评估的文章如下：

关于业务场景中数据跨境流动的文章如下：

关于数据要素治理的相关文章包括：

关于印度的数据保护和数据治理政策和技术文件的文章有：

关于欧盟技术主权相关举措的翻译和分析：

关于我国《个人信息保护法》的文章：

关于数据的安全、个人信息保护、不正当竞争等方面的重大案例：

围绕供应链安全，本公众号曾发表文章：

围绕着出口管制，本公众号曾发表文章：