当期荐读 2023年第2期 | 破除数字平台企业算法黑箱治理困境：基于算法透明策略扩散研究

图源 | Internet

李国昊　梁永滔　苏佳璐

江苏大学管理学院，镇江，212000

摘  要

自进入数字经济时代，“算法黑箱”特性的负面作用日益凸显，我国为此对数字平台企业提高算法透明度提出了新的政策要求。基于此，本文以我国针对数字平台企业“算法黑箱”的治理政策为蓝本，运用复杂网络演化博弈，建立了数字平台企业优化算法透明度策略扩散模型，并得到以下结论：①政府的监管对数字平台企业是否优化算法透明具有关键作用，但数字平台企业数量规模增大会使政府监管和惩罚作用降低；②消费者监管起到辅助作用，且随着企业数量规模扩大变得更为重要；③优化算法成本以及披露算法的风险均是阻碍数字平台企业优化算法透明度的重要因素，且企业抵御风险能力会随着数量规模扩大而降低。最后，根据结论提出对策建议，为我国数字平台企业“算法黑箱”治理困境的破除提供一定的参考。

关键词

数字平台企业　算法治理　算法黑箱　算法透明度　复杂网络演化博弈

01

 引言

随着数字市场和数字技术的迅速发展，我国已进入数字经济时代，并涌现出一大批诸如腾讯、字节跳动、阿里巴巴的数字平台企业^[1]。数字平台企业是指将数字信息与其他生产要素结合，利用数字技术和数字界面促进双边或多边利益相关者互动进而实现价值创造的平台企业^[2-5]。当前，多数数字平台企业使用基于大数据的算法决策，这不仅使企业运转效率得到提高，同时也提升了平台用户的体验感与满意度。然而，算法决策过程因其复杂性而导致用户或算法使用者无法理解、解释部分阶段的运算，也因此产生了决策不透明现象，该现象被称为“算法黑箱”^[6]。例如，视频平台不透明的算法规则容易让用户受困信息茧房^[7]，甚至产生群体极化^[8]；外卖平台利用算法黑箱不断缩短骑手送餐时间，进而危及交通安全^[9]；而电商平台的算法则可以无声息地对消费者进行“大数据杀熟”，损害消费者权益^[10]。此外，算法黑箱还可能引发数据安全隐患，造成严重后果^①。因此，数字平台企业算法黑箱治理已成为数字经济快速发展过程中亟需解决的问题，也是营造良好互联网生态环境的关键枢纽。

目前，数字平台企业算法黑箱的治理存在一定困境。首先，由于算法本身具有商业机密、技术外行存在壁垒、算法脱离人为控制等原因，使得数字平台企业的算法不具备透明性，其危害难以让监管者和消费者察觉。其次，消费者或用户对“算法黑箱”反抗能力不强。根据赵龙轩等^[11]的调查可知，用户大多数情况下虽能感知算法黑箱的存在，但反抗型操纵算法的行为则偏少，给予了平台更大算法权力的空间。最后，数字平台处于绝对的信息优势，与监管者和消费者之间存在一定的数字鸿沟。许多超级平台企业利用其数据优势占有用户信息进行变现，若用户不提供信息则无法使用平台服务，导致用户处于弱势地位，同时技术和信息方面的不对称，也给监管者带来了一定的治理难度。

针对数字平台企业“算法黑箱”治理困境问题，我国政策也在逐步推进，国家网信办等四部门联合发布的《互联网信息服务算法推荐管理规定》以及《关于加强互联网信息服务算法综合治理的指导意见》明确要求数字平台企业应优化算法透明度、加强相关部门对数字平台企业的监管力度，在政策层面进一步加强了数字平台企业优化算法透明度要求。算法透明度指的是解释算法为何以及如何被使用的程度^[12]，一般要求向用户或公众披露算法的内在逻辑^[13]，被认为是推动算法治理的最根本力量^[14]，提高算法透明度已逐渐成为各国对算法监管的共识^[15]。实际上，一些数字平台企业也在优化算法透明度上作出了一定尝试。例如，今日头条、BBC向公众公开其算法工作原理，BuzzFeed、Facebook则在GitHub上披露了数据和代码^[16]。因此，从优化数字平台企业算法透明度切入研究，进而提升行业整体算法透明度，对破除数字平台企业算法黑箱治理困境具有重要意义。然而，传统以单个主体为研究对象的方法并不能洞察整个行业的算法透明度提升路径，且随着大数据的高速发展，数字平台企业行业已然呈现出复杂性和不确定性，影响着数字平台企业之间的策略交流与传递。复杂网络建模分析方法则可以侧重于网络大规模统计特性，不仅不限于单个主体，还可将事物之间的关系抽象为节点与连线，并衡量各个成员在系统中的重要程度^[17]、预测参与者未来的策略^[18-19]，对于研究数字平台企业优化算法透明度策略扩散具有显著优势。基于此，本文从算法透明度治理法则出发，以我国的政策环境为背景，构建复杂网络博弈模型，揭示治理主体之间的互动关系，以期深入了解中国政策的外部环境下数字平台企业算法透明度策略扩散过程以及政府、消费者的监管机制，为我国数字平台企业算法黑箱治理困境的破除寻求合理的中国方案。

02

文献综述

算法黑箱这一概念由尼沃在书中提出，作者认为算法中信息输入、决策过程及信息输出并不透明，如同黑箱一般存在^[20]。算法黑箱分为三类，包括输入和输出端均可知但过程不可知、只有输出端可知^[16]，以及输入、输出端和决策过程均不可知^[21]这三种形态。对于算法黑箱产生的原因，Burrell^[22]认为是机密、算法本身的复杂性和算法使用规范所致。故算法黑箱不仅是技术层面的问题，还有可能是人为因素引起的。算法机制自主决策虽在某种程度上能够摆脱人为控制^[23]，但存在人为带入偏见变量导致算法歧视，以及利用算法不透明性实施商业欺诈行为欺骗公众谋取利益的现象^[24-25]，这也是治理算法黑箱应该重点整治的部分。数字平台算法黑箱产生的危害主要有两个方面，分别为数据失控危机和决策结果歧视危机^[26-27]，表现为个人数据的非法获取和使用、价格歧视、种族歧视等，甚至会危害人身安全以及公共安全。

对于算法黑箱的破除方案，部分学者认为其关键是明确平台型企业的社会责任。他们认为，赋予算法设计与开发者、数字平台企业治理责任，通过平台企业牵引社会利益相关者实现多方协同治理^[28-32]，为平台算法黑箱治理作出贡献。然而，以上研究忽略了算法本身在数字平台企业治理中的重要性，数字经济的本质是“算法界定”的经济^[33]，数字平台在商业应用、内部治理和业态创新中大量应用算法^[34]，仅通过平台问责无法应对千变万化的市场^[35]，单一归责的做法容易忽视其他主体的规制责任^[36]，对于算法产生的问题，应该从算法角度出发，只有提升行业整体算法透明度，才能从根本上解决数字平台企业算法黑箱问题。

近年来，算法透明度在算法黑箱治理中的基础性地位逐步受到学界认可，其已成为数字平台企业与数据主体保持信任关系的关键^[37]。不少学者初步探索了算法透明度的概念、适用范围及其意义，并认为算法透明度是解决算法黑箱的一剂良药^[38-40]。英国议会人工智能委员会报告中指出，解决算法黑箱的方法之一就是增强算法透明度^[41]。Ziewitz^[42]分析了算法何以在平台时代形成对人们生活的控制，并据此提出重新思考算法透明性和规范性等问题的必要。Rader等^[43]通过一项在线实验证明了在算法决策中透明度设置的重要意义。仇筠茜等^[44]认为透明化操作是打开算法黑箱的重要手段，并列举了公开数据库、说明算法规则和逆向工程分析等具体的实施方案。Treleaven等^[45]认为增强算法透明度、配置算法解释权、设立专门监管机构等手段可以规制算法黑箱问题。吴椒军等^[27]分析了我国算法透明度相关规定认为，从算法事前与事后的解释来提高算法透明度，可以有效解决算法黑箱问题。

从上述文献中不难看出，算法透明度治理法则已成为破除算法黑箱的关键抓手。然而，现有关于算法透明度的研究多基于法律和伦理层面，对算法透明度的概念、适用范围、意义等进行了初步探索，较少对数字平台企业算法透明度提升策略进行分析。为弥补现有文献不足，本文将从数字平台企业治理视角出发，分析政府部门、消费者（用户）以及数字平台企业之间的互动决策对算法透明度扩散、算法黑箱治理的影响，进一步探索破除数字平台企业算法黑箱治理方案。

03

数字平台企业优化算法透明度策略扩散模型构建

3.1　WS小世界网络构建

本文根据Watts等^[46]的WS小世界网络模型构建方法，如图1所示，首先建立一个节点总数为n的最近邻耦合网络，并假设网络中所有连接都是无向、无权的。n = {n₁,n₂,n₃,…,n_n}为网络节点集合，代表行业中n个数字平台企业，若数字平台企业n_i与n_j之间由一条边相连，则他们之间可称之为邻居，初始的最近邻耦合网络每一个节点只和它周围邻居节点相连；然后，如图2所示，选择网络中一个节点，并以概率p从整个网络中随机选择另外一个节点，将这两个点进行重新连接；最后确定网络中节点平均连接数K，（即平均每个节点的邻居数），以顺时针方向重复这一过程，直至满足整个图中所有节点的平均连接数为K且整个图中有nK/2条边，最终形成如图3所示的WS小世界网络，把网络记为G=(n,K,p)。数字平台企业将在生成的网络G中与其邻居进行博弈。

3.2　问题描述与参数设置

通过梳理已有文献对策略扩散的研究^[47-49]，本文将“算法透明度策略扩散”定义为随着时间的推移，优化算法透明度策略在数字平台企业之间扩散的过程。在本文的博弈模型之中，每个数字平台企业有“优化算法透明度”和“保持算法不变”两个纯策略。根据现有研究，假设每个数字平台企业之间为完全竞争关系，且出售同质化的产品或服务，边际利润为P，市场上总需求为Q，则平均需求为q=Q/n^[47-48]，其中n代表了行业内数字平台企业的总数。为了使后续分析不失一般性，本文基于已有研究，假设当数字平台企业数量行业规模增大时，消费者规模和政府规模保持不变^[49]。在模型中，选择“优化算法透明度”策略的平台企业比例为α，在使用该策略的条件下，必须投入一定的成本，记为I，这是因为优化大型和超大型人工智能算法的工作量十分复杂，且算法透明度也要求以一定的方式向公众披露其内在逻辑^[13]，而正因为数字平台企业向公众披露了其决策逻辑，因此可以为其获得一定的消费者声誉收益，记为R且R>0。然而，平台在披露其算法的过程中，可能会出现被模仿、盗取、攻击等风险，进而遭到损伤^[13]，因此，本文将出现模仿、盗取和攻击的概率记为ε，而出现该问题后平台会遭到L的损失。政府对平台的监管力度为β，监管方式表现为对各平台企业的算法进行审查，若审查出算法不合规问题，将对其进行惩罚，惩罚金额记为D。除此之外，政府对于平台惩罚将会在社会上进行披露，对于算法不合规的平台将会受到一定的声誉和市场份额的损失。例如，网约车平台滴滴出行因数据安全问题被政府惩罚并向社会披露，对其声誉造成了一定的影响，且次月市场份额下降了21.1%^②。基于此，本文将声誉损失记为-R，市场份额流失的比例记为 γ 。对于政府审查缺失的平台，消费者会通过自身权益受损的情况，以 θ 的概率进行投诉。例如，根据北京消费者协会2019年调查，大约有26.7%的消费者遭遇数字平台企业的大数据杀熟后会向有关部门投诉。因此，本模型用θ代表消费者的监管水平；在消费者投诉后，政府则依照审查出算法不合规问题对该平台进行惩罚以及向社会披露，政府的监管力度和消费者参与监管水平共同组成了算法不合规企业受到处罚以及声誉损失的概率。综上所述，本文的参数及其意义如表1所示。

表1  模型参数及其意义

3.3　博弈流程设计

如图4所示，本文参考了Wang等^[50]复杂网络演化博弈的构建流程，在原有基础上加入政府监管的因素。在本文模型中，每个平台企业都在网络中与其邻居、政府和消费者进行博弈，以下就以平台企业 n_i 为例，对本文模型的具体流程进行阐述。

图4    博弈流程

当平台企业 n_i 及其邻居均选择“优化”策略时，需要付出 I 的优化和披露成本，并且有 ε 的几率遭遇算法被模仿、盗取和攻击，造成 L 的损失，但是可获得一定的消费者声誉 R 。当政府以 β 的监管力度进行算法审查时，由于政府披露的影响，采用“保持”策略的平台企业的市场需求量会因此减少 βγq ，所有“保持”策略的平台减少的需求量为 βγq(1-α)n ，而由于总需求量不变，故每个使用“优化”策略的平台企业的需求量增加了  ，则此时平台企业与其邻居的收益均为  。

当平台企业 n_i 选择“优化”策略而其邻居选择“保持”策略时，若此时政府对其进行审查，其邻居会因为算法透明度、决策不透明等问题遭到 D 的处罚，并会受到政府向社会披露而损失的声誉 R 。此外，除政府对数字平台企业进行监管以外，消费者也会起到监管作用，表现为向政府举报有算法问题的平台企业，因此采取“保持”策略的平台受到政府处罚和信誉损失的概率会增大，用(β+θ)(R+D)表示。由于消费者必须使用该平台的服务或购买该平台的商品才能向政府进行投诉，属于事后控制的范畴，因此对平台当前的需求量没有影响，故此时平台企业 n_i 及其邻居的收益为  和  。当平台企业 n_i 选择“保持”策略而邻居选择“优化”策略时，则双方收益分别为  和  。

当平台企业 n_i 及其邻居均选择“保持”策略时，则他们均可能以 β 的概率损失 γq 的需求量，且由于受消费者的监管作用，此时平台企业及其邻居受到惩罚和社会披露的概率增加为(β + θ)，因此两者的收益均为  。综上所述，根据所有主体之间的博弈关系，可以得到平台企业及其邻居收益矩阵（见表2）。

表2    数字平台企业及其邻居的收益矩阵

3.4　更新策略规则

考虑到现实场景中个体的决策可能存在感性行为或在决策中犯错，因此本文采用费米演化规则^[49]来刻画个体的非理性行为，更加符合演化博弈中的有限理性假设。根据复杂网络演化博弈的基本假定，个体只能调整自己的博弈策略，不能改变自己的博弈关系，故其收益矩阵不随时间变化而改变^[51]。平台之间只能通过不断地博弈以及与邻居比较收益进行策略更新学习，最终演化为稳定的策略选择。在一次博弈结束之后，每个数字平台企业都会进行策略更新，而该平台模仿其邻居策略的概率为：

其中 U_i和 U_j分别代表平台企业 n_i 及其邻居 n_j 在该次博弈中获得的收益；而ω（ω ⩾0）为噪声效应，代表平台企业的非理性程度，本文基于前人的研究^[49]，令 ω =0.1。由于复杂网络演化博弈特性，参与人的收益不仅与决策相关，同时还可能受到邻居收益、网络规模的影响，鉴于模型分析的难度，本文遵循已有研究范式，通过模型仿真对演化过程及结果进行分析。

04

模型仿真与结果分析

4.1　参数初始化与仿真步骤

本文以规模在10亿美元以上的中国数字平台公司为研究对象。截至2020年末，中国超过此规模的数字平台企业数量为197家^[52]，为创建初始网络为规则网络的最近邻耦合网络，故令n=196 ，并在随后将网络规模扩大到 n=400 ，以研究网络规模对数字平台企业优化算法透明度策略的扩散影响。此外，为排除平均连接数 K 的影响，本文还对 K 进行了敏感度分析以及不同 K 值下对初始参数演化影响分析，结果发现，不同 K 值对扩散结果几乎没有影响，考虑到篇幅有限，故不再赘述，因此本文根据已有关于复杂网络演化博弈的研究令 K =4 ^[47,49]。由于小世界网络的随机重连概率对系统具有重要的影响，而当随机重连的概率为0.3时可以使系统的协调性达到最优，因此本文令 p =0.3^[53]。根据《中国电子商务报告2020》^③，我国网民规模为9.89亿人，结合前文假设可知总需求量为9.89亿，且有市场平均需求为总需求与平台数之比，即每个平台500万的单位需求，因此令 q =500。根据《中国电子商务报告2020》，我国全年电商对个人交易额为9.84亿元，结合总网民数量可得单位网民消费额为1189元，因此本文令 P =0.12。对于数字平台企业披露算法可能会出现被同行模仿、盗取，或是被黑客攻击等风险而造成的损伤，本文参考IBM Security Ponemon Institute联合发布的《2021数据泄露成本报告》，其中提到的2020年平均数据泄露成本为3.86百万美元^④，折合人民币约246万元。为保证模型参数赋值差距不会太大，因此本文令 L =24.6。有关参数 γ 的赋值，本文参考滴滴出行被政府披露算法问题后市场份额下降的案例。2021年7月被网信办通报算法和数据安全风险问题，次月滴滴出行月订单量较之前下降了21.1%^⑤，故令 γ =0.211。对于消费者监管 θ 来说，本文参考2019年北京消费者协会有关“大数据杀熟”的调查报告，其中消费者遭遇“杀熟”后向消协或市场监管部门投诉的比例26.72%^⑥，故令θ =0.267。有关出现算法问题而受到的处罚，根据《互联网信息服务算法推荐管理规定》^⑦的第三十三条规定算法问题情节严重的，责令暂停信息更新，并处1万元以上10万元以下罚款，因此本文对政府处罚的初始值设置为 D =1万元，并在随后探讨不同罚款金额对优化算法透明策略扩散的影响。相关参数的初始化如表3所示。

表3    仿真参数初始值 

本文基于Mac os 12.6计算机系统，利用Matlab2018b对数字平台优化算法透明度策略扩散模型进行仿真，具体可分为以下四个步骤：

步骤1：生成含有 n 个数字平台企业的WS小世界网络，每个企业平均与 K 个邻居相连,按照数字化企业的初始比例 α 随机分配各数字平台企业的初始策略。

步骤2：数字平台企业之间根据设定的流程博弈，并按照费米演化规则进行策略更新。

步骤3：重复步骤2，直至优化算法透明度策略扩散比例不再变化，系统处于稳定状态。

步骤4：对步骤1—3重复进行20次，利用结果平均值绘制演化过程图。

4.2　政府监管对数字平台企业优化算法透明度策略扩散影响分析

4.2.1 政府监管力度影响分析

图5展现了政府不同监管力度对数字平台企业采取优化算法透明度策略扩散的影响，由图5-（1）可知，在既有网络规模（n=196）下，当 β =0 时，使用优化算法透明度策略的企业比例在最终稳定时均演化为0；当 β 大于0时，可以使优化算法透明度的策略达到完全扩散，且随着 β 取值越大，扩散速度越快；当 β 大于0.4时，扩散速度不再变化。显然，政府部门的监管力度对于数字平台企业是否选择优化算法策略有着关键性作用，当政府放任不管时，没有一家数字平台企业选择对其算法进行优化；当政府监管力度适当时，则可以促进企业选择优化算法策略，进而提高数字平台企业行业整体算法透明度；然而，当政府监管力度在此基础上持续增强时，扩散的速度仍然保持不变，故对于政府来说，为了使扩散速度在此基础上再次变大，或许应该采用其他的复合策略。

图5  不同网络规模下政府监管强度对算法透明度扩散影响

此外，从图5-（2）中可以发现，更大的网络规模会使政府的监管作用有所降低，当n=400、 β =0.2 时，相较于n=196，系统达到演化稳定的时间变长。这可能是由于数字企业的数量不断增大，政府部门对于整个行业的监管难度大大提高，使其面临一定的监管困境，进而导致行业漏网之鱼的出现。

4.2.2　政府惩罚力度影响分析

　　图6展现了政府惩罚金额大小对数字平台企业采取优化算法透明度策略扩散的影响，图中的取值分别代表《互联网信息服务算法推荐管理规定》中所包含的惩罚范围，从图6-（1）中可以得到，在 n=196 的情况下，测试的惩罚金额均可以使数字平台企业的优化算法透明度策略达到完全扩散；而从图6-（2）中不难发现，在 n=400 的情况下，在相同参数下，更大的网络规模也会使数字平台企业的优化算法透明度策略扩散演化速度大幅降低。

图6    不同网络规模下政府惩罚对算法透明度扩散影响

从 D 的取值对扩散的影响程度可以得到，现有规定的惩罚金额均可以使数字平台企业的优化算法透明度策略达到完全扩散，在更大的网络规模中，惩罚金额越大越有助于数字平台企业扩散速度的上升。与政府监管力度 β 类似，更大的网络规模会使惩罚力度 D 的作用效果变差，因此对于政府来说，当数字平台企业数量增多时，应加大监管的力度和惩罚金额，才能使数字平台优化算法透明度的扩散速度进一步提高。

4.3　消费者监管对数字平台企业优化算法透明度策略扩散的影响分析

4.3.1 消费者监管水平影响分析

图7展现了消费者监管水平对数字平台企业优化算法透明度策略扩散的影响，从图7-（1）中可以得到，在网络规模 n=196 的条件下，行业中优化算法透明度策略扩散率在稳定状态下均可达到100%；而对比图7-（2），随着网络规模扩大（即 n=400 ），的取值在0.267以下的扩散率均为0%，而只有当θ >0.267时，数字平台企业优化算法透明度策略扩散率才有所改变，达到100%。

图7    不同网络规模下消费者监管水平对算法透明度扩散影响

在目前的数字企业平台数量规模中（即 n=196 ），与前文（即政府监管力度为0）使扩散程度为0%的情况有所不同，在 θ =0 的情况下，系统最终稳定的扩散程度依然达到100%，这证明了在目前的数字企业平台数量规模条件下，政府监管对于数字平台算法透明度优化的扩散具有关键性作用，而消费者的监管行为则是辅助作用。然而，随着数字企业平台数量规模增多，政府监管力度的作用被削弱，消费者的监管作用则变得尤为重要。

4.3.2　消费者声誉影响分析

　　图8展现了消费者声誉对数字平台企业采取优化算法透明度策略扩散的影响，从图8-（1）中可以得到，当 R=0 时，在现有网络规模下数字平台企业优化算法透明度策略扩散程度为0；当 R>0 时，扩散程度达到100%，且随着 R 增大，系统达到稳定的速度逐渐加快，当 R 大于一定的阈值时，数字平台企业的演化速度不再增加。发生以上现象主要是以下原因：一方面，消费者声誉对数字平台企业收益影响是持续不断的，选择“优化”策略的企业其长期正向声誉收益可以抵消部分其优化算法的成本和因披露算法被攻击或模仿而造成的损失，故其愿意去优化算法透明度，而一旦没有正向声誉，数字平台企业优化算法成本或可能遭到的损失无法被弥补，此时企业则会选择“保持”策略；另一方面，对于选择“保持”策略的数字平台企业来说，长期的负向声誉收益使其总的累积收益不断减少，进而使其转向模仿选择“优化”策略来维持其收益的最大值，且声誉收益的数值越大，则其对累积收益的影响程度也越大，因此其演化速度也随之加快。

图8    不同网络规模下消费者声誉对算法透明度扩散影响

此外，观察图8-（2）可以发现，R < 3 情况下数字平台企业优化算法透明度策略扩散均为0%，这说明网络规模越大，数字平台企业越不重视消费者声誉带来的影响。根据前文的分析，网络规模的扩大会削弱政府的监管力度，因此，在其他条件不变的情况下，此时数字平台企业因算法不符合规定而遭到披露的几率会有所降低，最终导致了网络规模较大条件下的数字平台企业对于消费者声誉的重视程度不如网络规模较小条件下的数字平台企业。

4.3.3　平台因算法问题失去市场份额影响分析

　　图9展现了数字平台企业因算法问题失去市场份额对平台企业采取优化算法透明度策略扩散的影响。平台因算法失去的市场份额可以认为是消费者对算法不合规数字平台企业的惩罚。在网络规模 n=196 条件下，当 γ =0时，数字平台企业的扩散率约为0%，当γ ≥0时，扩散率达到100%，且随着 γ 越大，系统达到演化稳定的速度也越快。在网络规模 n=400 的条件下，若 γ  <0.211，数字平台企业的扩散率约为0%，当γ ≥0.211时，数字平台企业优化算法透明度策略扩散达到100%，此时系统的演化速度也开始随着γ 的增大而加快。

图9    不同网络规模下因算法问题失去的市场份额对算法透明度扩散影响

从 γ 在不同网络规模以及不同取值情况下的变化可以得到，消费者的惩罚对促进算法透明度策略扩散具有明显的正向作用，但这种作用随着行业内企业数量增大而减弱，即在 n=400 条件下 γ 需要更大取值才能达到 n=196 条件下同样的效果。这是因为数字平台企业在相同条件下，更小的网络规模使其损失的销量更多。由于数字平台企业之间为完全竞争关系，每家企业初始销量为市场平均需求，在较小的网络规模下，企业可以分摊到更大的初始销量，但更大的初始销量在损失相同比例消费者的情况下意味着损失更多的销量，所以网络规模较小条件下的企业对于消费者的重视程度高于网络规模较大条件下的企业。

4.4　企业自身条件对数字平台企业优化算法透明度策略扩散影响分析

4.4.1　优化算法成本影响分析

　　图10展现了优化算法透明度所花的不同成本对数字平台企业优化算法透明度策略扩散的影响，从图中可以得知，当优化成本 I 较低时均可达到优化算法透明度策略的完全扩散，而当优化成本 I 高于阈值时，扩散则降低到0%，且该阈值随着网络规模的扩大而变小。

图10    不同网络规模下优化算法成本对算法透明度扩散影响

　　对于数字平台企业来说，优化算法成本是企业是否选择优化算法透明度的一个重要影响因素，当成本 I 过高时，数字平台企业可能无法承担高昂的费用，最终铤而走险，继续沿用其不符合规定的算法。这种现象在网络规模扩大的时候变得更加明显，一方面是因为网络中节点的增加使得总邻居数量也随之变大，所以当优化成本 I 较高时，选择“优化”策略的数字平台企业的累计收益会迅速减少，迫使其不得不去模仿选择“保持”策略的企业，而这种有着一定优势的行为随着网络节点增大而被更多的企业模仿；另一方面，随着网络规模扩大，可供企业模仿学习的对象也有所增加，企业学习和更新效率也会有所提高^[49]。因此，归结于以上两方面的原因，在 n=400 的时候， I=6 时系统达到完全扩散的速度减慢，I=8 时则开始出现系统稳定时扩散比例为0%的情况。

4.4.2　平台披露算法风险的影响

图11和图12分别展现了数字企业平台披露算法被模仿、盗取、攻击的风险概率以及预期损失大小对数字平台企业采取优化算法透明度策略扩散的影响，从图11-（1）中可以得知，当ε <0.4，数字平台优化算法透明度的扩散率在演化稳定时均可达到100%，且随着 ε 取值变大，扩散速度也有所下降；当 ε ≥0.4时，数字平台优化算法透明度的扩散率在演化稳定下降到0%，且随着 ε 取值变大，下降的速度也越快。此外，观察图11-（2）可以得知，虽然在 ε = 0.2的条件下与 n=196 时一致，都可达到算法透明度策略完全扩散，但是扩散速度却大幅下降。而在 ε = 0.4 时，与 n=196 相同条件下，扩散率下降到0%的速度明显上升，这表明在更大的网络规模下，数字平台企业对风险发生的概率更敏感。

图11    不同网络规模下平台披露算法风险对算法透明度扩散影响

由图12-（1）可知，当 L <12.3 时，L 的取值变化并没有对扩散程度产生明显的影响；当12.3< L ≤36.9时，系统演化稳定速度逐渐降低，但扩散程度仍然维持在100%；当 L >36.9时，数字平台优化算法透明度的扩散率会从100%降至0%。此外，将图12的（1）与（2）进行对比还可以发现，该数字平台优化算法透明度扩散率的阈值随着网络结构的变化会减小，这表明在更大的网络规模下，数字平台企业更加难以承担风险发生后所造成的损失。这其中的原因是当披露算法的风险概率 E 以及预期损失 L 较大时，选择“优化”策略的数字平台企业的正收益无法弥补风险发生的损失，进而转向学习采用“保持”策略的邻居。然而，随着网络规模变大，网络中的邻居数量也迅速增长，他们的行为感染了更多的数字平台企业，最终导致了数字平台优化算法透明度扩散率的阈值随着网络结构的变大而减小。

图12    不同网络规模下平台披露算法损失对算法透明度扩散影响

根据仿真分析结果可知，当网络规模增大时，行业中数字平台企业抵御风险的能力也会随之降低，不仅对风险发生的概率更加敏感，也更难以接受风险发生后所造成的损失。这是由于数字平台企业之间为完全竞争关系，当网络规模扩大时，企业可以分摊到初始销量更低，因此销售的收入进一步减少，因此在其他参数不变的情况下，企业的利润难以弥补与网络规模较小条件下风险造成的同样损失，故其抵御风险能力也随之变差。

综上所述，本文的仿真结果如表4所示。

表4    相关参数仿真结果

05

结论与对策建议

考虑到社会上广泛关注的算法黑箱问题，本研究基于我国数字治理现状分析，构建了数字平台企业优化算法透明度策略扩散的复杂网络博弈模型，探讨了各参与人之间互动决策对优化算法透明度策略扩散、算法黑箱治理的影响，并得出以下结论：政府部门的监管力度对于数字平台企业是否选择优化算法透明度策略起关键性作用，随着行业中企业数量增加，政府的监管和惩罚作用会有所降低；消费者监管行为对数字平台企业优化算法透明度策略扩散起到辅助作用，而相较于消费者监管水平，因政府披露带来的市场份额和声誉损失对扩散程度的影响更大；优化算法成本以及披露算法过程中可能遭遇的风险均是阻碍数字平台企业优化算法透明度的重要因素，而当行业内企业数量增大时，单个数字平台企业抵御风险能力也会随之降低。基于此，提出以下对策建议：

（1）完善政府监管机制。对于政府来说，当未来数字平台企业的数量增加时，政府部门可以适当增加监管力度和惩罚力度，并鼓励更多消费者参与监管，提高消费者的监管水平；同时，政府可以对优化算法的企业给予鼓励和资金支持，并强化网络空间安全，保护数字平台企业合法权益与知识产权，增大企业优化算法透明度的动力。当未来数字平台企业的数量减少时，政府部门可以适当放宽监管和惩罚力度，以促进数字平台企业的发展。最后，消费者的惩罚来源于政府披露，政府在审查企业算法的同时可以加大向社会披露的力度，例如，通过社交媒体官方账号发布审查结果，进而加大消费者对企业的惩罚作用。

（2）加强消费者协同监管水平。对于消费者来说，当数字平台企业数量增加时，其应发挥更强的监管作用以弥补被削弱的政府监管力度；当数字平台企业数量减少时，消费者的监管水平对扩散的影响程度下降，但消费者声誉对扩散有着长期影响，因此，消费者团体可以多建立一些红黑榜（例如南方周末“漂绿榜”、央视315晚会等），对积极优化算法透明度的数字平台企业进行表彰和鼓励，公布并批评算法不合规的数字平台企业，从社会的声誉层面促进优化算法透明度的策略扩散。

（3）树立良好的数字平台企业形象，合理规避披露算法风险。对于数字平台企业来说，消费者声誉效应的影响较大，因此，企业应把形象塑造作为优先发展战略，并在内部确立合理的企业文化，不能单纯地以“利润最大化”作为运营目标。此外，企业在披露算法过程中，并不一定要公开其源代码，只需把握“算法可解释性”，并积极向政府进行算法备案，则可以在一定程度上规避被模仿、攻击的风险，或是降低风险所造成的损失。

受限于篇幅和数据可得性的缘故，本文只对小世界网络下数字平台企业优化透明度扩散进行了研究，同时也未考虑到垄断因素带来的影响。未来的研究可以考虑加入更多因素或参与者，并结合其他复杂网络类型进行探讨。

注：

①例如2022年7月“滴滴出行”APP因算法导致数据安全问题被处以80.26亿元人民币行政处罚就是其中较为典型的案例。

②交通运输部发布的《网约车监管信息交互平台发布8月份网约车行业运行基本情况》。

③中华人民共和国商务部发布的《中国电子商务报告2020》。

④IBM Security发布的《2021数据泄露成本报告》。

⑤交通运输部发布的《网约车监管信息交互平台发布8月份网约车行业运行基本情况》。

⑥北京消费者协会发布的《2019大数据杀熟调查》。

⑦中华人民共和国工业和信息化部等四部门发布的《互联网信息服务算法推荐管理规定》。

参考文献

[1]　刘洋，董久钰，魏江．数字创新管理：理论框架与未来研究[J]．管理世界，2020，36(7)：198-217，219.

[2]　程恩富，王爱华．数字平台经济垄断的基本特征、内在逻辑与规制思路[J]．南通大学学报(社会科学版)，2022，38(5)：1-10.

[3]　王勇，戎珂．平台治理：在线市场的设计、运营与监管[M]．北京：中信出版集团股份有限公司，2018：4-16.

[4]　Nambisan S. Digital entrepreneurship: Toward a digital technology perspective of entrepreneurship[J]. Entrepreneurship Theory and Practice, 2017, 41(6): 1029-1055.

[5]　肖红军，商慧辰．数字企业社会责任：现状、问题与对策[J]．产业经济评论，2022(6)：133-152.

[6]　Pasquale F. The black box society[M]. Cambridge: HUP, 2015:1-24.

[7]　张海．网络用户信息茧房形成机制的概念框架研究[J]．情报理论与实践，2021，44(11)：60-64，107.

[8]　卢智增，高翔．社交媒体平台群体极化的形成机理与引导策略研究[J]．情报理论与实践，2021，44(8)：51-58.

[9]　邹开亮，陈梦如．算法控制下“网约工”权益保护的困境与出路[J]．价格理论与实践，2021(6)：44-48，93.

[10]邢根上，鲁芳，周忠宝，等．数据可携权能否治理“大数据杀熟”?[J]．中国管理科学，2022，30(3)：85-95.

[11]赵龙轩，林聪．“黑箱”中的青年：大学生群体的算法意识、算法态度与算法操纵[J]．中国青年研究，2022(7)：20-30.

[12]Shin D, Park Y J. Role of fairness, accountability, and transparency in algorithmic affordance[J]. Computers in Human Behavior, 2019,98(1): 277-284.

[13]苏宇．优化算法可解释性及透明度义务之诠释与展开[J]．法律科学(西北政法大学学报)，2022，40(1)：133-141.

[14]王娟，叶斌．“负责任”的算法透明度——人工智能时代传媒伦理建构的趋向[J]．自然辩证法研究，2020，36(12)：66-72.

[15]靳雨露．算法披露的域外经验与启示[J]．情报杂志，2022，41(7)：91-99.

[16]Diakopoulos N. Algorithmic accountability: Journalistic investigation of computational power structures[J]. Digital Journalism, 2015, 3(3): 398-415.

[17]王伟明，徐海燕，朱建军．复杂网络视角下的大规模群体DEMATEL决策方法[J]．系统工程理论与实践，2021，41(1)：200-212.

[18]卢小宾，翟兴，王涛．基于复杂网络的信息分析模型研究[J]．情报理论与实践，2020，43(5)：177-182.

[19]霍朝光，张斌，董克．复杂网络视域下的学术行为预测研究述评：选题、合作与引用[J]．情报理论与实践，2021，44(6)：180-188，27.

[20]尼尔·温斯托克·内坦尼尔．信息的商品化(影印本)[M]．北京：中信出版社，2003：231-234.

[21]张淑玲．破解黑箱：智媒时代的算法权力规制与透明实现机制[J]．中国出版，2018(7)：49-53.

[22]Burrell J. How the machine ‘thinks’: Understanding opacity in machine learning algorithms[J]. Big Data & Society, 2016, 3(1): 2053951715622512.

[23]丁国峰．大数据时代下算法共谋行为的法律规制[J]．社会科学辑刊，2021(3)：127-136.

[24]成曼丽．大数据时代算法歧视的协同治理[J]．中国流通经济，2022，36(1)：104-116.

[25]赵一丁，陈亮．算法权力异化及法律规制[J]．云南社会科学，2021(5)：123-132.

[26]姜野，李拥军．破解算法黑箱：算法解释权的功能证成与适用路径——以社会信用体系建设为场景[J]．福建师范大学学报(哲学社会科学版)，2019(4)：84-92，102，171.

[27]吴椒军，郭婉儿．人工智能时代算法黑箱的法治化治理[J]．科技与法律(中英文)，2021(1)：19-28.

[28]晁罡，林冬萍，王磊，等．平台企业的社会责任行为模式——基于双边市场的案例研究[J]．管理案例研究与评论，2017，10(1)：70-86.

[29]刘奕，夏杰长．共享经济理论与政策研究动态[J]．经济学动态，2016(4)：116-125.

[30]阳镇，许英杰．平台经济背景下企业社会责任的治理[J]．企业经济，2018，37(5)：78-86.

[31]肖红军，李平．平台型企业社会责任的生态化治理[J]．管理世界，2019，35(4)：120-144，196.

[32]阳镇，陈劲．数智化时代下企业社会责任的创新与治理[J]．上海财经大学学报，2020，22(6)：33-51.

[33]李晓辉．算法商业秘密与算法正义[J]．比较法研究，2021(3)：105-121.

[34]程增雯．平台经济领域自治算法滥用与反垄断规制[J]．南方金融，2021(10)：87-96.

[35]曾雄，梁正，张辉．欧美算法治理实践的新发展与我国算法综合治理框架的构建[J]．电子政务，2022(7)：67-75.

[36]王德夫．论人工智能算法的法律属性与治理进路[J]．武汉大学学报(哲学社会科学版)，2021，74(5)：29-40.

[37]Cohen G, Amarasingham R, Shah A, et al. The legal and ethical concerns that arise from using complex predictive analytics in health care[J]. Health Affairs, 2014, 33(7):1139－1147.

[38]陈昌凤，张梦．智能时代的媒介伦理：算法透明度的可行性及其路径分析[J]．新闻与写作，2020(8)：75-83.

[39]梁志文．论算法排他权：破除算法偏见的路径选择[J]．政治与法律，2020(8)：94-106.

[40]谭九生，范晓韵．算法“黑箱”的成因、风险及其治理[J]．湖南科技大学学报(社会科学版)，2020，23(6)：92-99.

[41]Artificial Intelligence S C. AI in the UK: Ready, willing and able[R]. London: House of Lords, 2018.

[42]Ziewitz M. Governing algorithms: Myth, mess, and methods[J]. Science, Technology, & Human Values, 2016, 41(1): 3-16.

[43]Rader E, Cotter K, Cho J. Explanations as mechanisms for supporting algorithmic transparency[C]//Proceedings of the 2018 CHI Conference on Human Factors in Computing Systems, Montreal. New York: ACM, 2018: 1-13.

[44]仇筠茜，陈昌凤．基于人工智能与算法新闻透明度的“黑箱”打开方式选择[J]．郑州大学学报(哲学社会科学版)，2018，51(5)：84-88，159.

[45]Treleaven P, Barnett J, Koshiyama A. Algorithms: Law and regulation[J]. Computer, 2019, 52(2): 32-40.

[46]Watts D J, Strogatz S H. Collective dynamics of  ‘small-world’ networks[J]. Nature, 1998, 393(6684): 440-442.

[47]王璐，马庆庆，杨劼，等．基于复杂网络演化博弈的绿色消费者对新能源汽车扩散的影响研究[J]．中国管理科学，2022，30(4)：74-85.

[48]杨水根，何松涛．企业数字化扩散的政策激励机制研究——基于复杂网络演化博弈模型[J/OL]．软科学, 2022：1-14[2022-11-04]．http://kns.cnki.net/kcms/detail/51.1268.G3.20221026.1231.010.html.

[49]Li J, Jiao J, Tang Y. An evolutionary analysis on the effect of government policies on electric vehicle diffusion in complex network[J]. Energy Policy, 2019, 129: 1-12.

[50]Wang L, Zheng J. Research on low-carbon diffusion considering the game among enterprises in the complex network context[J]. Journal of Cleaner Production, 2019, 210: 1-11.

[51]谢逢洁．复杂网络理论研究的计算软件方法[M]．北京：科学出版社，2020：41.

[52]白彦锋，刘璐．平台经济发展“双失序”与共同富裕取向的财政治理选择[J]．河北大学学报(哲学社会科学版)，2022，47(1)：10-23.

[53]李旲，曹宏铎，邢浩克．基于复杂网络少数者博弈模型的金融市场仿真研究[J]．系统工程理论与实践，2012，32(9)：1882-1890．

（收稿日期：2022-08-31）

作者简介

李国昊，博士，教授，研究方向为数字经济与算法治理；

梁永滔（通讯作者），硕士生，研究方向为数字经济与算法治理，Email：[e-mail]；

苏佳璐，博士生，研究方向为技术创新与知识产权管理。

* 原文载于《信息资源管理学报》2023年第2期，欢迎个人转发，公众号转载请联系后台。

* 引用格式

李国昊，梁永滔，苏佳璐. 破除数字平台企业算法黑箱治理困境：基于算法透明策略扩散研究[J].信息资源管理学报，2023,13(2):81-94.

往期 · 推荐

▲点击访问信息资源管理学报小程序

制版编辑 | 王伊杨

审核 | 于阿媛

长按识别二维码关注我们

信息资源管理学报

微信号

xxzyglxb

分享、在看与点赞

只要你点，我们就是朋友😊