黄新华 温永林｜算法规制的善治之道：缘起、挑战与路径
黄新华
摘 要
以大数据为基础、以复杂算法为核心的智能技术，已成为促进数字经济发展和社会福利增长的重要力量。但算法自主能力提升和算法应用场景拓展，使算法治理可能成为异己的力量，引发平台垄断、隐私侵犯、参与弱化、算法歧视等风险，算法规制的善治要求应运而生。然而，寻求面对技术、经济、社会、政治问题交织叠加的算法规制的善治之道，面临着多重目标、信息壁垒以及规制制度缺位与能力不足等一系列挑战。实现算法规制的善治需要完善算法规制体系，构建算法影响评估制度和规制影响评估制度；推动有意义的算法透明，促进企业合规管理，引导社会力量参与，消除算法规制中的信息壁垒；推进规制制度变革和规制理念创新，把国家算法权力纳入规制范围，提升规制队伍能力水平和发展敏捷性规制工具。只有实现技术向善的算法规制，才能在技术应用驱动的经济发展与福利增长中创造高品质生活。
算法是指通过所掌握的信息让使用者得到某一针对性问题的答案，或掌握输出信息的一系列指令的策略，其核心是按照设定程序运行以期获得理想结果的一套指令。算法借由其客观性、自动化和高效率的优势，已成为提高管理和决策效率的先进生产力工具，人类社会已经进入一个“以算法为中心”的时代。随着算法应用领域的迅速扩展，在为人类创造福利和机会的同时，也引发了人们对隐私安全、算法公平等社会伦理问题的担忧，算法问题逐渐成为学术界关注的热点，相关讨论从不同层面展开。一是算法权力研究。信息时代智能算法凭借机器优势、架构优势和嵌入优势形成的资源调配力量使其成为一种事实上的技术权力。由于算法权力背后潜藏着商业资本的力量，使其形成了有别于一般权力的弥散性、隐蔽性和非均衡性特征。但一切权力都有被滥用的可能，算法权力滥用同样会导致显著的社会负效应，加剧社会不平等、阻碍自由选择、增加不安全性，并与国家权力形成新的博弈等，因此需要对算法权力加以约束。二是算法应用研究。由于制度背景和文化传统的差异，西方学者侧重于从隐私安全、算法歧视、言论自由等层面，探讨算法应用对公民个人权利的威胁；国内学者则更加关注算法平台垄断、算法安全和算法公平等社会伦理问题的研究。三是算法规制研究。算法风险的涌现催生了算法规制研究的兴起，学者从不同角度对算法规制进行了学理分析，提出应该根据不同场景类型对算法采取不同的规制方式，并阐明配备算法解释权、促进算法透明和建立算法问责制的重要性。综上所述，学术界对算法相关问题的探讨已积累了一些有价值的成果，但大多从某一侧面展开，缺乏对算法规制的整体性审视，也鲜有研究进一步探讨算法规制面临的深层次挑战，并系统论述算法规制善治之道的实现路径。本文从宏观层面的整体性视角切入，拓展了算法规制的研究空间，探求算法规制善治的缘起，尤其是对算法规制善治之道存在的现实挑战进行深入剖析，阐明实现算法规制善治的变革路径，进而为技术向善的算法规制提供统合性思考和系统性规制谱系。
算法规制的善治之道：缘起
规制往往与风险密切相关。算法治理在促进数字经济发展和社会福利增长的同时，也可能形成平台垄断，导致隐私泄露、参与弱化、算法歧视等伦理风险，进而侵害个人权利、市场与社会秩序。但是，由于算法平台的自身属性特征及市场的效率逻辑和私益取向，依靠市场自身无法有效解决算法平台垄断行为对市场竞争秩序的干扰，也无法有效调和算法技术应用可能潜藏的风险。算法规制的善治之道，正是为应对算法风险而展开的一系列规范和控制活动，目的是纠正市场失灵，维持市场竞争秩序，保护公民生命、健康与财产安全，促进社会公平正义。
（一）防止平台垄断，维护市场竞争
算法技术的快速发展和融合渗透，带来了商业模式与企业组织形式的急剧变革，算法平台企业迅速崛起，并成为数字经济发展的重要支撑力量。但是，由于网络型产业存在网络效应和规模效应的自然垄断属性，平台企业追求自身利益最大化，在数据和算法加持下，形成了更为复杂隐蔽的新型垄断行为，大型数字平台实际上形塑了线上活动规则，成为影响甚至决定市场资源配置的“有形之手”，对市场竞争秩序、消费者和社会福利造成严重损害。具体而言，平台自然垄断形成的不完全竞争市场会损害市场竞争效率。自然垄断行业在追求利润最大化的过程中，垄断者不仅会利用垄断地位对产品价格和产量加以控制，造成社会经济效率损失，还会通过垄断化协议、兼并等手段排除、限制或阻碍竞争，破坏市场秩序，层出不穷的“赢者通吃”“算法共谋”“强制‘二选一’”等垄断现象，严重破坏了市场配置资源的效率。更严重的是，平台企业滥用市场支配地位，会侵害消费者福利和社会公共利益。平台企业借由海量数据和算法技术，可以根据不同消费者的消费习惯、消费能力等信息，轻易地实行差异化定价，并通过精确评估消费者对价格变化的反应，及时调整定价策略，使不公平的定价行为难以被发现。因此，必须加强对平台企业的反垄断规制，穿透其技术面纱将监管的触角直接指向背后的算法责任，通过构建算法问责制，明晰平台垄断的底层技术逻辑，才能提升算法监管的效率。
（二）避免数据侵犯，保护隐私安全
算法技术的发展，使得数据成为一种重要的战略资源，数据在数字经济发展和推动创新中的价值被社会各界认可，“数据是新的石油”成为共识。然而，数据开发利用过程中的潜在安全风险与数据带来的价值同样引人注目，如何保护个人数据安全和隐私安全成为社会关注的焦点。作为人工智能发展的两大基石，数据和算法存在密切的关联，二者彼此嵌入、相辅相成。算法自主决策和行为能力的提升离不开对数据的反复学习和强化训练，训练数据的粒度和数量影响着算法模型的精准性和高效性，算法应用场景拓展和应用程度加深，也使得作为算法决策依据的数据价值进一步彰显。但是算法有效运行是建立在对数据信息广泛收集的基础上，企业在自身利益最大化和理性选择的驱动下，往往存在过度采集用户数据信息的现象，给数据和隐私安全构成严重挑战。数据采集、存储、管理与使用中的技术局限，以及数据权属不清和监管制度不健全，进一步为数据侵权行为提供了操作空间。面对日益严峻的数据滥用和隐私泄露风险，强化数据安全和隐私保护是算法规制的应有之义。保护用户数据安全和隐私权利，政府必须通过严格立法落实企业数据安全和隐私保护的主体责任，强化算法主体信息披露义务，加强对数据采集、存储、处理与使用的安全性和歧视性审查，限制企业过度采集用户数据的行为，在避免数据侵权的同时，赋予用户知情权和选择权。
（三）警惕参与弱化，维护社会民主
算法技术嵌入国家与社会治理，为发展全链条、全方位、全覆盖的民主提供了契机，但算法时代的民主发展也面临新的风险，算法自主决策会弱化民主参与。随着算法自主学习能力和社会事务复杂程度的提升，国家与社会治理愈来愈依赖大数据和算法自动化决策，数据和算法逻辑甚至会在部分程度上取代原有的法律规则成为国家与社会治理的依据。然而，算法自主决策过程由算法主导，忽略了人的价值判断和自主选择，算法日益复杂化形成的知识壁垒提高了参与门槛，导致公众决策参与度弱化，形成新的技术精英阶层，社会阶层进一步分化。企业通常在算法开发和应用中占据主导优势，算法嵌入国家和社会治理需要政府向企业购买和引入算法技术，在“算法影子官僚”的资本利益逻辑支配下，容易形成对公共价值的驱逐和对公共权力的消解。技术优势企业还可能凭借其技术垄断地位，形成操纵政府治理的“超级权力”，这都有悖于国家与社会治理的民主理念。化解算法治理的民主弱化风险，推进民主建设必须明确算法决策中人的主体性地位，重申行政基本原则在算法行政中的价值，限定算法在行政中的适用范围和裁量空间，建立公开透明机制、正当程序制度以及算法影响评估制度等，保障公民知情、选择、参与、申辩和救济的权利，提升行政人员理解、使用算法的能力，并为算法主体配置相应的算法解释义务。
（四）规避算法歧视，促进公平正义
社会公平、非歧视是人类社会发展的永恒价值追求。然而，社会进步带来的福利增益并不总是由所有社会成员享有，而是不平等分布于不同社会群体，规制的一个重要目的就是寻求公平和正义的资源分配。算法技术发展及其在各个领域的深度嵌入，给人类生产生活带来极大便利，促进了社会福利增长，但也可能造成公平的损益，因为算法目标失范或价值偏见容易导致算法歧视。算法看似客观中立，实则是建立在分类手段、思想和类别之上的，个人经历、社会地位、价值取向等差异形成的主观价值偏见难免会映射至算法中，形成算法偏见或算法歧视。平台企业“大数据杀熟”“一人一价”的价格歧视，简历投递中的性别、年龄、族群歧视等都是商业利益逻辑主导下算法目标失范的典型体现。而数字鸿沟也会损害社会分配正义，造就数字时代信息富有者与信息贫困者之间的差距，形成了新的富人阶级与穷人阶级，加上任何社会实事的数据化表达都不足以反映实事本身，算法决策往往缺失人为的理性和价值判断。如果数据代表性不足或数据不能真实度量社会事实，基于数据或算法逻辑形成的歧视与偏见，就容易在算法系统“偏见进、偏见出”的逻辑下被放大，导致社会弱势群体陷入数据自我实现的怪圈，陷入反复歧视的系统性困境，造成社会分配正义的损益。为了规避算法歧视或算法偏见对社会公平正义的侵蚀，需加强算法伦理审查和影响评估，设立专门的算法伦理审查机构，事先评估和消弭数据与算法系统可能存在的偏见与歧视。
算法规制的善治之道：挑战
算法技术革新和治理场景拓展隐藏的风险，要求对算法进行规制。但规制者必须慎重权衡，避免过度规制阻滞技术创新或规制不足导致算法滥用，清楚认识到算法本身的技术特征及规制制度局限对实现算法规制善治之道的挑战。
（一）目标约束：多重任务与内在张力
解决市场失灵、维护市场秩序、保障公共利益是政府规制的动因。于算法规制而言，其目的既有积极的意涵，也有消极的层面。算法规制的积极目的在于维护市场公平竞争秩序、规范算法技术发展、促进社会福利增长；消极目的在于防止平台垄断、防范算法风险及降低规制成本。如何平衡多重目标与任务之间的内在张力，是算法规制面临的重要问题。
一是公益与私益。政府作为社会公共利益的代表，规制是为了保障市场机制的正常运行，维护市场竞争秩序以及促进社会福利最大化，而企业生产经营的目标是追求自身利润最大化。政府规制公益取向与企业经营私益取向之间的目标差异，使得政府规制的利益基础不可避免地存在内在张力，如何平衡公共利益与私人利益以实现激励相容，政府规制机构需要谨慎考量。算法平台垄断、算法合谋、“猎杀式”并购、价格歧视等现象，都反映出算法企业追求自身利益最大化是以牺牲社会公共利益为代价的，因此算法规制需要对平台垄断行为进行治理，通过市场进入控制、价格与质量控制以及标准控制等手段，抑制算法企业私益过度膨胀侵害社会公共利益，平衡社会公益与企业私益之间日益紧张的关系，以期在实现经济效益增长的同时，促进社会福利增长。
二是发展与安全。算法技术发展已成为社会进步的基石，是数字时代促进人与社会可持续发展和社会福利增长的重要力量。但随着算法技术的影响力与控制力逐渐增强，算法技术异化现象层出不穷，对国家与人民安全、市场与社会秩序构成重大的潜在威胁，需要以算法伦理为应然边界，对算法进行规制和引导。同时也要防止以秩序和安全为借口，过度限制算法技术发展，因为规制错误或过度规制算法技术及其衍生的商业实践可能会阻滞算法技术进步，带来社会福利损益。目前，我国算法规制往往过于注重算法安全，忽略了算法发展对人工智能产业等社会经济裂变的革命性作用。为了满足算法发展与算法安全的双重期待，需要基于应用场景对算法影响展开评估，建立算法应用限制和豁免的法律规定，避免规制错误或过度约束带来的不利影响。
三是成本与收益。政府规制成本是指规制政策制定和实施过程中由规制主体和客体所承担的各项费用之和，规制收益是指规制政策实施后给被规制者和整体社会福利带来的利益增长。算法规制至少需要考虑规制制度或标准的制定与执行成本、算法企业遵从成本、社会损害成本以及规制错误成本等。规制收益则包括算法企业效益及其给社会带来的正外部收益。算法规制应当采取符合成本收益原则的措施来防控算法风险，即以更少的公共投入和代价获取更富成效的规制成果。针对算法技术发展和算法风险防控的需求，我国已经出台了《互联网信息服务算法推荐管理规定》《关于加强互联网信息服务算法综合治理的指导意见》《国务院反垄断委员会关于平台经济领域的反垄断指南》等诸多规制措施。但是各项措施在实施过程中是否与规制目标相匹配，是否会带来过高的规制运行成本以及是否造成市场资源配置的无效率和扭曲效应等，规制机构应对规制措施的成本收益和有效性进行权衡，避免政府规制无效投入或收益损失。
（二）信息壁垒：算法“黑箱”与规制失灵
信息壁垒是指规制机构与算法主体在信息不对称情况下，算法主体利用其掌握的信息与技术资源占据优势地位，并对规制机构的规制活动形成制约的现象。信息壁垒的存在会弱化算法规制效果，产生规制失灵。
一是算法“黑箱”阻滞责任认定。对算法进行监管与问责的基础在于理解算法的内部设计和运行逻辑，但算法“黑箱”的存在使监管和问责面临很大困难。算法“黑箱”可能源于算法涉及国家安全或商业秘密、技术认知能力不足以及算法自身的复杂性。主观层面，不论算法主体是国家机关还是商业机构，核心数据或算法的深度公开都受到国家安全或商业秘密及合规成本的掣肘，这也在很大程度上成为算法主体逃避算法侵权责任的借口。例如，平台企业常常会以知情同意的服务协议、技术中立主义、商业秘密等为抗辩理由，拒绝公开数据和算法，以此逃逸现行法律责任。客观层面，随着算法自主学习和自我革新能力的提升，算法技术逐渐脱离人的监督和干预，即使是专业技术人员都愈发难以理解算法运行逻辑和解释算法结果。算法技术的自主性、复杂性和不可解释性加大了算法责任认定的难度。
二是信息不对称引致规制失灵。由于数据或算法通常被网络平台、科技巨头等主体所掌握，科技企业在信息、数据、资本和技术等方面的垄断优势造成的信息不对称，是横亘于规制者面前的主要障碍。算法企业为了获取超额垄断利润、规避侵权惩罚和隐藏潜在风险，往往缺乏主动公开算法信息的内在动力，在外部监管压力之下，可能通过提供冗余信息或虚假备案来规避责任。由于缺乏相应的技术能力和有效的激励措施，规制者通过算法审计、算法标准等行政规制手段获取企业算法信息也受到很大限制，这进一步加剧规制者和被规制企业之间的信息不对称。信息不对称使政企博弈失衡，政府许多时候只能通过与算法企业合作推动算法规制工具的开发与应用，导致规制权力屈服于技术公司和算法设计者的私人控制。这种技术依赖格局可能引发规制失灵风险和政府规制合法性危机。
三是参与缺失弱化规制效果。受政府全能主义的影响，世界各国都存在过度依赖资源和能力有限的政府对算法风险进行规制，而市场和社会参与较为缺失的现象。我国《互联网信息服务算法推荐管理规定》明确规定，国家网信办是算法规制的主导性机构，电信、公安、市场监督等部门承担本领域的监督职责。然而，由于缺乏对规制风险的必要认知和深度把握，过度信赖政府规制能力可能诱发严重的非预期后果或衍生风险，政府保障算法安全、公平与向善的社会性目标定位，可能导致其难以评估和判断一系列规制措施的经济后果，难以通过分散化的算法备案信息对算法风险进行全过程监控，进而弱化政府规制决策和执行效果。
（三）规制局限：制度缺位与理念滞后
长久以来，规制者都面临着新的技术或商业实践与其既有规制框架不相适应导致的“规制紊乱”问题，算法技术及其应用实践的发展，使算法规制面临制度覆盖面过窄、规制能力不足、规制理念滞后等挑战。
一是规制覆盖范围不够。算法规制的目的是维护市场秩序，确保算法安全、公平等，这意味着任何可能威胁市场秩序和产生伦理风险的算法都应该受到规制。算法在国家权力系统中的运用，已经对政府组织模式、权力秩序和治理能力等产生了深远影响。算法决策和国家治理的深度融合，改变了国家治理的主体结构和权力运作模式，丰富了国家治理的“工具箱”，提升了国家治理的现代化水平。算法在国家治理中的应用，使得国家权力公共性与算法弥散性、隐蔽性结合，算法辅助决策或算法替代国家权力决策同样可能导致权利侵犯、算法偏见等伦理风险，产生严重的社会公平和分配正义等问题。但是，算法规制过窄的覆盖面使得国家权力中的算法运用游离于规制之外，亟须将国家治理中的算法纳入规制范围，使算法规制一体适用国家权力机关和私营主体。
二是规制能力水平偏低。规制能力是指能够使规制制度和程序运行都有利于实现企业、消费者和政府三者间利益合理平衡的能力，它包括限制性规则的制定能力和执行能力。但是信息技术更新及其应用，导致规制机构和规制队伍的能力水平与算法技术迅猛发展的现实不相适应，难以满足算法规制跨域性、复杂性、专业性的要求。随着算法应用场景的拓展，算法风险越来越具有跨域性特征，需要协调统筹多个主管部门。而算法规制权力相对分散，规制部门之间的协调也面临不少问题，如何跨越部门行政壁垒整合碎片化的规制资源，是算法规制必须面对的一个问题。此外，机器学习算法自我学习能力的提升与算法应用场景的不断扩展，算法规制所需的复杂信息和专业知识对规制机构和规制人员的能力水平提出了更高要求。为了防止规制资源碎片化和规制职能交叉导致算法风险低效监管，减少政府规制机构对私营部门的技术依赖，保障算法规制的权威性和相对独立性，必须增强政府规制能力，提升规制机构和规制人员的专业化水平。
三是规制治理理念滞后。从规制实践上看，当前各国的算法规制主要采用算法备案、算法披露、算法认证等信用规制工具，以及约谈、罚款等命令控制型规制工具，规制政策和法规过于注重全面性和长期稳定性，面对实践中算法应用导致的市场失序和伦理风险，也多习惯采取“运动式”的执法方式对市场主体进行集中整治。这种自上而下科层式、临时性的监管，信息不对称且缺乏灵活性和常态化，容易导致监管措施落后于发展实践、市场投机行为和监管效果短期化。因此，需要提升算法规制的灵活性和敏捷性，通过敏捷治理增强政府规制感知力、响应力和平衡力，提前预知风险、察觉变化和解决问题。换言之，算法社会新的市场秩序、技术形态、商业模式革新迭代，不断涌现出新挑战，政府必须转变“科层式”“运动式”的算法规制，根据算法发展趋势，及时出台、修订、升级规制政策，提升算法规制措施的适应性。
算法规制的善治之道：路径
要发挥算法在促进数字经济发展和整体社会福利增长中的作用，避免方兴未艾的算法治理向恶发展，必须顺应技术发展趋势，变革政府规制理念和规制制度，充分利用政府内外部规制资源，寻求推动实现算法规制的善治之道，提升算法风险防范和应对能力。
（一）风险进路：分级分类与影响评估
风险进路旨在识别和评估被规制活动可能引发的风险，设置与之相适应的保护水平与规则。风险进路使规制活动更具灵活性、层次性和可扩展性，可以有效应对不断变化的复杂风险环境，通过事前差异化预测和前瞻性分析，降低企业合规成本和政府规制成本，体现安全与发展并重的算法规制准则。
一是完善分级分类的算法规制体系。我国《互联网信息服务算法推荐管理规定》指出，应根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等，对算法推荐服务提供者实施分级分类管理。这为完善算法规制奠定了良好基础，但并未涉及算法技术本身，而是基于算法的“服务影响程度”。随着算法自我学习能力和自我迭代功能的增强，算法从工具性算法逐渐演变为具有自主性和认知特征的本体化算法，基于算法服务影响程度的分级分类管理可能有失全面，影响算法备案工具效能。应根据算法技术本身的工具性和自主性程度与算法应用风险的高低，进行整体性制度设计。除了对数据重要性和服务影响程度等进行分级分类外，还应对算法技术本身的自主性程度进行分级分类。这种整合性的分级分类方式，既有助于监管机构清晰识别算法风险的来源与特征，便于开展适应性、精准性算法风险治理，更好地平衡公益与私益、发展与安全之间的关系；也有助于在多样化算法应用场景下，政府规制工具的选择和使用，降低规制成本。对于自主性强和风险程度低的算法，鉴于其在数字经济发展和社会治理中的重要工具性价值，则应适当放松规制，以更具激励性、包容性的手段加以引导。
二是构建算法影响评估制度。算法影响评估是指特定主体根据既定标准对算法系统内部设计、应用和数据处理等内容的描述，旨在评估其对特定个人或群体所产生的影响程度和风险等级，并据此设计相应的方案以减轻或消除负面影响和风险的算法治理活动。算法影响评估本质上是一个构建和展示合规性的过程，可以使算法风险在早期即被发现，是一种被广泛采用的风险防范机制，也是机器学习算法规制的有效途径。因此，权衡算法发展与算法安全之间的关系，需要政府把握算法规制的尺度，建立算法影响评估制度，提高算法规制制度的适用性，出台有关算法影响评估的法律规范和技术标准，并建立常态化、专业化的外部审查机制，监督算法影响评估结果。监督审查的内容包括：算法主体是否开展算法影响评估、是否向公众披露评估结果、是否向公众提供提出异议的渠道等。并基于审查结果，在实践中督促算法主体落实算法影响评估责任，提高算法主体内部的算法风险管理能力。当算法影响评估未能纠正或消除存在风险的算法系统时，政府还应建立救济机制，为受影响的个人或群体提供救济。
三是建立规制影响评估制度。规制影响评估是一项系统性、强制性的评估机制，用来评估拟议的法律或次级立法对特定类型的利益相关者、经济部门和环境产生的影响。规制影响评估的实质是一种行政程序，用于拟议规制的事前审查，检视已经生效的规制政策的效果，其目的是为规制者提供规制的成本与收益信息，以提高规制质量和效益，降低规制成本。随着算法技术发展和算法规制实践的推进，立法、行政、司法等各领域推出算法规制措施，加剧了规制成本与收益之间的内在紧张关系，需要构建规制影响评估制度加以平衡。通过对算法规制制度或政策的影响评估，使规制机构能够及时废止过度或无效的规制政策，修改完善效率不高的措施，并顺应算法发展需求适时填补规制空白的领域，降低算法企业因制度冗余造成的合规成本和政府行政成本，降低规制不足导致算法滥用而产生的社会成本，提高规制效率与效益。为此，需要从立法、组织、人员、技术等层面为规制影响评估制度建设提供支撑，通过立法保障算法规制影响评估制度的权威地位，并设立算法规制影响评估机构和审查机构确保制度得以执行。
（二）消除壁垒：算法透明与规制协同
算法“黑箱”给算法规制造成了严重的信息壁垒，导致算法主体责任逃逸和规制失灵，需要遵循算法透明原则，强化信息披露，限制算法“黑箱”带来的不利后果。同时，新类型的经济形态在数据和算法驱动下不断涌现，算法风险交织蔓延，单靠技术能力有限的政府实施算法规制，不足以缩小信息鸿沟，有效防范风险，需要推动社会多元主体参与算法规制，充分发挥他们拥有的信息、知识、技术和组织优势，以更有效率和更具参与性的协同治理机制，共同维护市场秩序、保护算法安全和增进公共利益。
一是推动有意义的算法透明。关于算法透明原则是否有效还存在争议，有学者认为，算法透明是一种迷思，作为一种事前规制方式，其规制效力有着天然缺陷，因为算法透明往往与国家安全、社会秩序、主体权利相冲突，透明不等于可知和有效。但是，由于算法透明对保障公民权利具有实质性意义，能够在一定程度上作为算法主体与其作用对象、规制机构之间信息失衡的矫正机制，透明原则依然是打开算法“黑箱”、缩小信息鸿沟、实现算法问责的有效路径，关键在于建立程度合理且有意义的算法透明制度，使算法信息披露有价值。而有价值的算法信息披露需要遵循比例原则，披露信息要符合规制标准，要便于政府审查算法、监管算法、治理算法，在保护商业秘密的基础上提高算法信任，于公众而言可理解和可监督。更关键的是，算法信息披露的结果要使算法具有可解释性和可问责性，可解释性强调算法主体对算法决策过程和决策机制做出解释，本质上是追求人类理性的回归和增强算法信任，因为算法程序和系统只是手段，算法决策过程中的价值判断才具有核心意义。算法透明的最终结果是要实现合理的责任分配，只有增强算法的可问责性，才能促使算法主体充分重视算法风险的防范、识别和应对，切实保障算法安全。因此，政府需要通过立法规定算法主体的算法透明责任，并为有价值、可解释、可问责的标准做出限定。
二是促进算法企业合规管理。合规管理是企业防控合规风险的内部管理体系，旨在通过企业内部建设合规风险防范、识别、应对等机制，提高防范风险的能力，达到化解风险的目的。算法时代数字平台企业的算法技术愈发专业化、复杂化和隐蔽化，算法滥用导致的市场垄断、价格歧视、信息泄露等风险，越来越难被外部监管识别，加强企业自身算法合规管理成为防控算法风险和弥补算法监管不足必不可少的途径。促进企业算法合规管理，需要完善企业内部算法合规风险评估机制，改进算法合规计划的监督与完善机制，强化企业算法合规的外部激励机制。具体而言，算法企业需要在企业内部建立专门的算法合规部门，评估各类算法系统是否符合法律规范和社会伦理要求，并设置适当的访问规则和畅通的外部监督渠道，为监管部门、行业自律组织、第三方机构及个人等对企业算法合规情况进行监管提供便利。当然，对企业算法合规管理还必须配置相应的激励措施，切实保障企业履行算法合规责任。
三是引导社会力量参与规制。挖掘和利用社会力量，吸纳有能力开发算法风险防御工具和提供快速保护机制的社会主体进入算法风险治理网络，能够弥补政府规制和企业自我规制的不足，因为社会力量参与算法规制有其技术、成本和效率优势。一方面，相对于政府规制而言，由专业技术人员构成的第三方机构具有专业性，他们有足够的专业知识和能力对企业算法系统是否可能影响市场竞争秩序和用户权益进行外部审查。另一方面，第三方机构相对独立的地位，降低了合谋与寻租的可能，可以保证算法审查的权威性和可信度。此外，由于算法已经渗透到消费、教育、医疗等公众生活的方方面面，成为公众生活不可或缺的一部分，公众既需要接受算法并与之共存，也需要拥有识别与反抗算法控制，抵御算法风险的能力，即拥有与算法社会相匹配的算法素养。从保护公众权益的角度，也需要发挥社会组织算法素养培育功能，教育和引导公众理性对待算法技术，增强公众被算法侵权时的自卫能力和行权能力。因此，政府应当为社会力量参与算法规制创建渠道、提供激励，这不仅可以提高算法规制效率，还可以降低政府规制运行成本。
（三）规制变革：制度供给与理念创新
算法嵌入国家权力运行已经成为促进治理变革和提升治理效率的必然选择，但与此相伴的关键问题是，国家算法权力规制的制度供给还处于相对缺位状态，规制机构的算法规制能力也有待提升，尚不能满足算法规制范围全面覆盖与算法风险高效防控的需求。规制国家权力中的算法运用，必须拓展算法规制覆盖面，提升算法规制能力，创新算法规制理念。
一是扩展规制对象，强化国家算法权力规制。国家机关运用算法开展自动化行政无疑会对个人权利和社会民主秩序产生重大的影响，需要谨防国家机关算法滥用对公民权利的侵害，需要将国家权力中的算法运用纳入规制范围。针对国家权力中的算法，除了适用一般的算法规制措施外，还应对其加以特别规范，明确算法自动化决策并不适用于国家治理的所有领域，尤其对国家安全、价值判断、公民权利等领域具有重大影响的决策，更需谨慎使用和严格控制，需要建立国家权力算法适用的清单制度，明确界定公权力算法运用的范围和边界。在此基础上，需要完善算法规制的行政程序制度，防止行政权的滥用，保障权力行使的合法性与正当性。算法嵌入国家权力运行，在一定程度上压缩了行政决策程序，剥夺了公民参与、知情、选择等权利，对公民政府信任产生不利影响，必须从行政程序上对算法予以规范，通过程序正义保障依法行政和社会民主，明晰算法责任主体，健全算法行政侵权责任分配与救济机制。
二是重塑规制机构，提升规制队伍能力水平。任何好的制度和政策本身并不能保障规制结果的有效性，在规制政策的制定与执行中，规制者发挥着重要作用。应对算法规制中跨部门的协作治理、国家算法权力规制、算法技术复杂性与专业性需求，必须深化规制改革，重视规制队伍能力建设，提升政府规制水平，根据所需规制知识以及对算法规制的合理理解，组建相对独立的算法规制机构，这一机构的成员至少应该包括：技术、产业（行业）、经济、法律等领域专家以及能够把民众意愿转化为公共决策的政治家。当前各国算法规制机构人员构成不尽合理，主要由行政主管部门的行政人员组成，面临规制者规制问题，以及在复杂的算法技术和算法规制环境面前存在专业能力不足的问题，算法规制机构应该具有开放性，吸纳相关伦理专家、技术专家、法律专家、行业代表、公众代表等，提高规制政策制定与执行的专业性、权威性和代表性。同时，必须重视规制人员的能力与素质建设，因为在一个新的技术规制领域，规制者具有相当程度的自由裁量权，其素质不仅影响制度执行质量与效率，还影响行业发展和市场主体权利，必须提升规制人员的法治意识和责任意识，增强规制权力的外部监督，防止寻租腐败对市场主体权利的侵害。
三是创新规制理念，发展敏捷性规制工具。良好的政府规制既要求其有利于维护市场秩序、促进市场发展、保护市场安全，又不能打击市场主体积极性。但是，目前算法规制实践中偏爱采用行政处罚、行政命令、行政检查等传统规制工具，这种规制工具可以在短期内对市场主体起到警示作用，但从长期来看，可能打击市场创新的积极性，催生更为隐蔽的违规违法行为、更高的合规成本和行政成本。算法技术赋能数字经济发展是大势所趋，面对快速发展且高度复杂化的算法技术，政府需要革新规制理念，探索和发展成本更低、更加灵活敏捷的政府规制工具，使政府规制从“运动式”走向“常态化”，从“回应性”走向“敏捷性”。既为算法技术发展留足空间，又可以快速应对复杂风险环境，规制者可以依据社会契约理论，与算法主体订立兼具约束力和灵活性的规制合同，激励算法主体主动提供算法信息，缓解信息不对称，并给予算法主体适当的信息租金作为补偿。
结 语
算法技术的快速发展和算法治理场景的不断拓展，有助于赋能数字经济发展和国家治理转型。但是必须清醒地认识到，作为一种颠覆性技术，不受规制的算法发展和算法治理可能产生一系列潜在风险，进而对市场秩序、国家和人民安全构成严重威胁。构建既能推动算法发展又能保障治理安全的算法规制体系，是规制机构面临的一个极具挑战性的议题。面对不断革新的算法技术和不断衍生的算法风险，采取包容审慎的态度，基于风险的规制进路，有效平衡算法技术红利与算法外部性之间的紧张关系，可以推动社会多元主体参与算法规制，充分发挥行业企业自我规制和社会力量的外部监督作用，形成算法规制的社会合力，降低信息壁垒带来的规制失灵风险。然而，技术进步永无止境，算法治理已是大势所趋，只有使算法规制与算法技术发展同频共振，通过制度变革提升规制能力，创新规制理念，促进规制工具与时俱进，使发展中的问题在发展中得到解决，才能真正实现算法治理的善治之道，在技术应用引致的经济发展与福利增长中创造高品质生活。
〔责任编辑：马 丹 童传轩〕
原文见于《东南学术》
2023年第2期
文中图片均来自网络
本微信公众号系《东南学术》杂志官方微信，如无特殊说明，本微信内容均来自《东南学术》杂志，版权所有。
微信号 : dnxs0591
● 扫码关注我们 ●
2023-04-04
2023-04-03
2023-03-31
2022-11-17