在《涉嫌算法滥用的几类典型行为：歧视推荐、歧视定价、算法合谋、算法控制……》 一文中，作者对网络交易领域中算法应用可能影响公平竞争秩序和消费者权益的方面做了梳理。本篇将就“如何监管”提出思考和建议。
✦
✦
尽管算法在网络交易市场的普及还是近些年的事情，但对算法的规制并不是完全无章可循，现有的法律制度体系中很多条款并非完全无效。当然，由于我们关于算法应用对市场竞争秩序、消费者权益等的影响仍然知之甚少，这使得国内外关于算法的监管依然处于非常初步的阶段。
一般而言，那些仅将算法作为辅助性工具实施的反竞争行为，通常可以纳入现有法律框架进行直接规制。 在自我优待方面，欧美反垄断规制一直较为关注。2017年6月，欧盟委员会因谷歌通过对其自身的购物比较服务与竞争对手的购物比较服务采取不同的算法，使得其自身的流量上升而竞争对手的流量下降，认定谷歌滥用搜索引擎市场支配地位，损害了比较购物服务的市场竞争，已构成《欧盟运行条约》（TFEU）第102条规定的情形，并对其处以24.2亿欧元的巨额罚款。谷歌虽对法律的适用进行了抗辩，但2021年11月欧盟普通法院基本驳回了谷歌的上诉请求，确认谷歌的行为属于“在同等交易中对其他交易方进行差别待遇，使其在竞争中处于劣势地位”。在德国新修订的《反限制竞争法》第十修正案中，也明确将自我优待视为严重的反竞争行为。然而，从国内来看，目前这类行为还尚未明确纳入现有反垄断或反不正当竞争的监管框架中。 在价格歧视方面，理论上，对于具有市场支配地位的经营者，可以适用传统反垄断规则中关于差别待遇的规定。即无正当理由对交易条件相同的交易相对人实行差异性交易价格，可能构成滥用市场支配地位。当然也包括利用算法实施的歧视定价行为，我国《国务院反垄断委员会关于平台经济领域的反垄断指南》对此已进行了明确。但从实践来看，至今各国均没有将算法价格歧视认定为垄断行为的司法判例[1]。此外，对于所有经营者而言，我国2021年11月起施行的《个人信息保护法》已明确禁止在利用个人信息进行自动化决策的过程中“对个人在交易价格等交易条件上实行不合理的差别待遇”。美欧等国家和地区则还没有直接对算法价格歧视进行规制的法律规定。 在算法合谋方面，对于具有明确沟通和意思联络情况下达成的算法合谋，也被认为适用反垄断法。欧美均已出现相关判例。2015年美国的Topkins案被认为是全球算法合谋第一案，该案中一名通过亚马逊出售海报等印刷品的公司管理人员，与该公司的竞争对手达成横向垄断协议，并为此编写了用于自动交换价格信息、协调卖价的算法。Topkins被美国司法部指控违反了《谢尔曼法》关于定价的规定, 实施了“合谋修改在线销售商品价格”。国内最新出台的《关于平台经济领域的反垄断指南》，也明确将利用算法达成、实施垄断协议纳入反垄断监管范围。但将有关经营者基于独立意思表示所作出的价格跟随等平行行为排除在外。即如果企业间的算法彼此独立，不存在固定价格的合谋，就不构成违法。
算法作为一种新兴的技术力量，其在网络交易市场的影响仅在反竞争法的框架下进行监管显然是不足的。为此，近年来欧美也一直在寻求新的算法监管框架。 对于平台可能以商业秘密、算法“黑箱”特性等为由，侵害消费者和平台内经营者利益的行为，欧盟试图分别通过《数字服务法案》和《关于促进商户使用在线平台中间服务的公平和透明度条例》（P2B法案）提高算法透明度来进行规制。 欧盟在2020年底公布的《数字服务法案》草案中赋予普通用户更多的算法知情权，以减轻算法歧视风险。如法案要求，满足一定规模标准的大型“在线平台”必须在其条款中以清晰、易于查阅和易于理解的方式列出其个性化推荐系统中使用的主要参数，以便于用户了解平台的个性化推荐系统如何决定内容的排序和展示的。[2] 而针对平台内经营者，欧盟早在2019年6月就专门通过了P2B法案，其中要求平台对其排名主要决定参数和选取原因、以及在何种条件下可能会存在差别待遇情形等进行公示，从而约束平台的算法应用行为。2020年5月日本也通过了类似法案。[3] 关于算法影响的评估成为除透明度外的另一监管探索方向。加拿大政府于2019年2月出台的《自动化决策指令》，系统化创建了算法影响评估指标，成为全球范围内首部相关立法。[4]虽然该指令规制的为联邦政府部门利用自动化决策系统的情形，但因为企业可开发自动化决策技术后授权或出售给联邦政府使用，所以该指令也会间接影响到企业。 美国则于2019年4月提出《算法责任法案》提案，规定满足一定标准的大企业有义务对自动决策系统的准确性、公平性、歧视性、隐私性与安全性进行影响评估，并对评估中的问题予以纠正。欧盟《数字服务法案》草案同样要求大型平台每年至少开展一次重大系统性风险自评估，其中就包括对算法推荐系统的评估。 2021年5月，美国公布《算法正义和在线平台透明度法案》的提案，提出在线平台对算法使用和处理记录的保留义务，要求在线平台应当对四类算法记录保留5年，以备审查。[5]其中就包括算法非歧视性，即在线平台（小型企业除外）利用了与住房、教育、就业、保险、信贷、公共设施使用权或使用条款相关的算法处理时，应评估此类算法处理是否基于个人或者某类人实际或认为的种族、肤色、族裔、宗教、国籍、性别、性别认同、性取向、家庭状况、生物识别信息或残疾状况等因素而产生不同的结果。 欧盟在其《人工智能法案》（提案）中也提出了类似的算法审查制度。该提案划分了人工智能技术可能发生的高风险领域，规定了存在高风险的人工智能技术在投放市场之前必须履行的义务，包括完备的风险评估系统、向系统提供高质量的数据集以将风险和歧视性结果降至最低、记录活动以确保结果的可追溯性等，而这些义务在人工智能系统投放市场或投入使用前以及在整个生命周期内都要接受审查。 此外，英国政府在其《算法：如何减少竞争并危害消费者》报告中，还提出了调查算法的技术方法。例如，在无法直接接触公司的数据或算法时，可通过收集或模拟一组特定的数据输入算法系统，然后对输出结果进行分析。[6]但该监管方式也需要了解算法的设计情况，否则可能无法确定哪些数据被用于算法的输入，如用户的历史数据、设备类型和地理位置等。 算法监管对于各国监管机构而言均是一个新的领域，目前依然存在很多挑战，主要体现在立法和执法两个层面： 由于当前较为先进的算法技术是在近几年才开始实现商业应用，政界、学界、业界对部分行为是否需要监管、应如何监管都存在一定争议。如算法推荐中的非价格歧视、自主学习导致的默示合谋和算法调整过程中对竞争秩序的干预，等等。目前相关法律法规尚未最终确定，缺乏相应监管依据。究其原因，有以下两个方面： 一是算法的不可解释性使部分行为在现有法律框架下难以规制，这种技术自身的局限性是很多算法监管难题存在的根本原因。由于当前阶段深度学习等主流算法的不可解释性，算法的设计者也无法完全预测自动化决策的结果。例如当使用人工智能算法进行定价时，因算法的自主学习特性，可能导致使用同类算法的不同企业间出现默示合谋，这些企业可能主观上确无合谋的故意，而人工智能又不具有法律人格，所以尽管会和传统合谋一样造成损害，但在现有法律框架下无法追责。[7] 二是算法技术的长期影响尚不清晰，相关研究仍无结论。以个性化推荐算法为例，一方面此类算法大大提高了营销精准度，提升了供需匹配效率，有利于充分发挥长尾效应，促进经济增长，但另一方面也会造成信息茧房，甚至加剧社会撕裂，影响社会稳定，对用户利益造成伤害。这种算法对经济社会发展的长期影响问题，需要结合人工智能相关技术学科和社会科学的力量开展跨学科研究。 随着数字化、智能化转型的逐渐深入，越来越多的产品和服务主要依托于算法运营，这就使得对很多传统违规行为的监管也需要以对算法的评估和审核为基础，由此与算法作为企业核心技术的敏感性出现了冲突。再叠加监管机构在算法技术方面的能力不足，使得执法难度大大提升。具体体现在以下两方面： 一是缺乏对算法敏感性的评估能力。 算法作为一种技术手段，体现着企业的商业策略，在平台经济中还往往是平台规则的载体，从而深刻影响着消费者和相关经营者的利益。但使用算法的企业有时却以担心算法被操纵或算法技术的保密性为由，拒绝透露其相关信息，使得其他主体与之进行交易时会出现“内部性”问题，即交易者经受了没有在交易条款中反映的利益和成本，因信息不完全、不对称而造成市场失灵。[8]这就需要监管机构有能力预估公开部分算法信息到底会造成怎样的影响，从而判断企业是否夸大了算法透明的代价，这种综合分析算法技术及其经济影响的要求对监管机构的技术能力形成挑战。 二是缺乏对算法内容的分析能力。 即使监管机构已经对企业的算法透明度提出要求，但企业依然可能利用算法的不可解释性为理由，试图掩饰其不合理规则，或推脱因算法设计缺陷导致的侵权责任。而对此进行分辨就需要通过直接或间接的技术手段对算法的具体内容进行分析，需要较高水平的技术人才支撑，监管机构的传统人员构成很难满足这一要求。 算法的应用大大提升了市场资源配置效率，使网络交易平台可以为用户提供更好的个性化服务。然而，算法的滥用也可能引发排除限制竞争、消费者权益受损等问题。虽然算法应用的某些行为可以在现有法律框架下进行规制，但对于算法带来的歧视、合谋等问题的探讨，仍然大多停留在理论层面，监管实践和司法判例也相对较少。 我国在市场监管领域对算法问题的研究和监管还处于相对早期的阶段，更需加强调查研究，提升监管能力。建议采取以下四方面措施：首先 ，在现有法律法规基础上，进一步出台平台算法应用合规指引，细化算法原理公示等相关要求，为行政执法和企业行为树立明确边界。其次 ，强化我国平台经济市场竞争状况调查，进一步加强对算法歧视、算法合谋等行为的实证研究和竞争损害分析研究，以在反垄断相关配套规定中进一步明确具体违法情形。第三 ，加强对算法透明、事前监管等制度的研究和影响评估，可探索运用消费者权益保护、经营者权益保护等其他监管工具，对一些涉嫌垄断的算法应用行为进行综合约束。第四 ，通过引进人才、引入第三方机构等方式，积极建立新的科技监管手段，提升算法监管的技术水平和调查取证能力，提升监管效能。 参考文献
[1]喻玲. 算法消费者价格歧视反垄断法属性的误读及辨明[J].法学,2020(09):83-99.
[2] The Digital Services Act: ensuring a safe and accountable online environment,(December 2020), https://ec.europa.eu/info/strategy/priorities-2019-2024/europe-fit-digital-age/digital-services-act-ensuring-safe-and-accountable-online-environment_en. [3] Regulation (EU) 2019/1150 of the European Parliament and of the Council of 20 June 2019 on promoting fairness and transparency for business users of online intermediation services,(July 2019), https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32019R1150. [4]许慧莹.加拿大公部门采用自动决策系统工具前必须完成演算影响评估[EB/OL]. [2019-09-06]. https://infolaw.iias.sinica.edu.tw/?p=1606. [5]经济犯罪治理. 前沿译文：美国算法正义和在线平台透明度法案[EB/OL]. [2021-06-17]. https://mp.weixin.qq.com/s?__biz=MzAxNzM4MDY3NA==&mid=2651371634&idx=2&sn=a361a2bc710b0adc010bf7ab7ca0d2b1&chksm=801a7c5fb76df54991b060d56e8202c2cb77c25160530a3cdab6fbc18ca19d8aa823383f7abb#rd. [6] Competition and Markets Authority. Algorithm：How they can reduce competition and harmconsumers[EB/OL]. [2021-01-19]. https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/954331/Algorithms_++.pdf. [7]吴太轩,谭娜娜.算法默示合谋反垄断规制困境及其对策[J].竞争政策研究,2020(06):63-74. [8]程启智.内部性与外部性及其政府管制的产权分析[J].管理世界,2002(12):62-68+156.