新基建主题系列——人工智能之间达成“垄断协议”？算法合谋的反垄断法律风险分析

薛熠杨壹凯俞炜中伦视界 2022-07-31

作者：薛熠杨壹凯俞炜

前言

人工智能经历近年来的巨大发展，已经开始引起交通、物流、教育、医疗等各行各业的深刻变革，更是在近期“升级”为一种新型基础设施，赋能我国经济发展，进一步融入人类日常生活，以无与伦比的高效完成各种各样不可思议的任务，成为人们学习、工作中不可或缺的得力助手。但正如Melvin Kranzberg教授所提出的六大科技定律之首——“技术并无好坏，但亦非中立”，人工智能同时也带来法律和社会伦理方面的问题，引发各界人士的热烈探讨。其中，人工智能达成“垄断协议”已非妄语，而是切实地成为了人们关注的重点法律问题之一。

一

人工智能与算法合谋

1.人工智能与算法的关系

人工智能是什么？不同时代、不同行业的人可能对此存在不同角度的理解。在人工智能的经典教科书《人工智能：一种现代的方法》中，作者Stuart Russell与Peter Norvig认为，人工智能是有关“智能体（Intelligent agent）研究与设计”的学问，而“智能体是指一个可以观察周遭环境并做出行动以达目标的系统”。

观察当前人工智能的发展热潮，机器学习、深度学习是两个绕不开的热点词汇。人工智能、机器学习、深度学习之间又是什么关系？从非专业人士角度简单说明[1]：

机器学习是实现人工智能的一种方法，是指基于能够自主、反复从数据中学习的算法设计智能体；
深度学习是当前众多机器学习方法中的热门方法之一，是基于模拟人脑神经网络进行学习、分析的算法设计智能体。

近年来人工智能的崛起，离不开机器学习，特别是其中深度学习的迅速发展。基于深度学习的应用，各种机器辅助功能都已经或即将被逐步实现。深度学习，作为有史以来最为有效的机器学习方法，是目前人工智能研究的主流技术。不同于传统机器学习的线性结构的算法，深度学习神经网络层次结构的算法下，凭借大量的训练数据和强大的计算能力所构建的深度学习模型具有更加强大的学习能力，能够更好、更快地解决更多的问题。

然而，有趣的是，深度学习的运用更像是一个不求甚解的实用主义者的做派。很多情况下，人们通常只能观察运算结果，了解深度学习模型是否能够有效工作，但即便是其设计者本人也难以明确地解释该种算法运行的具体过程。深度学习算法因此也被形象地喻为只可意会不可言传的“黑箱”。这也引起了部分人对于“人工智能失控”的担心，如果仅能知道计算机的学习成果而无法明确掌握其学习过程，那这种学习本身会不会失控？计算机会不会悄悄通过算法学到什么我们不希望它学会的知识？

2.人工智能达成“垄断协议”？

人工智能达成“垄断协议”听起来像是未来科幻世界中的场景，但其与现实之间的距离可能并不如一般人想象的那么遥远。随着价格算法在现代商业中的大量运用，人工智能达成“垄断协议”，也即价格算法合谋，是作为算法所引发的重要的反垄断法问题之一，已经引起各国反垄断执法机构和相关组织的关注[2]。

从当前的研究成果来看，价格算法合谋可以大致分为三类：

(1) 明示价格算法合谋：经营者通过明示的协商沟通，就价格算法达成合谋以期实现价格垄断，价格算法是实现与维持合谋之工具；

(2) 默示价格算法合谋：经营者之间不存在明示的意思联络，而通过认可相互之间的依赖性以实现和维持合谋，价格算法则是经营者认可相互依赖性的关键工具；

(3) 虚拟合谋：即便经营者并无合谋意图，其采用的价格算法会在无需人为干预的状态下进行高效的反复试验，最终达成经营者之间的合作性均衡，实现合谋的效果而损害消费者利益。

在一项明示价格算法合谋和默示价格算法合谋中，价格算法作为经营者实现、维持合谋或认可相互依赖性的工具，合谋的意志仍然出自经营者自身，因而称其为“经营者利用人工智能达成‘垄断协议’”更为贴切。而在一项虚拟合谋中，价格算法自发地达成合谋的结果而不论使用该等算法的经营者是否有合谋的意图，因而，可谓是名副其实的“人工智能达成‘垄断协议’”。

二

虚拟合谋的反垄断法风险

1.虚拟合谋或已/或将成为现实威胁

尽管当前算法如何具体实现合谋效果，以及当前实践中是否已经发生了此类合谋尚不明确，但各国反垄断执法机构和相关组织对虚拟合谋的担心并非空穴来风，这从各地学者所进行的一些极具启发性的研究中便可见一斑：

（1）价格算法或能迫使市场经营者与其合谋

在2018年浙大的一份论文[3]中，作者设计了一种可以导致合谋的算法，并在理论说明之外采用了实验经济学方法，进行该算法与真人博弈的实验，最终得出结论——该等算法确实可以迫使真人与其进行合谋，实现超竞争水平的价格行为。

（2）价格算法之间或能自主达成合谋

在2018年博洛尼亚大学学者所著的一份论文[4]中，作者在计算机模拟环境下，设置2到4个经营者使用相同价格算法进行了价格行为实验，发现即便是极为简单的价格算法也能够学习、实施复杂的合谋策略，对竞争对手以及自身的定价行为作出反应，并最终达成合谋的结果。

（3）市场经营者难以达成默示合谋

与前述涉及价格算法的经济学实验不同，以真人作为对象的定价行为实验相关文献[5]表明，如果没有明示的交流，真人之间很难协调达成合谋。真人之间的默示合谋大多只能发生于极为简单的市场条件下，例如，双寡头垄断市场。此外，即便是在类似的理想化的简单市场结构下，真人达成合谋的情况也存在不确定性。

“积极向上”的人工智能的远大前程无人能及[6]，而“误入歧途”的人工智能从事合谋的手段也可能远比最狡猾的商界巨鳄来得更加精明。价格算法合谋问题，尤其是虚拟合谋，最引人担忧之处正在于此——能够在不需要人为干预的情况下，通过自主学习达成合谋，而这一过程可能鲜有痕迹可寻。更明确地说，即便没有价格算法设计者的专门设计和价格算法使用者的明确指令，价格算法也能够在完全陌生的市场环境中，不通过市场信息的沟通而仅依靠自主学习的过程掌握、实施复杂的合谋策略。

2.虚拟合谋的反垄断规制亟待更多研究

是否需要以及如何从反垄断法角度对虚拟合谋进行评价与规制的疑问目前尚无定论，仍有待更多的理论研究与实践观察。

就技术角度而言，“黑箱”中的价格算法如何在学习过程中掌握、实施合谋策略，以及目前市场上是否已经存在此类算法合谋还有待观察。此外，如前所述，虚拟合谋的达成过程可能鲜有痕迹可寻，而仅能从效果上进行观察，如何对虚拟合谋进行有效观测也是一大技术难题。

就法律规范角度而言，首先需要解决的便是虚拟合谋的归责原则问题。由于虚拟合谋的达成并不以经营者的合谋意图及意思联络为前提，虚拟合谋所涉经营者在无主观过错的情况下是否需要承担责任？该等责任又如何在价格算法的设计者和使用者之间进行公平、合理的分配？事实上，这也不仅仅是价格算法合谋需要解决的问题，也是任何其他“算法事故[7]”共同面临的难题。

三

经营者利用人工智能达成算法合谋的反垄断法风险

相较于前述虚拟合谋的远景，“经营者利用人工智能达成‘垄断协议’”的反垄断法风险，即上文所述的明示价格算法合谋和默示价格算法合谋，对于各国执法机构和经营者来说是眼下更为迫切的关注点。

1.明示价格算法合谋

明示价格算法合谋的问题相对简单，可以适用一般经验法则——若不涉及算法的某一行为本身违法，那么即便涉及算法的元素也不会改变该等行为的违法性。事实上，对于明示价格算法合谋而言，算法仅仅是作为实现、维持合谋之工具，并未触及、改变明示合谋的实质，因而并不会落于传统反垄断法规制框架之外，由各司法区域通过价格卡特尔予以规制。

2.默示价格算法合谋

默示价格算法合谋的问题则相对复杂一些。在包括美国、欧盟等在内的大多数司法区域内，传统的默示合谋均尚未被视为违法而受到规制，原因主要有二：其一，基于“心照不宣”而实现的默示合谋不仅由于缺乏明示的协商沟通而难以达成，且由于缺乏相应约束机制而容易瓦解；其二，基于“心照不宣”而实现的默示合谋即便在实践中发生，也难以发现、证明、认定。

就该等原因的本质而言，价格算法本身对默示算法合谋的反垄断法风险产生了重大影响，使得其更易实现、维持且难以被发现、证明、认定：

价格算法一定程度上导致市场结构性变化，为经营达成对相互依赖性的认可提供隐秘的手段，更有利于合谋的产生，且算法的应用可以作为及时、有效监督价格背离行为的手段，更有利于合谋的维持；
由于缺乏相应的技术工具，通过价格算法实现经营者之间“心照不宣”的过程更是难以发现、监测、证明、认定。

因此，对默示价格算法合谋的反垄断法规制，目前仍缺少相应的制度工具以及有效的技术工具。尽管如此，考虑到默示价格算法合谋的反竞争效果与明示合谋相比并无不同，且默示价格算法合谋相比于传统默示合谋更易发生且难以观察，各反垄断司法区域对默示合谋监管的节制、容忍态度或将发生改变。

四

企业应该怎么做才能避免人工智能之间达成“垄断协议”的风险？

价格算法合谋对市场竞争的威胁并非虚无缥缈，在更多理论研究与实践观察的基础上，如何从立法、执法和司法反面跟进、解决这一竞争威胁是各个反垄断司法区域共同关心的话题。价格算法合谋的反垄断法规制正是山雨欲来，企业也应当未雨绸缪，在使用价格算法作为商业工具、享受技术红利的同时，也应当对价格算法的潜在反垄断法风险有所注意：

企业应当避免出于合谋的目的，设计或者使用价格算法，企业记录设计、使用价格算法商业决定的独立性以及合理性将大有裨益；
企业自行设计并使用价格算法应当注意保密，警惕价格算法构成竞争性敏感信息的可能，更不应在竞争者之间传递、交换和交流；
企业使用第三方设计的价格算法应当全面关注市场上其他竞争者使用相同算法的情形，避免无故受到牵连；
企业应当将价格算法的应用纳入企业反垄断合规管理体系之内，价格算法还可能导致合谋之外的反垄断法风险（例如，价格歧视等），企业全面、谨慎的合规意识十分必要；以及，
企业关注技术进步改善商业决策的同时，也应当关注各司法区域反垄断立法、执法和司法的最新发展动向，以便掌握先机，防患未然。

[注]

[1] 参见OECD资深竞争法专家Antonio Capobianco在国际竞争网络（International Competition Network）于2019年1月16日召开的一次网络研讨会上所作演示，https://ec.europa.eu/competition/cartels/icn/capobianco.pdf。

[2] 例如2017年9月13日，OECD开展“算法与合谋”主题的圆桌论坛；2017年11月16日，澳大利亚竞争和消费者委员会（ACCC）主管Rod Sim就“合谋的机器人”主题做了发言；2018年10月8日，英国竞争和市场管理局（CMA）就“价格算法促进合谋和定制化定价”主题发布了研究报告；2018年10月31日，美国联邦贸易委员会就“算法、人工智能、预测性分析”主题开展研讨会等。

[3] 参见Algorithmic Collusion in Cournot Duopoly Market: Evidence from Experimental Economics，http://export.arxiv.org/pdf/1802.08061。

[4] 参见Artificial intelligence, algorithmic pricing and collusion，https://www.tilburguniversity.edu/sites/tiu/files/download/Pastorello%20-%20Qlearning_3.pdf。

[5] 例如Two are few and four are many: number effects in experimental oligopolies，How Much Collusion? A Meta-Analysis On Oligopoly Experiments等文献，https://www.sciencedirect.com/science/article/abs/pii/S0167268103001380，https://papers.ssrn.com/sol3/papers.cfm?abstract_id=951160。

[6] 例如，基于深度学习的AlphaGo棋力早在几年前就已经被公认超过人类职业围棋顶尖水平而成为棋王。

[7] 例如，医疗行业中运用算法所导致的医疗事故、交通运输行业中运用算法所导致的交通事故等。

系列阅读

新基建主题系列——关注特高压及新能源项目的用地法律风险

新基建主题系列——IDC行业有关运营和架构的法律考量

“新基建”风口下投资新能源汽车充电桩项目的法律问题

新基建主题系列——智能家居出海的八个数据保护关键词

“新基建”投资背景下PPP-ICT项目交易结构设计要点

The End

作者简介

薛熠律师

北京办公室合伙人