陈兵:数字经济下算法共谋风险及反垄断法规制进路
摘要:随着人工智能时代的来临,作为人工智能核心要素之一的算法应用越发广泛。算法自动化决策也伴随着人工智能技术的飞速发展越发普遍与强大,在提升生产效率与资源配置效率的同时,也引发了比传统垄断行为更加隐蔽、更易达成的算法共谋行为的出现。对此,现行反垄断法律规制体系实施面临着算法共谋行为认定难、共谋证据固定难、共谋责任划分难等挑战。因此,应在充分理解《反垄断法》“预防和制止垄断行为”“保护市场公平竞争”“鼓励创新”“提升经济运行效率”等多元目标的基础上,健全反垄断法及相关配套规则,关注平台规则合理性,加强监管科技与人才队伍建设,建立算法共谋反垄断法规制体系。
关键词:数字经济;人工智能算法;算法共谋;算法解释权;反垄断法规制
目次
一、背景与问题
二、算法共谋的表象与本相
三、算法共谋反垄断规制的难点
四、算法共谋反垄断规制理路构建
结语
一、背景与问题
2024年3月召开的全国“两会”中,“人工智能+”作为新质生产力的重要引擎首次被写入政府工作报告。当前,人工智能技术已渗透到社会生产和生活的方方面面,AI大模型和算法深度嵌入社会各领域,成为社会运行的基础设施与经济发展的根本驱动力之一。数据、算法、算力作为人工智能的三大核心要素,其战略地位进一步凸显。其中,算法是人工智能技术的内核,数据是人工智能算法的“养料”,算力则为人工智能算法运行与数据处理提供硬件支撑,三者相辅相成,互不可缺。
当前,算法作为通过对数据处理和计算进而解决问题的步骤与方法,在多种新场景、新业务、新业态中得到了深度应用,使其日渐成为数字经济下企业的核心竞争力之一。算法是对数据全周期的动态展现,数据从获取、使用到管理的全过程都离不开算法,“数据+算法”双轮驱动已成为当下平台经济运作和发展的核心运行规律。一方面,算法能使系统根据不同组件的具体功能以及需要提供数据资源,避免数据冗杂问题。另一方面,算法通过对实时动态数据的分析,对多部门进行协调,施行优化和改良系统运作效能的配置方案和方法。算法通过为平台筛选和“生产”有价值的数据,提升数据生产要素参与价值创造和分配的能力,实现对数据生态系统创新资源和要素的整合,促进协同创新和持续创新。
然而,除了提升效率、最大化经营者利润,算法也为经营者的不正当竞争与垄断行为披上了技术的外衣。在这之中,算法共谋的出现引起了广泛关注。例如,在2017年欧盟委员会针对电商行业的调查中,发现在亚马逊平台上,大多数供应商采用了“Buy Box”算法进行自动定价,该算法不仅能实时监控市场价格,而且可通过内置的触发策略维持高价并自动惩罚偏离协议价格的行为,加强共谋的稳定性。目前来看,算法自主性共谋已不再是个例,例如,美国Topkins和英国GB Eye Trod的在线海报零售商使用简单的定价算法来协调价格;立陶宛在线旅游平台提供便利,向旅行社发送电子邮件,称其为折扣上限;西班牙房地产公司使用一种通用的经纪软件来协调价格等。
共谋(collusion)源于美国反托拉斯法,是指两个及以上经营者之间达成的协议或协调行为,其目的在于排除、限制市场竞争,表现为操纵市场价格、分配市场、限制产量,或者采取其他影响市场竞争的策略。在我国现行《反垄断法》中,共谋可与垄断协议相对应。对于明示共谋,《反垄断法》第16条中“排除、限制竞争的协议、决定”可与其对应;而对于默示共谋,“其他协同行为”可对其进行涵盖,即这类难以识别和认定的垄断协议类型,是经营者通过默示、默契或者心照不宣等不易为公众所察觉的方式达成协调价格、限制生产数量或销售数量等协调行为,具有较强的隐蔽性和行为认定难的特点。
算法共谋行为则表现为经营者利用算法在数据收集、信息传递以及自动化决策等方面的优势,以比传统协同行为更加隐蔽的方式达成合意。人工智能算法通过机器深度学习、自学习迭代等方式,能够在没有人类程序员参与的情况下,不断调整和稳固经营者行为的协同性和一致性,单方面做出利润最大化的决策。这将比传统协同行为更加隐蔽、更加高效地达成并实施垄断协议,进一步加剧算法共谋问题的严重性。
目前学界对不同的算法共谋模式及其规制路径进行了广泛的探讨,初步厘清了算法共谋的规制边界。有学者对算法共谋进行了类型化分析,针对不同的算法共谋模式提出了特别的规制方式,并分析了不同算法的反竞争特点,给予了算法共谋研究重大启发。算法共谋的主要表现类型及其规制方式为:(1)信息传递者算法共谋,企业采用算法作为工具来实现已有共谋协议;(2)轴辐协议算法共谋,企业通过共同采用第三方提供的定价算法或通过同一平台实现共谋;(3)可预测代理人算法共谋,企业通过算法预测竞争对手行为并相应调整自身策略;(4)自主学习算法共谋,自主学习算法能够在企业没有直接信息交流情况下,通过算法自身学习和适应过程实现价格协调,构成一种无意识的平行行为。由于缺乏传统的“价格协议”证据,现行反垄断法对此类共谋的规制存在一定困难。对此,需要创新反垄断法中“协议”要件的界定,侧重于分析共谋形成的内在动机和结果,以及算法运行机制。
也有学者指出监测类和平行类算法只是执行企业共谋限制竞争意图的工具,是明示共谋的手段与方法。在此场景下,可以推定企业之间存在正式协议或意思联络,直接运用本身违法原则对明示共谋进行规制。而对于算法默示共谋的规制路径,一些学者主张从协同行为的认定上入手,重点关注协同行为的主观意思联络,例如从数据和算法角度,提出了多种辅助判断是否存在主观意思联络的新型电子证据,如数据的使用规范、算法的设计、参数的选择等,同时研究了个性化定价算法所产生的竞争问题。也有学者认为可以构建协同滥用市场支配地位的规制体系,将算法默示共谋纳入滥用市场支配地位条目中。
现阶段,我国对于包括算法共谋在内的算法滥用现象,作出积极回应,给予严厉监督。一方面,开展算法专项综合治理,出台了专门针对算法的法律文件。另一方面,明确将算法纳入反垄断监管规定中。然而,随着通用型人工智能的发展,算法共谋行为更具新颖性、复杂性和隐蔽性等特点,这不仅增加了实践中算法共谋的识别难度,也使得传统反垄断法规制方法对算法共谋的规制出现了供给不足的现象。基此,需要厘清人工智能快速发展下算法共谋的本质与特征,分析利用算法实施垄断行为的机理,针对常态化监管下算法共谋反垄断规制的要点与难点,探索构建算法反垄断的常态化监管路径。
二、算法共谋的表象与本相
在市场竞争中,共谋是一种常见的反竞争行为。而算法为共谋提供了新的方式,它既可以作为一种共谋的工具来成就相关协议的实施,也可以通过改变市场要素来促成共谋的达成,使得共谋趋于默示化和扁平化形态。算法也使得共谋的方式往隐蔽化、多样化、多层级的方向演变,它超越了传统以相关市场的横向和纵向关系划分的单一形式,充分地调动了市场上各层级的竞争者,使得共谋在原有的基础上不仅表现出新的特点,同时被赋予了更深层次的内涵。因此,在搭建相关反垄断规制进路之前,需首先对算法共谋的表现形式与本质特征进行梳理。
(一)算法共谋内涵与类型表现
“共谋”在反垄断法上是指经营者通过协同行为垄断市场,排除、限制竞争。因此,算法共谋是指两个或两个以上的经营者利用算法在数据收集、信息传递以及自动化决策等方面的优势,以比传统协同行为更加隐蔽的方式对产品或服务的价格、数量进行限制,从而达到排除限制竞争的效果,该行为极有可能侵害消费者合法权益以维护经营者的利益最大化。
根据经济合作与发展组织(OECD)发布的《算法与共谋》报告,算法包括收集并监控相关市场数据的监测算法、应对市场快速变化而使决策行为自动化的平行算法、通过信号传递复杂信息的信号算法以及通过使用机器学习和深度学习技术,不断学习和重新适应其他市场参与者的行动,以达成设置目标的自主学习算法。在复杂多变的应用场景下,经营者各类商业行为与不同的算法相结合构成了不同的算法共谋方式,即信使类共谋、轴辐类共谋、预测类共谋、自主类共谋。本质上,上述四种算法类型并非完全一一对应四种算法共谋情形,而是互有交叠。进一步根据达成共谋方式的不同,可将算法共谋大致分为两类:其一,信使类共谋和轴辐类共谋属于经营者利用算法作为工具达成垄断协议实现共谋的行为,可将其看作算法明示共谋;其二,预测类共谋和自主类共谋则是在经营者之间不存在共谋协议的情况下,算法通过自主决策达成共谋的行为,是算法默示共谋的表现形式。
1.算法作为工具达成的共谋。监测算法和平行算法通常作为经营者实施价格共谋行为的一种辅助手段,在经营者的意志下帮助其达成信使类共谋和轴辐类共谋。信使类共谋是经营者间存在意思表示,达成了协议并设置了共谋目标,通过监测算法对达成协议的经营者的价格行为等进行监控,实时收集其他经营者的商业信息,从而实现共谋。一旦该行为造成了限制、排除或妨碍竞争的后果,则可以认定存在垄断行为。轴辐类共谋则是指以同一套动态定价算法(轴心)为同行业之间众多经营者(辐轮)共同使用,处理相关数据并及时对市场价格波动做出回应,从而导致市场中的经营者整体“横向定价趋同”。在轴辐类算法合谋中,经营者之间存在横向的一致行为,定价意图的发起者是平台算法(轴心),其与行业众多经营者产生了纵向的协议,同时同行业经营者之间达成了横向的合谋(定价)。这虽与传统垄断协议的主体认定不相符,但因存在纵向的定价控制行为与相关主体,仍能被认定构成垄断行为。
2.算法自主决策达成的共谋。预测类共谋与自主类共谋以自主决策的方式达成算法默示共谋。其中预测类共谋与信使类共谋较为相似,皆由算法收集和监控市场信息,并实时调整价格。不同之处在于,预测类共谋的算法由经营者研发使用,经营者之间使用的算法并不相同,也并没有达成共同的目标,而是由逻辑相似的算法对市场价格作出相应决策,经营者之间并没有书面或口头达成协议,但存在默示的共谋,造成了实质的反竞争效果。
自主类共谋则是通过以机器学习和深度学习技术为基础的自学习算法,在收集与学习市场信息的基础上,不需要经营者的指令,即可达到实现利润最大化的最优价格的算法共谋形式。在自主类共谋中,自学习算法依据自身逻辑进行决策并调整价格,无需体现经营者的意图,因此模糊了责任承担的主体与责任划分的界限。
算法自主决策达成的共谋弱化甚至脱离了经营者之间直接或间接的意思联络,可以在完全不存在正式协议和协同行为的情况下,直接形成价格共谋的实际结果,为执法机关的认定带来了困难,因而在实践中更应对其予以重视。
(二)算法共谋的本质特征——以价格共谋为例
在传统市场下,经营者间的价格共谋主要通过价格信号沟通来实现,但是纯粹依赖信息沟通的实现方式具有较大风险,往往难以有效发挥作用。同时,由于存在信息不透明的情况,如果出现共谋行为的背叛者,对手及时发现的可能性较低。然而,在数字经济市场下,许多市场信息与商业信息都通过数据的形式存在于公开的互联网中,算法对数据的分析能够揭示消费者行为、市场趋势、竞争格局等,并将这些数据以可视化的方式呈现,市场透明度在算法的作用下不断提升。算法通过准确及时的信息预测、优化资源合理配置等方式,在算法结果的统计一致性、隐蔽性、稳固性等方面具有显著优势,在提升数字经济市场透明度的同时,也使得算法共谋达成垄断的可能性极大增高。
1.算法结果的统计一致性。在算法执行过程中,如果算法底层逻辑的数学原理、实现的商业功能、优化目标、参数的初始化皆是相近的,当输入相同的数据时,不同算法分别得到的大量结果集合在统计上将会具有极高的相似性。即使存在部分误差,也是低频次地出现在少量结果样本中,并不会对整体结果产生较大的影响。因此,当多个经营者使用算法监督并跟踪同类目标企业的价格,收集目标企业的价格数据并进行分析,辅助企业进行定价时,将会得出类似的计算结果。
2.算法达成共谋的隐蔽性。传统的共谋行为离不开经营者之间明示或默示的意思表示,这些意思表示留下的痕迹往往能够作为认定共谋存在的证据,而算法使得共谋的隐蔽性大大增强。算法能够将市场供需情况、价格变动、消费者需求等各项因素纳入到确定商品价格的实时决策中,当市场中某一经营者的价格等市场信息发生变化时,其他经营者能够实时掌握市场变化并做出反应,不再需要通过直接或者间接的意思联络才能够进行价格行为,市场的透明度也被进一步提高,降低了价格共谋形成的成本。因此,在缺乏共谋意思表示的情况下,部分经营者利用算法达成共谋的隐蔽性,规避了违反反垄断法的风险。
3.算法促进共谋的稳固性。相比于人为的共谋,算法的稳固性是算法共谋顺利实施和长期稳定的关键。在各个算法的共同作用,特别是自学习类算法的作用下,无需经营者任何干预操作便可能实现经营者之间市场信息的交换与市场决策的预判,也因此,算法决策纯粹基于市场信息与数学运算,摆脱了人为决策中存在的个人主观判断与偏见,增强了共谋的稳定性。同时,自学习类算法、信号类算法会通过复杂的数据分析,从现有的市场数据中隐蔽地推断各个经营者背叛共谋的风险,维持共谋关系的长期性。一旦发现背叛行为已经发生或具有发生的极大可能,算法将会自动启用报复机制,例如迅速降低自身商品价格对背叛者实施反制措施,而反制措施将会在很短一段时间完成,这使得背叛者几乎无利可图,进一步维持了共谋的稳定性。
(三)人工智能加速算法共谋的实现
算法共谋是人工智能技术在市场竞争中产生的一个复杂法律问题,在当下全球范围内正积极加快推动人工智能建设背景下,通用人工智能从技术到场景应用逐步实现,加强对算法共谋行为的预防与规制显得尤为紧迫和重要。随着人工智能技术飞速发展和广泛应用,在电子商务等数字市场中,算法不仅极大地提高了企业运营效率和决策精准度,同时也为潜在的反竞争行为创造了新的条件和途径。
人工智能技术尤其是深度学习应用,使得企业能够有效针对竞争对手的价格数据迅速做出响应,例如,能够对产品定价、销量控制、广告投放等关键经营决策做出快速抉择。这也使得当经营者采用相似算法和数据来源时,尽管并无明显的人为共谋意图,但算法自学习和适应过程都可能无意中促成了各经营者行为的一致性,形成协调行为,这无疑会对市场竞争产生抑制作用,并损害消费者福利。
具言之,在传统的市场中经营者发布价格共谋的邀约信号后,其他竞争者在面对特定信号时可能并未达成合意,而率先调整价格的经营者则面临利润减损的风险。另外,共谋意思的发出需要经营者采用书信、电子通讯等方式,这将为共谋留下确凿的证据。然而,在人工智能算法广泛应用的情境下,经营者若将一些影响定价模型的关键数据公开,并被算法捕获分析,从而知晓重大的市场信息进行决策,这将导致市场的透明度提高,经营者之间则可完全避免人为的意思表示而隐蔽地制定一致的价格策略,最终呈现出寡头垄断的市场样态。在这一过程中,共谋的达成具有很强的智能特征。
在通用人工智能加速发展的背景下智能属性强的预测类共谋和自主类共谋出现的可能性极大提升。在内部性上,经由预测类共谋和自主类共谋达到决策最优化需要通过大规模数据集对相应算法进行训练,还需根据大规模数据的计算结果与真实结果间的误差不断进行参数的迭代更新,最终确定一系列合适的参数,使具体的算法转变成一个可用的算法模型。随着算法的不断迭代与优化,数据规模和质量将直接影响模型的工作效果。例如,针对自学习定价类算法,如果前期投喂的数据更具多样性和真实性,那么该算法针对商品或劳务的定价则会更加合理,更符合市场需求,进而为企业带来更多的收益。
在外部性上,竞争者之间随着市场透明度的提高,均可以及时甚至实时调整自身的策略和行为以适应相关市场竞争状况的动态变化。经营者为了获得竞争优势,在竞相采用算法改进定价模型、定制化服务、预测市场趋势和优化业务流程的同时,各算法模型能够不受控于经营者而实现完全的自我学习和自主决策进而实现对市场的监控。
总体而言,人工智能的快速发展增加了共谋风险。其一,算法收集数据及实时分析、决策的能力,导致价格相关因素的透明度提升、交易频率提高,使得经营者能够快速、积极地作出预测和反应,从而使共谋策略变得更加稳定;其二,算法能够为企业提供强大的自动化机制来监控价格、实施共同策略、发出市场信号或利用深度学习技术增加共同利润,更好地治理和维持共谋结构。实际上,算法对共谋的促进和强化作用,还拓宽了共谋场景的谱系,进一步挑战了反垄断法对共谋的既有调整范式。
三、算法共谋反垄断规制的难点
虽然,算法专项立法的不断出台以及《反垄断法》将算法纳入规制范围,对算法的规制形成了初具体系化的法律规制格局,但是在实践中,面临技术的飞速发展,现阶段对于算法共谋的规制仍面临困境,具体规则仍待细化。
(一)算法共谋行为认定难
随着近年来人工智能的发展,算法技术得到了深层次的开发和普遍应用,高级别的算法技术应用了人工神经网络和支持向量机,使得算法决策呈现复杂的结构和维度,形成自主学习、自我决策的工作机制。在算法自主性显著提高的情形下,经营者常常让拥有自主学习能力的机器通过决策完成自己设置的目标,而其本身并不参与决策,同时信号类算法和自学习类算法的大规模使用可以极大减弱或避免企业对直接或间接意思联络的依赖,使得算法自主决策达成共谋成为了现实可能。
然而,我国《反垄断法》及配套规定并未对默示共谋作出明确规定,这导致对算法默示共谋的认定缺乏准确依据。《反垄断法》第9条指出不得利用算法从事垄断行为,《关于平台经济领域的反垄断指南》也在关于轴辐协议的规定中将算法作为经营者达成垄断协议所利用的方式之一,《禁止垄断协议规定》同样也将算法作为达成垄断协议的辅助性技术手段。从以上规定可以看出,算法自主决策达成共谋,即默示共谋的情况并未被列入现行反垄断框架中。这进一步暴露了反垄断法在应对默示共谋,尤其是寡头市场结构中的算法默示共谋等难题存在的缺陷。
在我国现行的反垄断规制框架下,认定共谋的存在需要认定经营者之间存在排除、限制竞争的协议、决定或者其他协同行为,这就要求经营者之间事先达成协议或经营者之间具有主观意思联络,且在无法查明是否有合谋行为时法律不可强制进行干预。然而动态算法、定价算法、自主学习算法等技术使制定价格的行为意图难以捉摸,算法参与程度高的情况下甚至难以认定经营者之间存在意思联络,自然也无法认定算法默示共谋的存在。例如,在优步案中,平台司机显然具有一致的定价行为,但并未查明司机之间具有协同定价的主观意图和意思联络,而是经由平台算法自主决定了定价,因此优步司机使用算法进行定价的行为无法被认定为垄断协议行为。
从主观上来说,算法默示共谋下难以区分协同行为的实施是基于自学习算法的自主决策还是经营者之间的意思联络。传统市场中,两个经营者达成价格共谋,所需要的成本是不可忽视的,企业内部人员需要直接的交流,面临协议的签订、决议的执行等一系列问题,还承担着一旦被揭露则面临严重处罚的风险。而算法的介入则大大降低了上述风险的产生。算法技术的发展使得协议的达成渠道由传统的沟通、协商、电话、邮件等形式变为复杂而多隐层的代码,隐藏在算法黑箱中,模糊了经营者的主观意图与意思联络,此时便难以区分共谋行为的达成是基于算法自主决策还是经营者之间的意思联络。
在实际情况中,监测类算法可以自动跟踪竞争对手的价格行为,自动调整自身的价格策略,同时能够及时发现任何背叛共谋的价格行为。信号类算法和自学习算法能够自动捕获或学习关键市场数据,挖掘市场数据中潜在价格信息。经营者应用以上算法使得价格等市场信息可通过算法自动反馈并根据市场变化做出现有市场环境下最优的价格决策,从而隐藏达成共谋所一致的行动,并削弱意思联络对经营者之间共谋达成的必要性。当多个企业同时实施相同的最优价格决策时,从行为外观上看,形成了价格共谋的客观行为,同时将会产生一系列损害社会福利的结果,但其主观意图却难以被识别。
综上,算法默示共谋实际发生的可能性应当得到重视,而《反垄断法》及相关配套规定对于算法默示共谋始终保持审慎的态度,并未将其明确纳入规制范围内。若将算法默示共谋行为纳入现行反垄断法中的垄断协议进行规制,则在主观上面临着算法默示共谋行为中经营者之间是否具有意思联络以及算法自主决策和经营者的主观意图在共谋行为达成的过程中各自起到多少作用的难题,因而传统垄断协议的认定模式对于默示共谋行为适用存在一定障碍。
(二)算法共谋证据固定难
在传统的市场环境中,经营者达成和维持共谋的成本高且耗费时间,极易引起反垄断执法机构的关注。经营者之间达成共谋后,在高度动态化的市场中,供给与需求的持续变化要求参与共谋的经营者频繁调整价格、产出及其他交易条件,经营者还需要通过会议、电话、邮件或通过第三方进行频繁协商,以实现非竞争均衡,这些沟通行为都可作为证据,被反垄断执法机关发现。而在引入算法后,协商行为被自动化决策所替代,价格等市场信息可自动反馈市场变化而无需进一步沟通,算法带来的高频次的交互不仅显著降低经营者之间共谋的沟通成本,也减少了暴露的风险,使得执法机构难以通过监测沟通交流行为获取证据。
其次,算法的介入也提高了惩罚背叛价格共谋行为的效率,降低了通过举报获得证据的可能性。根据传统理论经济学的观点,共谋的价格要大于卡特尔的边际成本,此时企业增加产量才是有利可图的。所以传统经济市场中,背叛共谋的行为往往是某一个企业隐蔽地提高商品产量,从而降低价格。但通过调整产量、价格实施背叛共谋行为需要较高的成本,同时获得收益耗费的时间较长。例如,美国标准石油公司曾经委派员工伪装成消费者定期从竞争对手的加油站购买汽油,借机记录不同种类汽油的价格,与历史数据进行分析,同时将消息通报给其旗下所有分支机构并对产量、价格等进行调整,这将产生较长的时间差。但是在算法的介入下,如监测类算法的全天候跟踪、自学习类算法对现有市场数据的分析推断,各个经营者背叛共谋的行为被发现可能性极大地提高。算法的应用为共谋的经营者构建了共谋发生的互信基础,削弱了背叛发生的可能性,使传统反垄断执法内部突破机制失效,进而降低了通过举报获得证据的可能性。
此外,由于算法的复杂性、动态性、黑箱性,对于执法机构来说,固定证据并证明存在违法的共谋行为是一项充满挑战的工作。在对算法共谋行为案件进行调查时,需对涉案的算法、数据进行调查分析,通过解码算法“黑箱”和数据利用记录来解读经营者意图,这大大提高了共谋证据的收集难度,也是对反垄断机构技术调查能力的考验。执法人员在能力上需要具备相应的计算机科学和人工智能领域知识,才能理解和解析算法工作原理,同时,固定算法共谋证据的过程往往需要多领域专家协作,不仅需要了解算法技术,还需要熟悉反垄断经济学分析、反垄断法执法要件等内容,才能共同实现算法共谋违法证据固定工作。因此,算法共谋证据固定对执法人员专业知识能力具有很大挑战。
(三)算法共谋责任划分难
当前,人工智能算法责任承担的主要对象是服务提供者,《互联网信息服务算法推荐管理规定》中规定算法推荐服务提供者承担法律责任。然而在算法默示共谋的情况下,此种责任划分方式仍存在归责困境。
首先,算法共谋的参与主体众多,但并非每一参与主体都能够成为责任承担对象。算法从研发到应用,涉及的主体包括算法开发者、算法使用者、算法消费者。算法开发者是指开发设计算法推荐技术的主体;算法使用者是指使用算法推荐技术为用户提供服务,对算法的运行具有控制力、支配力的主体;算法消费者是通过智能算法接入互联网、物联网等网络空间,并在算法作用下为生活消费购买商品或接受服务的消费者。
随着算法自主学习能力的增强,其在投入使用后不断收到的数据与反馈将对算法决策产生重要的影响,在算法共谋中,经营者在算法共谋的参与主体中具有多重角色:其一,具有雄厚实力的大型科技平台可以自主开发算法,利用算法为用户提供服务的同时通过算法开展价格行为,由于算法研发到应用都在经营者的控制之下,因此对于此种算法达成的共谋,经营者参与的可能性更高;其二,普通的经营者既无法研发算法,对算法也不具有控制力和支配力,而是作为算法消费者去接受算法服务、使用算法定价模型。此时共谋的形成可能由于多个经营者在知情的情况下使用了同一算法模型导致了决策一致,或者经营者在不知情的情况下使用同一算法模型导致了定价一致。在人工智能算法技术广泛适用的情景下,所有参与其中的主体,无论是开发者、使用者亦或消费者,其身份和作用的界限只是相对的,是一个动态变化的过程,因此难以认定不同主体的具体责任。
其次,传统反垄断法对垄断协议的规制是站在“人类中心主义”的角度进行的,如若将算法作为责任承担主体则对“人”的主体性构成了挑战。由于算法具有对市场信息自主判断以及不断完善的深度学习能力,因此在决策过程中可以不依赖人的沟通与互动即可达成共谋,同时由于“算法黑箱”的存在,开发者也无法对算法决策的过程和结果进行完全解释,这使得算法隔绝了垄断协议主体认定的链条。当人把决策权委托给算法,由于运用算法达成共谋行为的是计算机而不是人,责任归咎会处于两难境地。虽然具有人工智能的算法可以自我学习并具有一定的智能,但将具有人工智能的算法视为人进而作为承担责任的主体并不符合当前的科技伦理。
同时,如若将算法共谋的责任划分为算法承担,实际上是变相肯定了“技术中立”原则,而“技术中立”将会成为许多平台企业规避侵权责任的抗辩理由。若放任其规避应承担的相应责任,不仅可能导致受害者无法得到应有的补偿,还有可能导致算法技术被滥用,成为平台企业规避法律责任的“挡箭牌”,不利于相关行业的健康有序发展。因此,虽然目前的算法自主性大大提高,但人工智能并未完全达到强人工智能的标准,其自主仍然是“有限的自主”,此时将算法作为责任承担主体还不具备可操作性,但随着算法的飞速发展,此问题在研究层面仍不可忽视。
四、算法共谋反垄断规制理路构建
基于算法共谋的隐蔽性、智能性、稳固性等本质特征,算法共谋难以在我国现行的反垄断框架下得到有效监管,其规制存在算法共谋行为认定难、算法共谋证据固定难、算法共谋行为责任划分难等困境。随着人工智能时代的到来和反垄断法立法宗旨的日趋多元化,自由、秩序、效率、公平等价值呈并存、竞争和融合的矛盾运动之势,反垄断法非仅仅以效率或产出最大化下的单一价值目标为标准,消费者利益更是成为反垄断法保护的直接利益。故对算法共谋的反垄断规制路径需坚持发展与安全并重、支持创新的理念,既要考虑到算法对促进创新、提升经济运行效率的积极效果,也要对算法共谋带来的排除、限制竞争的负面效果进行有效规制,重视制度思维,达成科学原理的运用、技术手段的支撑、工程方法的使用相结合的规制方法。
(一)健全完善反垄断法及相关配套规则
算法共谋的出现对传统的反垄断法分析框架带来了新的挑战,而算法共谋的有效规制离不开明确的监管规则。对此,应充分考虑数字经济时代数字化、智能化的特点,细化现行反垄断法及配套规则对算法共谋的规制路径,扩展达成垄断协议的主体范围,明确算法共谋信息交流的认定方式,对算法参与共谋方式和影响予以回应。
第一,扩展达成垄断协议的主体范围。对于自学习类算法,经营者对于算法的解释力和控制力明显下降,对于算法共谋行为的参与度也有所降低,此时若仍将经营者作为达成垄断协议的主体显然不能应对实践中出现的新情况,但将并非完全自主的算法作为主体则会引发“技术中立”的争议。因此,应适当将算法设计者与使用者引入达成垄断协议的主体范围内,以有效回应如优步案中司机之间具有“协同行为”但并非利用算法达成共谋的经营者归责问题。在具体判断中,首先需要考察算法设计者与研发者是否在算法中嵌入了自身的某种主观意图或价值偏见,使得算法在后续的应用中实际达成了共谋的反竞争效果,如果设计研发者嵌入带有偏见的内容,则应将其认定为共谋主体之一。其次,需要考察设计者与研发者是否对已经产生反竞争效果的算法采取了补救措施,对于设计阶段并未嵌入主观偏见内容,而由于后续的应用与自学习以及商业环境的变化出现了共谋行为,此时设计研发者若明知共谋行为出现而不采取措施进行补救,也可以将其认定为共谋主体。
第二,明确算法共谋信息交流的认定方式。《禁止垄断协议规定》第6条指出,认定其他协同行为需要考虑经营者之间是否进行过意思联络或信息交流。在人工智能算法的介入下,经营者达成共谋的意思联络形式也在发生变化,不再需要主动的协商沟通,而是通过隐蔽的信息传递与交流或算法的自主决策就可以达成,因此需要明确信息交流构成共谋合意的认定方式。例如,在Dole Banana案中,欧洲法院依据《关于欧盟运行条例第101条适用于横向合作协议的指南》,认为竞争者仅基于历史信息的主观预测是正常的商业行为,但若存在关于未来意向的沟通接触,则可能构成对“策略不确定性”的降低或消除,相应限制了展开有效竞争所必需的市场条件,因而不排除这种信息交换具有排除、限制竞争的目的。因此需要尤为关注此类关于“未来意向”的数据的动向,市场信息中除了能够通过公开渠道收集的数据,还有部分数据属于经营者的敏感数据,在一般情况下并不会公布在开源渠道中,如果算法有意公布或收集此敏感数据,必然会对算法的学习过程与决策结果造成影响,可能会达成共谋。
(二)推动促进算法透明度提升
随着深度学习、自迭代等算法技术的广泛应用,“算法黑箱”的不透明、难以理解、难以检测等特性逐渐显现,加剧了经营者与消费者间的信息不对称,为算法共谋行为提供了实施可能。为构建公平、透明、可信的算法治理体系,建立健全算法解释、算法备案、算法审计等制度体系至关重要。算法解释制度能够从客观上推动经营者及公众监督算法的运行,算法备案制度从制度层面提供了预审查的监管手段,算法审计制度则对算法运作进行系统全面的检查和评估提供了保障。以上制度建设实施能够促使算法的运行更加符合公平、透明和可信的原则,提升算法透明度,增加公众对于算法的信任度,以形成对利用算法进行决策、提供服务者的合规向善的监督。
首先,建立健全算法解释制度能够矫正经营者与消费者的信息不对称。在算法自动化决策中经营者与消费者处于信息、技术不对称的地位,而算法自动化决策对相对人会产生重要法律或经济影响,则相对人有权要求经营者提供决策解释并能够有途径更新或纠正数据错误,学界称之为“算法解释权”。作为提升算法透明度的个性化措施,欧盟《通用数据保护条例》第22条将算法解释权纳入算法治理框架之中;我国《个人信息保护法》第24条规定了个人信息自动化决策应当保证决策的透明度,实则也体现了算法解释权。国家互联网信息办公室制定的《互联网信息服务算法推荐管理规定》第12条规定也强调了算法透明度和可解释性的要求。当然,算法解释制度并非要求企业公开算法代码,算法涉及企业的核心竞争力,在有些情形下构成企业的商业秘密。须兼顾平台与用户各方权益的保护,尽量避免“一刀切”式监管,统筹好安全与发展的平衡与协调。
然而,在算法默示共谋场景下,传统算法解释权具有一定局限性。传统算法解释权多属于“事后解释”,而在算法默示共谋中,事前预防更为重要。有效规制算法默示共谋需要加强事前预防,不仅要保护自动化决策相对人的利益,还需要维护市场公平竞争秩序。因此,算法解释权既可以由受到算法自动化决策影响的相对人提出,当算法自动化决策影响市场公平竞争秩序时,市场监管部门与算法涉及行业主管部门也有权启动算法解释监督程序。通过明确与完善算法解释权,为数据要素治理提供新视角,利用算法解释权对抗算法黑箱,提升算法透明度。现行监管方式缺乏事前的过程性监管和技术性规范监管,监管部门很难真正做到穿透式监管。为此,一方面可以鼓励企业坚持科技向善的导向,制定科技伦理准则,自审自查,保证合法合规经营。另一方面,相关部门也应建立合理的算法备案及算法审计机制,帮助监管部门实时掌握算法情况,也帮助企业强化规则意识。
对此,可以逐步建立健全算法备案与算法审计制度,以鼓励企业实行合规管理,推动有关算法监管进入常态化治理。一方面,建立健全算法备案制度,目前我国行业管理部门针对互联网信息服务提供者以及其他适用范围内的企业和个人,要求其在使用特定类型的算法时,必须向国家互联网信息办公室进行详细的备案登记。现行的《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等要求具有舆论属性或者社会动员能力的算法推荐服务提供者进行算法备案,这要求企业在规定期限内,提交包括但不限于算法的工作原理、数据来源、处理流程、算法评估报告等一系列算法信息。通过算法备案能够识别潜在的安全隐患,如数据泄露、操纵舆论、社会动员等。通过备案及后续监管,可以引导企业主动提升算法的质量、公平性和安全性,激励技术创新,并提升整个行业的自律和规范化程度。
另一方面,建立健全算法审计制度,这是针对算法决策系统的审查机制,通过系统性、专业化审查程序,评估和验证算法在设计、开发、部署和运行过程中是否遵循法律法规、行业标准以及道德伦理原则。通过对算法运行进行系统全面核查与评估,确保算法公正合理、无歧视性,遵循科技向善的原则。算法审计需要加强企业自我约束,设立内部审计机制,同时也应配合外部审计,监管部门能够有效掌握并评估算法的实际效果,提升算法决策透明度,满足公众对算法合理性和可解释性的需求。
(三)加强监管科技与人才队伍建设
基于算法智能性、隐蔽性等特性,执法机关查处传统垄断协议的手段已经不能应付如当前的新型垄断形式,此时不仅要明确监管理念、完善监管规则,运用多元的监管工具、提升监管科技、加强人才队伍建设与支持也是推动反垄断监管执法应对算法共谋新情况的重要举措。
首先,针对算法共谋具有的隐蔽性特征,提升监管科技,精准识别算法共谋行为。虽然在传统的认定与调查方式中,难以察觉到直接达成算法共谋的证据,但其作为数字化的手段,其内在逻辑、操作方式、数据资料都有迹可循。共谋的达成主要包含以下几种表现:经营者几乎同时宣布价格上涨;经营者的价格上涨或其他市场举动与其长期商业决策不一致,或者在一定程度上并不符合其个人利益;经营者之间经由算法频繁交换商业信息;经营者的商业决策在同一时间段内发生了重大变化;在相关市场内供求关系发生较大变化的条件下,几个经营者并未因为这种大幅度的市场变化而做出相应的商业策略调整。对此,可以建立常态化的数据监测机制或模型,利用算法规制算法,例如针对上文提及的敏感数据的公布与收集,在数据分类分级的基础上,对部分数据进行标识,监测敏感数据的流动,对于频繁发布或收集关于未来意向信息的经营者,以及经营状况突然出现波动的经营者,可以将其视为存在共谋风险进行重点关注。在观察期间收集和掌握市场中关于商品和服务价格的一致变动信息、企业间频繁变动的信息、商业决策的突发变动等异常信息收集到的数据信息,可以结合其他信息作为算法共谋的证据。
其次,对算法共谋的反垄断监管与执法离不开人才队伍支撑。近年来,与数据、算法、人工智能相关的专项政策文件不断出台,执法依据也在不断发生变化,对监管执法人员的专业素养提出了更高的要求。一方面,需要提升现有监管执法人员的算法相关知识储备,通过多种方式加强人才培养,学习算法反垄断有关法律规定、理论基础、典型案例和执法经验,提升对于人工智能算法的知识储备。另一方面,在执法部门进行人员招聘招考时,着重考虑具有经济学、法学、管理学、计算机学等复合学科背景的专业性人才,也可以根据需求招聘能对算法共谋进行技术监管的人工智能专业人才。同时,可以建设并吸纳具有经济学、法学、管理学、计算机学背景的多学科、多领域专家智库,为监管提供专业意见。
(四)搭建算法共谋反垄断法规制的共建共治体系
依赖政府部门的单一主体监管不符合反垄断常态化监管的内在要求与现实场景,对于算法共谋这一从市场诞生的新型垄断行为,需要在确保反垄断法能够有效规制的同时保持其谦抑性,充分发挥行业协会、平台企业、社会群众等多元主体的作用。
市场监管部门需依据《反垄断法》《国务院反垄断委员会关于平台经济领域的反垄断指南》《禁止滥用市场支配地位行为规定》《禁止垄断协议规定》《经营者集中审查规定》《市场监督管理行政处罚程序规定》等法律法规,对算法共谋行为进行依法规制,同时革新监管理念、创新监管方式,充分利用技术手段,构建智慧化、精准化的监管工具,精准识别算法共谋行为,实现事前、事中、事后的全链条动态管理,从而对算法共谋行为进行有效约束。
对于行业协会等组织,应依照今年发布的《关于行业协会的反垄断指南》中第16条和第17条有关行业协会自律合规倡导与内部合规管理的规定,加强行业协会的反垄断合规建设,并鼓励其采取行业规则、公约以及市场自治规则等方式,指导、帮助会员建立健全反垄断合规管理制度。针对算法共谋行为,行业协会应当制定和执行算法设计、研发、应用的行业规则、标准以及自律规范,指导、帮助协会会员进行算法备案、算法审计等工作,对行业禁止采用的算法机制设置算法负面清单,并建立健全算法反垄断合规管理制度。另一方面,行业协会应当注意避免成为行业垄断“牵头人”,禁止行业协会传播有关竞争的敏感市场信息、发布具有引导性的价格,禁止达成垄断协议。对于行业内签署的合作协议与各项交流活动,都应当经过协会的合规审查,对可能涉嫌垄断行为的条款、备忘录、交流事项进行排除,防范潜在算法共谋的实施。
平台企业作为经营者,需要对算法的研发使用承担一定的制止反垄断风险义务。一方面,算法作为一种技术,存在一定的专利与商业秘密保护问题,如果对其进行完全透明的监控,则在实际上存在打击经营者创新积极性的可能;另一方面,经营者对其研发应用的算法显然比监管者要更加了解,更具有控制力,加强其自治能够避免行政机关的过度干预。具体而言,经营者应当在企业合规管理制度中加强对算法的合规管理设置,包括设置算法内部风险监测管理制度,算法内部审计与备案管理制度等,有效对接监管机构要求进行内部算法管理。
在社会监督层面,保障反垄断执法公开透明以及提高社会各界参与度是关键。一方面,社会监督建立在反垄断监管执法信息的公开透明上,应当加强执法信息公示与宣传工作,在监管部门的官方网站,定期更新调查过程、执法决策等关键信息,保障社会公众的知情权,使社会公众能够了解算法共谋并具备初步的识别能力;另一方面,允许消费者、竞争对手、新闻媒体等社会各界人士对市场上可能存在的算法共谋进行关注、举报和揭露,畅通投诉与举报途径,便于社会公众向市场监管部门提供线索和证据,为规制算法共谋提供有力支持。
结语
2023年12月11日至12日,中央经济工作会议在北京召开,习近平总书记在重要讲话中指出“要以科技创新推动产业创新,特别是以颠覆性技术和前沿技术催生新产业、新模式、新动能,发展新质生产力”。这深刻表明科技创新在现代化产业体系建设具有引领作用,我国将把科技创新作为推动产业结构升级、增强经济发展内生动力的关键抓手。这就要求科技创新与实体经济深度融合,从产业链、价值链、市场模式等多个层面进行全面改革和升级,要通过颠覆性技术和前沿技术打破传统产业发展瓶颈,创造经济增长新动能。通过科技创新带来的高效、绿色、智能等新型生产力要素,从根本上改变产业的质量和效率,实现更高质量、更为安全、更加公平、更有效率的发展。
基于此,在全球新一轮科技革命和产业变革深入推进背景下,随着新技术的出现、新算法的应用和新场景的扩展,数字经济关键要素必将持续地对反垄断法提出新的挑战。在“数据+算法”双轮驱动生态系统运行的过程中,诸如平台“二选一”、大数据杀熟、自我优待、恶意封禁等利用数据和算法、技术、资本优势以及平台规则等排除、限制竞争行为不断涌现。虽然我国目前尚未出现有关算法共谋的案例,但算法共谋问题仍是我国反垄断关注的重点问题。若能加强对数据与算法的合法合规利用,必然能够有效规制算法共谋问题,维护市场秩序,促进公平竞争,激发平台企业高水平创新能力,实现消费者和社会公众的长期福利,利于平台经济领域多元主体利益共赢。由是,如何在反垄断法框架下规制算法共谋成为题中应有之义,需要利用算法解释权,提高算法透明度,打开算法“黑箱”,限制数据和算法应用过程中的歧视和偏见,并且通过明确化、精准化、敏捷化的常态化监管,保持人工智能算法创新与防范算法共谋垄断风险之间的平衡。
END
作者:陈兵(1980-),男,湖北荆州人,法学博士,南开大学法学院教授、博士生导师,主要研究方向:竞争法学、数据法学。
来源:《法学论坛》2024年第4期“热点聚焦”栏目