关注算法治理 | 孟勤国：治理算法歧视侵害消费者权益的关键问题——以大数据杀熟为视角
编者按
为深入学习贯彻习近平法治思想，进一步推动理论研究与审判实践相互促进，切实为审判工作提供理论支撑与智力支持，努力以审判工作现代化支撑和服务中国式现代化，《法律适用》将围绕审判工作中的重点难点，在微信公众号集中展示往期相关主题的优秀实践法学研究成果，敬请关注！文章原载于我刊2023年第3期，作者简介按刊发时的内容转载。
互联网经济的效率和发展取决于大数据与算法技术。“美团”“饿了么”等运用算法技术支撑外卖送餐这一全新行业，“抖音”“快手”“今日头条”等通过算法技术个性化传播新闻与娱乐资讯，“淘宝”“京东”等利用算法技术催生网上购物的巨大销量，“百度”“360”等通过算法技术确保搜索引擎的信息检索功能。不仅如此，线上招聘平台可以算法技术在海量简历中高效筛选出符合岗位条件的应聘者，评级网站可以算法技术评价相关主体与对象进而引导，美国一半以上的州可以利用COMPAS等风险评估软件辅助法官量刑。
相对于算法技术的现实价值和不可替代性，算法歧视只是算法技术的不可因噎废食的污点，而且由于种种原因不一定形成污点共识。现代文明公认歧视违背公平正义，人们不会争议损害公众基本权利的算法歧视如性别歧视、种族歧视、宗教歧视，对损害竞争性利益的算法歧视一般也易形成不正当竞争的共识如谷歌利用算法排除竞争案。但是，侵害消费者权益的算法歧视，主要是大数据杀熟，如同一房型不同价格、会员价高于普通报价、依据检索手机的品牌推送相应商品，则经常出现是否构成算法歧视的争议。
一般认为，大数据杀熟属于一级价格歧视。价格歧视是一个经济学中性词语，指同一公司销售的类似产品价格出现非成本因素的变化，一般分为一级价格歧视即依据每一消费者支付意愿不同设定价格，二级价格歧视即依据不同购买量设定价格，三级价格歧视即根据消费者群体分类分别定价。有学者认为，大数据杀熟导致的一级价格歧视并不当然贬义，只是利用算法技术实现定价个性化，对支付意愿较高的消费者提高价格，又不流失价格敏感的低端消费者，可以重塑市场充分竞争状态，显著提高社会福利水平，不能一禁了之。司法裁判也有类似潜意识，“郑育高与上海携程商务有限公司其他侵权责任纠纷”案中，原告通过携程APP在20时12分错订上午航班支付票价2376元，20时39分查询下午航班的票价为1864元，期间与携程客服交涉退票事宜，23时02分下单购买下午航班的票价却变成了2387元。一审判决认为，原告查询机票价格的时间存在一定间隔，机票价格变动幅度也在合理范围内，不能因不同时间段机票价格的波动就认定是大数据杀熟。
这是一种基于经济学知识的价值取向。价格歧视在经济学中之所以是一个中性词，是因为经济学崇尚效率第一兼顾公平，歧视更多地被理解为个性差异和个性方法，只要经济效益总体提高，个体或特定群体之间的利益得失不是决定对错的因素。“算法技术是现今社会发展的重要驱动力，严格规制算法歧视的同时，也不应任意扩张算法歧视的范围，过分苛责算法控制者”。这一表述的重点不在于严格规制算法歧视，而在于“不应”和“过分”，体现宽容算法歧视侵害消费者权益的价值取向，其理由是严苛认定算法歧视可能减弱算法技术驱动经济的动能，为消费者个体公平而降低算法技术整体效率不符合经济学原理。从经济学角度看，宽容算法歧视侵害消费者权益似乎也有依据，但算法歧视侵权不是经济学问题，而是法律问题，其合理性应当在法学领域中立论。
法律的宗旨是公平第一兼顾效率，程序法为最大限度确保公平而或多或少牺牲公权力效率，实体法追求当事人之间利益平衡和当事人与公共利益之间的利益平衡。算法技术对经济的强大驱动力可以证明算法技术自身的存在价值，不能证明算法歧视的存在价值，方法的用途和方法的使用不是同一问题，经济学上的合理性不能证成法学上的正当性。对于法律而言，任何不公平均为不法，即便是事出有因、情有可原，也以不法定性为前提，通过利弊权衡将不法转为合法的属于现代文明不能容忍的恶法。性别歧视、种族歧视、宗教歧视和损害竞争性利益也可能产生经济效益，奴隶制曾经促进过人类的生产力，但在现代社会是绝对一票否决，因为现代文明具有公平不可为效率所削弱或取代的共识。公平与否不以大小论之，再微小的不公也属不法，损害消费者权益与性别歧视、种族歧视、损害竞争性利益没有本质区别，对侵害消费者权益的算法歧视网开一面没有法律正当性。
现代法不仅律维护形式公平而且追求实质公平。公平可以通过意思自治的利益权衡和妥协实现，但前提是当事人之间有对等的平等协商的实力。如果一方当事人始终处于弱势，现代法律必须阻止意思自治异化为强者意志，以免出现弱肉强食的情形，对弱肉强食不予丝毫宽容是现代法律与古代法律、近代法律的重要区别之一。阻止的方式有二：一是在传统法律中注入实质公平的元素，对弱势当事人的意思表示予以一定的倾斜性保护，典型的如格式合同条款解释和效力倾斜于接受格式合同条款的一方；二是对特殊的弱势主体设立专项法律予以保护，解决传统法律难以过度追求实质公平的问题，如《未成年人保护法》《残疾人保障法》《妇女儿童权益保障法》《劳动合同法》《消费者权益保护法》等，这些法律集中归集和解决弱势主体经常遭遇的不公，赋予强势一方更多的义务和责任，对冲强势一方的优势，实现当事人之间的实质公平。
民商事领域，劳动者和消费者是天然的弱势群体。雇主关系分离出劳动法，合同关系分离出消费者权益保护法，是近代民商法现代化的两大内容和标志。我国在《民法典》之前就有了实施26年的《消费者权益保护法》，充分体现了社会主义对实质公平的追求，是中国式现代化的重要成果和标志。消费是一种买卖或服务的行为，合同法均有相关的权利、义务、责任规范，但依然离不开《消费者权益保护法》，原因就在于合同法不足以确保消费者在现代文明中应有的平等、自由、尊严和相关权益。消费虽然是一种合同行为，但消费者在信息、机会、议价、诉求等方面处于天然劣势，不具备与经营者对等的实力，必须由《消费者权益保护法》等专门法律解决消费者权益保护的问题。消费者权益是《消费者权益保护法》法定的综合性权利，与一般的意思自治权利性质有别，两者不能混同。侵害消费者权益属于违反《消费者权益保护法》的侵权行为而不是合同违约行为，以合同法思维处理消费者权益纠纷是一种严重的错位。“郑育高与上海携程商务有限公司其他侵权责任纠纷”一审判决将侵害消费者知情权和公平交易权定性为合同之诉而非侵权之诉，以合同法的意思自治作为价值取向，理由空虚，颇为不当。
事实上，对于算法歧视侵害消费者利益，现代社会已有明确的价值取向，这就是消费者权益保护。《消费者权益保护法》总则明确“为保护消费者的合法权益，维护社会经济秩序，促进社会主义市场经济健康发展，制定本法。”“经营者为消费者提供其生产、销售的商品或者提供服务，应当遵守本法；本法未作规定的，应当遵守其他有关法律、法规。”确立了《消费者权益保护法》的优先适用地位，而且，专条宣示“国家保护消费者的合法权益不受侵害。”总则的5个条款中，3个条款均以消费者的“保护”作为关键词，2个条款均以经营者的“应当”作为关键词，其中，消费者只论权利，经营者只论义务。这足以表明，消费者权益保护是《消费者权益保护法》唯一目的和价值。在《消费者权益保护法》范畴内，根本不存在需要考虑保护消费者权益是否影响行业发展、经营者损害消费者权益是否有情可原、消费者自身有无疏忽大意的过失等问题。只要损害消费者权益，经营者无论有多少理由，即便是为了行业发展，均为《消费者权益保护法》必须制裁的不法行为。
由此，算法歧视认定应笃行《消费者权益保护法》的价值取向。算法歧视的认定，不应也无须考虑算法本身是否具有歧视性技术要素，只以算法是否损害消费者权益作为判断标准和依据，《消费者权益保护法》没有关于技术因素可以作为经营者免除或减少侵权责任理由的规定，讨论算法的技术合理性超出了《消费者权益保护法》的范围。“P某某诉北京趣拿信息技术有限公司网络服务合同纠纷”一案，二审判决驳回P某某上诉后，还提醒被上诉人损害消费者知情权等可能损害上诉人的公共形象，体现了对网络服务平台的宽容和关爱，这是以合同法的价值取向取代《消费者权益保护法》的价值取向。价值取向选择不当是方向性错误，极易南辕北辙，长期以来，我国的消费者权益保护一直存在着价值取向模糊的问题，职业打假人的争议最为典型。近日，最高人民法院颁布《关于为促进消费提供司法服务和保障的意见》（法发（2022）35号）明确要求加强消费者权益保护，提出了保护消费者的16项具体工作，对于全面、有效落实《消费者权益保护法》的价值取向具有里程碑的意义。
有关算法歧视侵害消费者权益，已有不少算法运用的技术、伦理、利益的介绍分析和规制算法运用的法律对策建议，例如，应根据主体、对象、领域不同形成可信赖和负责任的算法，由规制代码和算法结果转向代码和算法过程，以公平、透明和具有可责性的算法确保算法的规范应用。这些研究有助于立法、行政、司法、社会和消费者了解算法歧视损害消费者权益的成因、过程和机制，但不是判断消费者权益纠纷是否构成算法歧视侵权的标准。算法歧视侵害消费者权益是大数据和算法技术运用引发的新型侵权，是否侵权应当坚持消费者权益保护的价值取向，围绕侵权法上的构成要件加以讨论和判断。
四、算法歧视治理的法律成本
针对算法歧视侵害消费者权益，学者提出了各种治理建议，如《反垄断法》应将利益保护重心更多倾向于消费者利益，《个人信息保护法》应包括禁止各种算法歧视的强制性规定，算法开发和利用应形成美国计算机协会那样的算法治理伦理原则，应设置算法安全委员会代表受害群体接受和审查算法设计者或使用者的算法解读，建立类似于银保监的监督委员会依据上位法颁布专用于算法设计、使用、责任的规则等。这些建议体现了多元化机制保护消费者权益的共识，具有正当性、必要性，缺陷在于均未提及付诸实践的法律成本。
法律成本在我国法学鲜有讨论。这是法经济学的一个基本概念，是指法律系统运作的全部费用支出，即社会和当事人追求法律公正与权益所耗费的人力、物力、财力、时间等。法律成本是法律供给包括立法、司法、执法、守法的决策或行为的重要因素，法律成本的高低和效益往往决定社会对法律及其机制的选择和当事人守法、规避法律或违法的选择。由于经济学和法学的价值取向不同，法经济学至今是一个小众的研究领域，作为法经济学理论基础的科斯定理的普适性也有疑问，法律成本问题很少进入理论和实务的视野。然而，任何法律机制的有效性取决于法律成本的限度和效率，这无需长篇大论，日常生活经验就足以证明。我国刑法从醉驾一律入刑转为到醉驾不一定入刑、我国台湾地区的空头支票罪从新设到取消不过几年，别无原因，就是法律成本的驱动：不应为普遍发生而损害后果有限的不法行为过多地耗费监狱资源。
法律成本一直是民事责任的基础，填平原则以守约方、受害人损失或违约方、侵权人的获利作为违约或侵权的成本，惩罚性违约金或赔偿金以特定的恶劣的违约或侵权行为作为对价，法律成本在不同场景具有不同定位和功能。在传统或已定型的侵权责任中，岁月或立法凝练出了相对明确或固定的法律成本，前者如财产损害的责任方式，后者如人身损害的赔偿项目，淡忘法律成本对于理论和实务而言无伤大雅。算法歧视侵害消费者权益则不同，作为随着技术变迁而不断演化的新型侵权，算法歧视的复杂和隐蔽程度制约算法歧视侵权的识别成本，算法歧视侵权的泛化和碎片化制约算法歧视的治理成本，不易形成相对明确或固定的法律成本，需要理论和实务高度重视和解决。其中，经营者的违法成本、消费者的维权成本、社会的治理成本是决定算法歧视侵权治理成效的关键。
经营者违法成本远低于侵权收益是大数据杀熟普遍化的主要动因。截至2022年6月，我国网民达10.51亿人，歧视性算法一旦上线，无时不刻地自动算计潜在的消费者，让个体消费者多付几十、几百元，以北京消费者协会问卷调查的2021年大数据杀熟感受率86.91%计，蕴藏着集腋成裘的暴利。算法歧视基本不影响算法设计和使用成本，至多增加一些掩饰和巧辩的成本，如在APP中多些规避责任的提示环节，配置几个伶牙俐齿的员工应对投诉，为平息偶发的公众舆情支付一些公关费用，相比大数据杀熟收益完全可以忽略不计。对经营者真正有威胁的是算法歧视侵权的败诉成本，如果算法歧视侵权的败诉成本可能约等于甚至超过大数据杀熟的总收益，算法歧视侵权就不具有普遍的诱惑力，但现实是算法歧视侵权遭遇消费者投诉的机率极低，投诉成功的更低，经营者的零星败诉根本不影响算法歧视侵权的整体效益。“胡红芳诉上海携程商务有限公司侵权责任纠纷”一案是能检索的为数极少的消费者维权成功案例，以价格欺诈判令被告退一赔三高度体现了消费者权益保护的价值取向，即便如此，赔付额不足5千元对被告这样的商业巨头而言无疑是九牛一毛。极低的败诉风险和成本决定了经营者算法歧视侵权的利益选择。
消费者维权成本过高是大数据杀熟普遍化的重要原因。大数据杀熟集中于日常消费领域，网购、出行、订票等消费金额小，多数消费者对杀熟不敏感或难以敏感，少数敏感的多以投诉发泄气愤且经投诉处理的磨蹭不了了之，极少有较真的消费者提起诉讼。检索中国裁判文书网和北大法宝，2012年至2023年1月12日，有关消费者权益的案件总数为591710件，约占同期民事案件总数77294533件的0.76%，与消费者相关的算法歧视案件总数为1462件，实际与算法歧视侵害消费者权益相关的仅为11件。这一数据因关键词误差不甚精确，但足以反映算法歧视侵害消费者权益个案稀罕的状况。这符合日常生活经验，为几十、几百元损失请律师或自己走一审、二审甚至再审程序，费用或时间成本可几倍、几十倍高于损失，即便胜诉也得不偿失。“赵某某诉浙江淘宝网络有限公司网络服务合同纠纷”一案，原告诉请被告赔偿损失713元，一审判决予以驳回，减半收取原告诉讼费25元，无异于警示消费者维权不如忍声吞气。绝大多数消费者不得不两害取其轻，助长经营者算法歧视侵权的有恃无恐。
维护消费者权益一直是我国社会治理的一项重要任务和目标。《消费者权益保护法》明确规定保护消费者合法权益是全社会的共同责任，工商管理行政部门和有关行政部门直接而具体负责，消费者协会等予以社会监督，大众传播媒介予以舆论监督，人民法院方便消费者起诉，形成一个完整的治理体系，还有各种政府或社会组织的消费者投诉平台如全国12315投诉热线，中国315消费者维权网、中国电子商务投诉与维权公共服务平台、中国法学会消费者权益保护法研究会每年的315消费者权益保护典型案例发布会等，以便消费者投诉有门。在维护消费者权益上，我国社会投入了巨大的治理成本，立法保护、行政保护、司法保护、社会保护和消费者自我保护联动，专项治理不断，但在治理大数据杀熟上成效甚微，上海市2021年出台网络营销活动算法应用指引，15个部门联合应对大数据杀熟，效果不明。作为鲜明的对照，“阿里巴巴”滥用市场支配地位侵害平台商户权益被行政罚款182.28亿，威震经营者之间的不正当竞争。
有效治理算法歧视侵权必须抬高经营者违法成本。违法成本有两层意义：一是规则宣示的违法成本，二是个案应有的违法成本。规则层面的违法成本是确定个案违法成本的依据，个案是规则层面违法成本的用武之地，违法成本必须体现于规则，落实于个案，两者缺一不可。违法成本的确定一般依据违法行为和后果，但算法歧视侵权应以个案违法成本足以有效治理算法歧视为尺度。这是因为，大数据杀熟虽然普遍，但不易发现和证明，算法歧视侵权的隐蔽和动态使得消费者难以察觉前后几分钟机票价格随着查询次数上涨的杀熟，察觉了也难以有效固定相应证据，维权个案的形成机率低，标的额又小，以个案违法行为和后果作为确定算法歧视侵权成本，对于经营者而言犹如发放稳赚不赔的彩票末等奖，只会鼓励大数据杀熟。我国对大数据杀熟的规则警示明确、强硬，例如，《互联网信息服务算法推荐管理规定》第21条，但至今没有任何个案的违法成本足以支撑规则目的，大数据杀熟我行我素，这种状况必须改变。
首先，立法、行政、司法应形成大数据杀熟必须重罚的共识：重罚的本质是抬高违法成本实现当事人之间和当事人与公共利益之间的利益平衡。阿里巴巴的巨额罚款是为了经营者之间的利益平衡，相比之下，实现经营者和消费者的利益平衡更需要重罚。消费者利益是人的生存和发展利益，是市场经济的根本利益，是经营活动的最终目的，任何经济事业及其价值须以不得牺牲消费者利益为先决条件，大数据杀熟事关我国社会主义市场经济秩序，事关我国社会的核心利益，重罚具有充分的正当性；消费者个体在算法歧视下天然弱势，受害容易，维权不易，维权个案难得一现，唯有重罚个案经营者，才能冲抵个案经营者的大数据杀熟收益，遏制案外经营者大数据杀熟的博彩动机。基于大数据杀熟极少有过失情形，重罚应包括顶格的行政责任、加重的民事责任和必要的刑事责任，具体责任情形和限度应对标有效清除大数据杀熟等而不断完善和创新。
同时，立法、行政、司法应完善抬高大数据杀熟违法成本的机制：国务院应尽快出台7年前未竟的《消费者权益保护法实施细则》，专节规定算法歧视侵权与大数据杀熟，明确算法歧视认定的价值取向、构成要件、行政处罚情形等具体要素；在这之前，市场监督管理局应依据《反垄断法》第17条、《平台经济反垄断指南》第17条、《价格法》第14条等处罚大数据杀熟，无需拘泥规则的适用范围，因为消费者是垄断和不正当竞争的最终受害者，除直接查处投诉个案之外，对有生效判决的维权个案一个不漏地予以顶格的行政处罚，所得罚款一部分奖励维权胜诉的消费者，鼓励消费者发现和起诉大数据杀熟；法院应树立消费者权益保护的价值取向，以过错推定原则降低消费者的举证难度，以惩罚性赔偿金冲抵消费者的时间、精力和开支的维权成本，疑难案件应征询消费者协会等社会组织的意见；人民检察院应大力推进公益诉讼，主动监督消费者败诉案件，对确有错误的及时提起抗诉。