上政学报 | 李 芊：网络平台暗黑模式的法律规制——从合同自治与基本权利到信义义务

点击蓝字

关注我们

初创学者佳作

网络平台暗黑模式的法律规制

——从合同自治与基本权利到信义义务

本文刊登于《上海政法学院学报》2023年第2期

作者简介 

李芊，中国人民大学法学博士研究生。

内容摘要

在识别与规制暗黑模式时，有两种较为典型的规制路径：以美国为代表的合同路径与以欧盟为代表的权利路径。合同路径可以识别出具有欺骗性与不公平的操纵行为，而权利路径可以识别出损害数据权利与个人尊严的操纵行为。合同路径通常把暗黑模式转化为格式合同与消费者保护相关争议进行讨论，而权利路径通常在司法与行政层面通过对欧盟《一般数据保护条例》进一步解释展开规制。在具体实践中，这两种法律路径可以解决某些暗黑模式问题，但难以完全应对大规模操纵中的风险问题，需要进一步引入信义义务。信义义务可以实现合同保护进路与基本权利保护进路的升级，有利于对暗黑模式实施综合治理。

关键词

暗黑模式；合同保护；格式合同；权利保护；信义义务

引用格式

李芊：《网络平台暗黑模式的法律规制——从合同自治与基本权利到信义义务》，《上海政法学院学报》(法治论丛)2023年第2期。

目次

一、比较法视域下的暗黑模式立法规制

（一）欧盟围绕暗黑模式设计展开的立法实践

（二）美国围绕“消极选择营销”展开的立法实践

二、合同保护路径的综合分析

（一）从效率价值与多元救济出发的考量

（二）从自治价值与实施效果出发的考量

（三）相关案例研究与合同保护路径的不足

三、权利保护路径的综合分析

（一）权利保护在人权保护与监管层面的优势

（二）权利保护在社会整体福利层面的限制

（三）相关案例研究与权利保护路径的局限

四、暗黑模式法律规制的制度重构

（一）暗黑模式的识别标准

（二）信义义务的实践框架

（三）标准与规则的内在联动

五、结 语

当今，通过隐藏关键信息或使用特殊技术手段使用户出现认知偏差并做出非理性行为的网络产品设计比比皆是，这一做法被称为“暗黑模式”。总结现有司法实践可以发现，暗黑模式与操控问题已经成为网络平台监管与数据保护领域的焦点问题之一，不仅在我国已经涌现出一批典型案例，在国外，此类技术设计同样也引起较大关注。此类案件频发使得法律是否需要以及如何对暗黑模式进行规制等问题被逐步提上议程。

“暗黑模式”这一概念最早由英国用户体验设计师Harry Brignull于2010年8月明确提出。根据他的观察，暗黑模式可以被划分为11种不同的类型。从技术与市场角度来看，现有研究普遍视暗黑模式为一种市场竞争下形成的营销方式，旨在通过特定的技术设计与营销技巧向用户推销产品与服务，致使用户作出符合商家预期的行为。对于商家而言，暗黑模式属于积极的营销技术。此外，暗黑模式有时还会与其他技术设计相结合，产生更具影响力的效果。

在法律领域，暗黑模式总是与操纵问题相关，并逐渐发展为规模化操纵的典型。暗黑模式通常依托告知同意机制而与用户建立联系。相比偶发操纵行为，规模化的暗黑模式能够渗透到用户生活的方方面面，因而具有更强的破坏力。虽然目前世界上绝大多数国家和地区都通过立法对告知同意机制进行确立和改进，但是，面对层出不穷的暗黑模式问题，现有法律规范仍存在着诸多疏漏和不足。

暗黑模式的法律规制面临着如下挑战：首先，暗黑模式的呈现方式多变，并不是每种技术设计都违反了法律的规定，因此需要明确其范围；其次，由于暗黑模式对现有法律规范形成了较大冲击，因此需要明确具体的应对方式；最后，规模化的暗黑模式无疑为现实规制增加了难度，传统的保护模式是否可以有效应对群体操纵问题，以及当规范缺位时应当如何处理等问题亟待回答。本文在全面分析与评估现有的合同路径与权利路径的基础上，提出了两者在应对暗黑模式规制问题上的局限，主张以信义义务作为规制工具的补充，最终实现对暗黑模式的综合治理。

一、比较法视域下的暗黑模式立法规制

在全球范围内，欧盟与美国已经率先在暗黑模式的规制问题方面展开了立法、执法与司法实践，并分别呈现出典型的地域传统与法治特色。

（一）欧盟围绕暗黑模式设计展开的立法实践

2020年，欧盟通过了《数字服务法》（Digital Services Act，DSA）。该法案首次明确提出禁止在线平台使用欺骗、操纵的设计、组织或操作界面，特别是信息超载、虚假的等级制度和阻碍技术等操纵性技术手段扭曲或损害用户的自由和知情权。2022年3月21日，欧洲数据保护委员会（EDPB）发布了《关于社交媒体平台界面的暗黑模式指南3/2022》（以下简称“《指南》”）。这份《指南》指出，平台所呈现的某些用户界面实质上已违反《一般数据保护条例》（General Data ProtectionRegulation，GDPR）关于收集信息以及获取同意的规定，并把暗黑模式定义为：“导致用户在处理其个人数据时作出预期外、不情愿与具有潜在伤害的决定的社交媒体界面与用户体验设计。”

《指南》总结了暗黑模式的6种基本类型，并提供了相关样例：（1）信息超载（Overloading）：是指社交媒体设计出大量的同意请求、信息与选择促使用户分享更多甚至是超出预期的个人数据；（2）信息遗漏（Skipping）：是指社交媒体通过设计让用户忘记（或不考虑）全部或者部分数据保护方面的措施；（3）信息诱导（Stirring）：是指社交媒体通过界面设计操纵用户的情感与视觉进而影响用户的选择；（4）信息阻碍（Hindering）：是指社交媒体通过难以操作的设计阻碍用户获取信息或管理数据；（5）界面反复无常（Fickle）：是指社交媒体设计出不连贯、不清晰的界面使用户较难使用数据保护工具，也较难理解数据处理的目的；（6）界面不明确（Left in the dark）：是指社交媒体通过设计隐藏信息界面让用户不确定平台处理数据的过程与可拥有的数据控制方式。

按照操纵方式的不同，上述6种情形可以更进一步分为基于设计内容与基于设计形式的暗黑模式。基于设计内容的暗黑模式是指呈现给用户的内容蕴含着暗黑模式技术，包括语言措辞、信息的内容等；而基于设计形式的暗黑模式则是指内容所展现的形式，包括显示方式、浏览方式、交互方式等可能会直接影响到用户感知的方式。《指南》不仅详细分析了所应遵循的GDPR数据保护原则，而且还根据不同场景罗列了可能会出现的具体形式。

（二）美国围绕“消极选择营销”展开的立法实践

在联邦层面，美国联邦贸易委员会（FTC）主要依据《联邦贸易委员会法案》（FTCA）第5条，针对消费者的数据保护问题展开执法活动。近年来，FTC越来越关注消费市场中常见的“消极选择营销”（Negative Option Marketing）模式。“消极选择营销”泛指在商业交易中卖方将买方未能及时拒绝要约和取消同意的行为解释为同意商品或服务的买卖。早在2007年，FTC就召集各行业代表举办了以消极选择营销为主题的研讨会。随着互联网的发展，这种营销模式变得愈发多样、复杂，并逐渐发展为暗黑模式。

2021年4月，FTC在其举办的线上研讨会上重申规制暗黑模式的重要性，并围绕着暗黑模式的定义、影响暗黑模式设计的要素、影响、伤害及消费者对暗黑模式的态度以及解决方案等内容展开讨论。同年10月，FTC发布了政策声明，警告平台企业不能在订阅服务中使用暗黑模式。FTC还列出了一系列欺骗或不公正地对待消费者的典型行为，例如：不充分披露与隐藏消费消息；未经消费者同意获取注册信息；阻碍消费者选择退出与退款的程序；等等。

此外，FTC还通过总结执法和参与司法案例的经验，确定了规制暗黑模式的四个底线要求：第一，营销人员必须清楚而显著地披露消极选择的实质性条款，至少包括该项消极选择的存在、选择所需的总成本，以及如何取消该项选择等关键条款；第二，在消费者同意购买之前，卖方必须披露重要条款与信息；第三，营销人员必须获得消费者对该产品交易的明确同意；第四，营销人员不得对退出程序设置不合理的障碍，必须尊重用户发出的、符合程序的退出请求。

另外，美国国会于2010年通过了《恢复网上购物者信心法案》（Restore Online Shoppers’Confidence Act，ROSCA），旨在解决部分网络消极选项营销行为所持续产生的负面影响。ROSCA禁止企业通过任何消极选择设计向消费者收取或试图收取购买互联网上出售的商品或服务所产生的费用，除非营销者在获取消费者的账单信息之前，已经清楚且显著地披露了交易的所有重要条款；在向消费者收取费用前，已经取得消费者明确的同意；营销者向消费者提供了简单的退出机制。除此之外，美国国会还制定了包括《电话营销销售规则》（Telemarketing Sales Rule，TSR）在内的一系列单行法案，并被FTC应用在执法工作之中。

在州层面，目前美国各州已通过的5部隐私法中，已有3部明确指出了暗黑模式的存在。2020年，加利福尼亚州在《加利福尼亚隐私权法案》（California Privacy Rights Act，CPRA）中为消费者提供额外的隐私保护，明确禁止使用暗黑模式。根据CPRA的倡议，企业需要避免以下5种暗黑模式设计：语言使用过于宽泛与简单；用户在隐私程度保护高低不同的选择面前花费不同的时间；出现让人困惑的选择因素与语言；使用操纵性质的语言；用户访问请求权（DSAR）在现实中难以实现。科罗拉多州于2021年7月通过的《科罗拉多州隐私法》（Colorado Privacy Act，CPA）对暗黑模式的定义与CPRA基本保持一致，并同样规定禁止使用暗黑模式。紧随其后，康涅狄格州于2022年5月也通过了类似立法。

综上所述，欧盟与美国对于暗黑模式的规制有诸多不同。首先，欧盟立法属于“防御型”，偏向于保障个人对数据的控制，而美国立法属于“矫正型”，偏向于维护市场公平与消费者利益；其次，欧盟通过直接立法的方式限制使用暗黑模式，而美国立法者则更关注强制披露义务，并重在纠偏；最后，欧盟通过统一立法的方式，为应对暗黑模式设立了基本原则与具体且有可操作性的法律规范，而美国则通过“判例”形成了普通法规则，对暗黑模式的种类进行了归纳，并提出了更有针对性的规制要求。欧盟与美国所形成的不同制度方案设计与规范选择表明，基于不同的社会考量，规制暗黑模式的路径选择并不单一。有鉴于此，下文对上述两种典型路径及其所反映出的深层次考量分别展开阐述与分析。

二、合同保护路径的综合分析

经验表明，长期偏好维持市场自由竞争的国家通常倾向于采用合同保护路径规制暗黑模式，尤其重视以弹窗、隐私政策等形式呈现的告知同意机制，但是这一机制明显有别于传统意义上的合同形式，我国学者也对告知同意的性质多有讨论。传统合同法理论认为，合同的主要功能是通过确定当事人之间达成的合意，为其行为提供合理预期。晚近以来，随着工业化与信息化程度的不断提高，格式合同正在各行各业中得到广泛应用，并逐渐成为商业化过程中重要的法律形式。同时，商业化与自由竞争催生了企业自我监管的盛行，企业试图通过发布格式合同强调自我监管，进一步增强企业自身的市场竞争力。商业格式合同的发展演变使传统合同中的协商过程与约束功能大打折扣。因此，商事合同的功能事实上已经成为兼具对抗外在监管与维护声誉的关键机制。

暗黑模式在合同领域的讨论多半是围绕着商业格式合同展开的，排除个体之间偶然的合同关系。总结现有研究，合同保护路径存在的主要争议如下：首先，格式合同有可能阻碍当事人开展协商，进而破坏当事人的合理预期，此举是否有违合同制度的目的与价值；其次，格式合同可能会剥夺当事人自由选择的权利，是否有破坏当事人自主性之嫌；最后，格式合同事实上导致当事人之间原有法律拟制的平等地位失衡，是否需要借助法律工具加以补救；等等。针对上述问题，基于不同的理论预设与实证前提，合同保护路径引发了大量针锋相对的讨论。

（一）从效率价值与多元救济出发的考量

首先，合同路径有利于促进交易的效率。著名合同法专家艾伦·施瓦茨（Alan Schwartz）与罗伯特·斯考特（Robert E.Scott）认为，合同规范的元理论目标是效率与各方福利最大化，合同法的最终目的应该是促进与维护缔约双方交易利益的实现。格式合同的经济价值依赖于两项原则：一是合同的可分性原则，即合同条款可以依据其重要性予以分离，不涉及重要交易价值的条款可以从整个合同中剥离。例如，《中华人民共和国民法典》第496条规定：“提供格式条款的一方未履行提示或者说明义务，致使对方没有注意或者理解与其有重大利害关系的条款的，对方可以主张该条款不成为合同的内容。”二是交易成本最小化原则，即默认规则可以在最大程度上减少缔约方的交易成本。在交易的场景下，格式合同作为默认规则可以节省时间与成本，促进下一步的交易。规制机构可以通过发展必要的默认规则来减少预期之外的风险，为当事人省去阅读具体条款的时间与精力。

其次，合同路径有利于维护市场的自我调节功能。对格式合同持批判态度的学者认为此类合同容易导致市场操纵，在一定程度上反映了市场机制的失灵。信奉市场自由主义的学者则主张，市场本身就是最好的调节器，具有强大的自愈能力；相反，强制干涉也许会给现有市场带来更大的不确定性，不如在市场体系内自行解决与消化。同时，市场竞争可以倒逼着越来越多的平台企业谨慎对待消费者，主动关心消费者与用户的诉求，最终促进消费者整体福利的提升；反之，过多监管则会打破这种循环，影响市场的自由竞争，最终导致商品品质降低、价格升高，不利于消费者福利的最大化。因此，合同保护路径可以以对市场运行产生最低程度干扰的方式为双方划定行动的底线。

最后，合同法救济并不唯一。合同路径支持者认为合同本身的价值在于促进交易，因此，合同保护的内容也应仅限于交易，而不包括消费者保护与市场竞争秩序的维持。为了弥补暗黑模式的不足，减少市场操纵的现象，支持者提出以信息披露的方式修正合同保护的不足。披露信息的主要目的不在于获取消费者完全同意，而是让消费者享有信息的知情权，同时鼓励企业遵守披露的承诺。当所涉争议的问题超越了合同保护范围时，再通过产品责任、侵权责任与消费者规则加以解决。总之，在以交易保护为主、其他法益保护为辅的综合体系运转之下，格式合同可以最大程度地发挥效率优势，促进社会福利的增长。因此，作为市场参与者的消极选择营销可以在不违反市场竞争规则之下享有一定程度的自由，并被市场与法律容忍；但是，考虑到暗黑模式对消费者群体与市场的利益造成了损害，所以法律有必要通过其他救济措施填补损失。

（二）从自治价值与实施效果出发的考量

首先，格式合同损害了合同的自治价值。支持合同路径的学者认为，合同规范的元价值为交易的效率价值；持反对观点的学者则认为，合同的元价值应当是自治价值。自治价值的核心在于人可以基于理性自由地开展交易，而格式合同的发展毫无疑问会造成自治价值的贬损。一方面，由于人的认知具有局限性，合同的承诺与预期则是对有限理性的弥补，如果合同双方无法依据在先的承诺，对未来的行为产生合理预期，那么合同将形同虚设。虽然信息披露义务可以部分应对承诺的不确定与不全面等问题，但是无法真正解决消费者预期落空的问题。另一方面，暗黑模式能够通过不易察觉的方式影响与干扰消费者的选择，对消费者形成操纵，这事实上破坏了交易的自由环境，容易诱发道德风险。

其次，合同保护路径无法适应严峻的信息环境。在市场交易中，信息是定价与议价的基础，因此信息环境直接影响合同的内容。然而，商业数字化使得不同领域面临着信息不对称环境下的关系失衡问题。平台企业可以通过收集个人信息，分析消费者的行为偏好，再运用暗黑模式，采用难以察觉的方式操纵用户的消费行为；处于信息垄断地位的平台更是可以肆意妄为。这种行为严重挑战了法律拟制下平等主体之间的契约自由与自治关系，而传统的信息补救范式难以应对此类风险，且不说信息披露义务会将信息的理解成本与风险转嫁给消费者，单单是阅读行为本身就会让用户感到疲惫不堪。

最后，合同救济在事实层面逐渐弱化。暗黑模式最终会侵害到消费者的利益，但是合同制度通常不关注消费者利益保护，相关议题只有在讨论社会福利时才会得到再次考量。从实证层面考察，FTC最初介入市场的目的是鼓励企业自我监管，为其提供监督和执行的后盾。但是，随着管辖权与权力不断扩张，FTC逐渐成为美国隐私保护主导性的执行机构，开始承担执法之外的职能。丹尼尔·索洛夫（Daniel Solove）和伍德罗·哈佐格（Woodrow Hartzog）两位教授经过研究发现，美国逐渐发掘了“隐私普通法”的监管模式。与真正意义上的普通法不同，FTC与公司之间有关信息隐私的大部分案件并没有经过司法机构的审判，而是选择了和解，并尽可能遵循“一致性”原则。因此，FTC实质上已经将美国市场中的自我监管转变为具有强制性的内外联合监管体系。相应地，这种转变表明，合同路径已经无法完全规制暗黑模式所带来的伤害，而行政执法机构已经在事实层面掌握了对暗黑模式的主要规制权。

（三）相关案例研究与合同保护路径的不足

通过总结判例发现，美国在暗黑模式规制的司法实践中一贯沿着合同路径展开，具体表现如下：

首先，告知同意机制通常会以合同的诉因为起点展开讨论。部分判例指出，告知和同意并不属于合同。以“Sgouros诉TransUnion Corp.案”为例，该案法官认为，没有以明显方式让消费者注意到的重要信息不足以构成合同的同意。有些法院则将暗黑模式中的告知同意方式与合同法中的“不当影响”（Undue Influence）联系起来，主张暗黑模式可以构成合同无效或者可撤销事由，美国联邦第二巡回法庭在“Williams诉Affinion Group,LLC案”中所作合同无效判决即是一例典型。该案中，法官在说理时援引了《合同法重述》（第2版）第177条，即合同产生的“不当影响”，也即“处于优势的一方当事人利用自己与另一方之间的关系通过不适当的说服，使另一方有正当的理由推测处于优势的一方不会以一种有损于其福利的方式行事”。不当影响的标准可以为无法证明胁迫和虚假陈述的情况提供额外的救济途径。事实上，第177条中有关支配关系事实的证明具有一定的难度。虽然面临争议，但有学者认为，第177条是目前最具潜力的能够规制暗黑模式的规范。

其次，FTC的执法思路包含合同法思维。FTC在保护消费者与市场领域具有诉权与执法权。在“FTC诉Cyberspace.com LLC 案”中，美国联邦第九巡回法庭将可能对消费者的理性选择产生影响的事实行为（Material Fact，包括作为、不作为或其他实践事实）视为欺诈。在举证方面，法院无须原告证明被告行为的意图，只需要有实质性证据能够证明被告在交易过程中的“整体净印象”（Overall Net Impression）容易产生误导消费者的效果即可。在这些实践标准中，FTC既关注企业披露的信息对消费者的重要程度，也关注企业披露信息的方式。FTC的核心目的是要求企业在合同中披露的内容与形式符合合同相对方的预期利益。当平台设置的暗黑模式设计超出了合理预期，并获取了超出对价之外的利益时，会被认为有损交易公平，影响市场竞争。正如卡斯·桑斯坦（Cass Sunstein）所述，操纵的目的是通过诱导消费者行为实现平台自身的利益，区别于助推中所包含的福利价值。

最后，FTC以FTCA第5条中的不公平标准（Unfairness Doctrine）作为维持市场竞争与消费者保护的兜底条款。经过40多年的执法实践，FTC目前已经形成了认定不公平的两大类准则：一是该行为对消费者造成了实质损害；二是违反了已公布的公共政策。FTC认为实质损害主要体现为消费者遭受的经济损失，而导致此类损失的原因可能是强迫交易，也可能是不公平行为引起的附加伤害，如身份盗窃造成的经济损失。除此之外，FTC还在关于不公平标准的政策声明中表示，损害可以解释为对消费者群体的集体影响，即对大规模消费者造成了较小的伤害或风险的损害行为也可能是符合实质性要求的。

综上所述，美国几乎没有直接与暗黑模式相关的判例。原因在于：首先，与合同诉因相关的案例大多是在讨论暗黑模式是否属于合同的一部分。不符合合同要求的条款可以从主合同中剥离，或者转化为对行业惯例与默认规则进行通盘考虑。在监管执法层面，与暗黑模式相关的司法实践基本上都被转化为与《联邦贸易委员会法案》第5条内容相关联的案例。总之，通过合同路径展开的讨论相对局限，难以实现对暗黑模式操纵的讨论。其次，有关暗黑模式判例较少的原因在于，在绝大多数执法案例中，公司会与FTC 达成和解并签订有约束力的和解协议。虽然FTC是执法机构，但是在司法判决缺位的情况下，FTC的和解协议在事实上形成了行业内的标准与惯例，这不仅为企业的经营活动提供合理预期，同时还节约了司法成本，也更有利于市场交易的效率。可以说，FTC从大量案例中选取了“先例”并提取了一套保护信息隐私和数据安全的原则。FTC事实上在执法之外承担了部分司法与立法的职能，填补了美国隐私监管领域的空白。美国的暗黑模式规制问题最终演变为了以FTC牵头的消费者保护问题。因此，合同功能在实践中被分割成两部分，即具有自治价值涉及重要交易内容的部分和具有经济价值用以企业披露信息的部分。

合同保护路径可以为规制暗黑模式与操纵提供正当性基础，相关问题基本可以转化为合同欺诈与不公平行为。但是，其中还有三个关键问题没有解决：一是合同的自治价值与经济价值的权衡问题。二是告知同意机制下的格式合同与合同法的适配问题。美国在一些判例中表示格式合同属于“伪合同”，但是却在实践中运用了合同规制的思路，这种前后不一致的现象需要进一步解释。三是合同路径如何为信息时代规模化的操纵提供相应的保障？

三、权利保护路径的综合分析

欧盟数据权利的正当性来源于1953年生效的《欧洲人权公约》与2007年颁布的《欧盟基本权利宪章》。这两部权利基本法为欧盟数据保护奠定了权利保护的基调。为实现数据时代的个人自决权与个人控制权，欧盟从基本权利中引申出了一系列数据权利，包括访问权、更正权、删除权、限制权、数据可移植权、反对权等。但在具体实践中，GDPR这种权利主导保护的模式仍面临着多方质疑，被认为是最不利于数据流通的立法。下文讨论以下问题：第一，权利保护路径是否可以规范暗黑模式，效果如何？第二，权利保护在暗黑模式规制中充当何种角色？以下是支持与反对的理由。

（一）权利保护在人权保护与监管层面的优势

首先，权利保护有利于维护人的尊严价值。在暗黑模式的问题上，做出操纵行为的主体总是试图影响被操纵方的选择，为其预设一个带有倾向性价值的框架，诱导其作出不符合理性的选择，进而践踏尊严价值与自主价值。在信息不平等、权利不对称的环境中，个人的尊严与权利可能会逐渐陷入一个恶性循环中：信息不对称使得数据主体无法正确评估风险，但是数据主体的选择与偏好又高度依赖环境与场域所提供的信息，最终，数据主体的选择难逃被数据控制者不断利用与塑造的命运。因此，强调赋权的方式可以让个体发挥主观能动性，对抗数据世界的不平等操纵，实现对自身尊严的维护。

其次，有利于形成以权利为核心的动态保护机制。在欧洲，支持权利路径的学者认为权利模式牵引了欧盟整个治理监督体制，为欧盟的数据治理提供了正当性基础。以个人控制为核心的权利体系不仅可以为后期治理与监督提供元理论意义上的指引，还可以细化为执行程序，在实践中发挥重要作用。另外，不同于合同模式，欧盟告知同意机制的正当性来源于基本权利，能够发挥协调各方利益的关键作用：一是权利的实体价值与程序价值均可以实现对个人的救济；二是数据保护机构可以通过告知同意机制中披露的信息监督企业；三是同意机制行业化与标准化的运作可以影响企业的合规文化。最终，暗黑模式可以在整个动态的过程中被不断纠正与改进，调整为良性的技术设计。

（二）权利保护在社会整体福利层面的限制

首先，权利路径无法解决社会问题。一个有关暗黑模式的实证研究结果表明：受教育程度较低的用户明显比受教育程度较高的用户更容易受到暗黑模式的影响。这表明暗黑模式本身的存在就极易在某种程度上加重社会的不平等问题。另外，如果赋予消费者过多的侵害赔偿权利会导致商家基于“交叉补贴”提高产品定价，最终损害部分不擅长或不喜欢维权的消费者的利益。换言之，过分推崇权利保护可能会导致社会整体福利水平下降，最终转嫁为对穷人的剥削，并进一步拉开贫富差距。其实，在完善法治的过程中，对权利评估最重要的考量因素在于看它是否能够实现重要的法治目标。如果许多权利在实践中是空洞、无意义且经常受到阻碍的，那么它将无法承担保护的作用。

其次，个人控制与权利保护的重要性被过分夸大。权利路径的初衷是通过赋权的方式使个人拥有数据控制权，并通过个人监督以促进道德善的目标之实现。但是随着企业数量与规模的不断扩张，个人有限的专业知识、时间与精力与企业强大的支配权力之间愈发呈现出一条难以跨越的鸿沟。当暗黑模式成规模出现时，有限的权利救济途径的作用将非常局限，并给个人维权带来较多的负担。因此，在事实层面，权利路径无法承担保护的重任，即无法为个人提供更加系统与全面的保护，最终只能沦为整个规制系统中的一个配角。

（三）相关案例研究与权利保护路径的局限

在治理模式上，欧盟选择了以权利保护为核心的“权利（个人控制）+问责”的二元治理模式，在具体救济途径上，欧盟采取了民事救济与行政问责二元模式。这种救济模式兼具全面与威慑力的特点。同时，GDPR通过第80条规定了集体诉讼（Collective Redress）制度。相比于个人诉讼，集体诉讼的方式更有利于发现暗黑模式，为欧盟成员国提供更多维权的可能性。欧盟二元模式具体如下：

一方面，从民事救济来看，GDPR旨在规制数据处理过程中可能对个人权利和自由造成的损害与风险，并在第82（1）条规定直接适用于所有欧盟成员国。当事人请求损害赔偿需要证明损害的行为与结果之间的因果关系，损害的概念包括实质与非实质形式的损害。欧盟在相关会议中表示，对于损害的认定与判断应该遵循欧盟法院（CJEU）的判例并进行广义解释（Broadly Interpreted）。另外，GDPR还引入了严格的“无过失”责任原则：任何参与不合法信息处理行为的组织都应该对该处理行为负责，无须证明故意或过失，只需证明控制者（或处理者）违反了相应的规定并导致了实质损害结果的发生。

欧盟对实质损害的判断较为清晰，对非实质损害判断持消极态度。在欧洲数字权利中心（NOYB）的公共数据库（GDPR Hub）中发布的全欧洲范围内的判决中，有关损害的判断主要有两种标准。一类是国家法院支持行为违反GDPR规定即构成损害，需要承担相应的责任。此类标准无须证明实质损害的发生，只需证明违反了GDPR的规定即可。另一类是国家法院支持对损害的判定需要结合损害本身进行综合判断。此类法院认为，非实质损害的成立不是必然的，需要判断数据主体的权利是否受到严重的侵犯。因此，仅构成“个人感知”的操纵行为不会使得数据主体获得损害赔偿。

另一方面，从行政问责来讲，欧盟内各成员国设立了数据保护机构（Data Protection Authorities，简称“DPAs”），负责对数据保护问题提供专家建议、处理违反GDPR和相关法律法规的投诉等。DPA可以基于个人的投诉，以数据保护审计的形式行使调查权，并有权获得执行审计所需的所有个人数据和必要信息。近些年来，DPA根据投诉处理了一些与暗黑模式相关的案例。例如：2019年，法国DPA以谷歌没有就个人数据的收集、用途向用户提供明确的说明为由对其处以罚款；2021年，法国DPA因谷歌违反了GDPR的要求，为退出同意设置阻碍而再次对其处以罚款；2022年，法国DPA还对脸书进行了罚款，因为该公司阻碍了用户的退出。但有学者对DPA执法的正当性持怀疑态度，认为各国的DPA在执行GDPR过程中存在差异，因此可能会违反平等适用法律等核心原则。

通过分析欧盟法院与数据保护机构的案例发现，欧盟近些年来一直在积极识别与处理暗黑模式行为。直至2022年3月，欧盟发布了有关暗黑模式的行动指南，这才为暗黑模式的识别提供了一些具体的实践操作标准。虽然绝大多数的欧洲议会和欧盟成员国都支持与推崇强有力的数据保护，但很少看到实际的执法实践。从某种程度上来说，欧盟的权利保护路径在具体操作层面有一定的缺陷。欧盟成员国法院开始在处理暗黑模式案件的过程中提倡对GDPR中的“非实质损害”进行限缩解释，并请求欧盟法院（上级法院）提供判断非实质损害的“门槛”与标准。事实上，欧盟部分法院正在逐步减少保护GDPR权利的实践，与此相反，DPA在监管暗黑模式的实践中承担了越来越重要的职责。通过观察欧美执法活动发现，行政机关在个人信息保护领域中发挥了越来越重要的作用。我国也有部分学者提出要以行政机构作为风险控制的主要机构。

权利保护路径在实践过程中存在自身局限。虽然权利路径能够对暗黑模式的部分侵害提供救济，但是这种事后权利救济的方式不仅效率低下，还会面临实施难的问题。最后，只依赖权利无法实现全面与有效的保护，需要综合运用不同规制手段。

四、暗黑模式法律规制的制度重构

虽然合同与权利保护进路可以实现一定的规制效果，但是在暗黑模式的法律识别与规范层面还存在局限。首先，在识别方面，合同与权利均可实现对部分暗黑模式的识别。合同保护通常通过合同与市场识别暗黑模式，而权利保护通常通过基本权利识别暗黑模式，两者均在各自的具体场景中对暗黑模式这类不确定以及专业化的问题进行识别，存在一定的片面与局限。其次，在具体规制方面，合同与权利保护路径可以解决偶然与重要的操纵行为，但是无法解决规模化的暗黑模式问题。司法途径虽然可以实现对关键价值的保护，但是却无法应对日常生活中反复大量出现的暗黑模式。笔者认为，在法律领域，暗黑模式的核心与基本问题与操纵相关，因此暗黑模式可以借助法律识别操纵的方法建立完整的暗黑模式法律识别标准，并通过信义义务在源头上建立一个灵活的筛选机制，以更好地应对大规模的暗黑模式操纵。

（一）暗黑模式的识别标准

在识别暗黑模式方面，下文从三个标准展开讨论：

第一，该行为是否绕过了人的理性审议。与劝服与说服不同，操纵行为通过隐蔽的方式剥夺了对方依赖理性思考作出决策的能力。行为主义经济学研究者卡斯·桑斯坦（Cass Sunstein）与理查德·泰勒（Richard Thaler）认为，每个人都有两个系统，系统1是情感与经验系统，系统2是理性推理系统，而操纵行为恰恰是利用某些个人容易忽视的方式（比如暗黑模式中的自动续费功能）绕过了系统2的理性。因此，他认为，操纵就是行为者有意识地利用技术或者技巧让选择者在不动用系统2的理性审议能力（Deliberative Capacity）下作出选择。

第二，该行为是否使用欺骗手段使对方产生错误的信念与预期。安妮·巴恩希尔（Anne Barnhill）认为，操纵直接影响了被操纵方的情感、欲望与情绪，以至于其无法实现理想的心理状态。露丝·法登（Ruth Faden）等认为，操纵是通过引起心理过程的改变而影响一个人信念或行为的意识行为。操纵与欺骗直接挂钩，这种判断标准多用在营销或者广告业，也常作为指控违法的理由。法律惩戒破坏合理预期的操纵行为，如欺诈、胁迫、失信行为等。例如，我国《反不正当竞争法》第12条规定：“经营者不得利用技术手段，通过影响用户选择或者其他方式，实施下列妨碍、破坏其他经营者合法提供的网络产品或者服务正常运行的行为：……（二）误导、欺骗、强迫用户修改、关闭、卸载其他经营者合法提供的网络产品或者服务。”

第三，该行为是否体现了相对权威主体通过向其他人施加压力进而影响其选择与决策。相对权威者一般通过精神上的优势（知识或威望）或物质上的优势（对某类资源享有经济垄断地位）对对方施加压力，如某行业的专家学者、平台的相对垄断地位等。操纵的压力强度处于劝服与胁迫之间，既没有像劝服一样提供较充分的自由选择空间，又没有达到胁迫所具有的强制性程度。如特定领域内的话语权主导者通常会以压力输出的方式掌控绝大部分的决策权。

上述三种标准均可识别出在法律领域内可规制的操纵行为，换言之，法律可以对破坏法律价值的这三类操纵行为问责。首先，第一种识别标准体现法律对自由的保护，除了让渡的重要权利与自由之外，法律保护个体自由的选择权与决策权，而操纵影响了人的自决权；其次，第二种识别标准体现法律对自治价值与预期价值的维护，破坏合理预期与通过欺骗对个体造成不利影响的操纵行为均属于法律规制的范围；最后，个体是脆弱的，法律需要对弱势群体予以倾斜式保护，强调以信赖与预期弥补理性的缺失，对不公平的平台操纵行为进行规制。通过这三个法律标准识别出来的暗黑模式更系统与全面。

（二）信义义务的实践框架

在规制暗黑模式过程中，既需要通过合同与权利路径实现对个体切身利益的保护，又需要风险规制路径实现对社会公共利益的维护。信义义务不是对合同与权利保护的替代，而是对合同进路与权利保护进路的升级，有助于应对大规模操纵风险。

对合同保护来说，信义义务与合同中的承诺与预期具有相一致的目标，兼顾经济价值与自治价值。在信义义务中，双方之间是一种基于信任的代表关系，表现为委托合同或者信托合同。在这个关系中，受托人可以基于合同关系获得相应的收益或好处，但需要以委托人的利益为根本出发点。因此，信义义务既能满足合同的经济价值，又可以弥补自治价值的不足。另外，信义义务可以在合同保护之外发挥倾斜保护的功能。平台企业自与用户签订格式合同伊始便意味着需要履行一定程度的信义义务，例如，提供明确重点的交易信息、提供技术支持与保障等。换言之，信任的补救既可以缓解格式合同的矛盾，又可以通过对企业施加一定的义务与责任缓解双方权利不平等的现象，预防“权力式操纵”。在具体操作层面，行政机构与执法机构可以通过与数据保护官展开交流，指导企业规范化告知同意（例如上文提到的“整体净印象”），通过标准与程序筛选出暗黑模式并进行纠正。如果企业的告知同意最终不达标准，违反了信义义务，严重损害了法律的重要价值时，可以进一步诉诸司法救济或者行政罚款。

对权利保护来说，信义义务可以通过产品规制为平台企业的合规提供标准，缓和损害难判断的问题，有利于保护个体的自决权。事实上，欧盟在一定程度上践行了产品规制思路。首先，GDPR在原则部分规定了数据控制者的可问责性，要求有信息处理行为的企业能够遵守数据处理原则并提供相关证明。其次，GDPR在“控制者的责任”部分明确规定了“通过设计的数据保护”，要求控制者“应当”在决定处理方式时采取合适的技术措施。换言之，控制者有义务通过产品设计来进行数据保护，如果设计的部分存在不合法行为，那么执法者与监督者可以对其进行问责。最后，欧盟在执行层面依赖欧洲EDPB的《行动指南》对GDPR加以解释与实施。在识别与规制暗黑模式时，产品规制重在强调技术设计的正当性，重点关注具有欺骗、滥用与危险倾向的设计。相关机构可以通过数据保护官对企业进行监督管理，对具有严重损害的操纵行为进行处理。

识别与规制暗黑模式的关键在于同意机制。从功能层面讲，同意机制既可以启动合同保护，又可以为权利保护提供正当性基础。传统上，同意的功能只能通过合同与权利途径识别出与人相关的重要的暗黑模式，提倡事后救济，但在处理日常生活中大型操纵行为时明显动力不足。信义义务有助于企业在源头上把控产品与同意的质量，筛选出符合标准的算法设计，助力风险处理。相比于合同责任与侵权责任，同意的信义功能能够对平台企业附加一定的信义义务与责任，通过关系法增强彼此之间的信赖，改善治理环境，最终实现社会效益。

（三）标准与规则的内在联动

与传统实体营销行业相比，网络平台设计的暗黑模式场景多变，技术复杂，可谓是“野火烧不尽，春风吹又生”。面对如此复杂与多变的暗黑模式，如果直接采取规则规制的方式势必会增加立法与执法成本、降低效率。其实，有关原则、标准与规则的选择问题在很早之前就被反复讨论，如波斯纳大法官认为标准具有较低的初始成本，但是会使得后续执行与合规成本较大。哈佛大学的Louis Kaplow 教授认为，在经济和社会条件频繁变化的法律领域中，法律标准比规则更有效率。通常来讲，规则与标准讨论的背景大概率与立法机构、司法机构与行政机构的职能分工与权限划分或成本与效率等讨论相关。因此，规则与标准的选择一直都体现了复杂与相互博弈的特点。

信义义务与区分“规则”与“标准”的方法具有内在一致性。信义义务最主要的两条原则为：忠实义务与谨慎义务。忠实义务的核心在于信息处理者在处理信息时不能因自己或第三人利益而牺牲用户或者消费者的利益。换言之，个人信息处理者在面临利益冲突时要优先确保用户与消费者的利益。谨慎义务是指信息处理者在收集、处理、共享个人信息时应本着谨慎、保密的义务与技巧，不得损害个人信息主体的利益。谨慎义务强调企业应该提供合法、合理的技术设计，不得损害用户或者消费者的利益。一方面，信息义务可以通过标准连接原则与规则。暗黑模式呈现为大规模微型侵权的样态，制定规则的成本不确定、司法救济也不全面。欧盟与美国选择利用专业化的执法机构来淡化规则与标准之间的博弈，通过具体的实施与执行，把原则落实于实践，最后形成“指导性的规则”。信义义务中的忠实义务与谨慎义务在理论层面属于大原则，具体到实践领域表现为标准，最后通过特定机构进行解释与扩充。另一方面，国家在治理时也越来越需要细化场景进行管理。在规制具有操纵特征的暗黑模式时，专业机构通过细分收集、处理、共享的场景来确定不同的标准与规则。这需要专业化的机构对此进行研究，并在实践中不断总结分类，以服务于之后的具体实践。具体而言，信义义务中的忠实义务与谨慎义务在不同的场景中有不同的标准。以上文提到的平台付费服务为例，在用户同意的场景中，平台基于谨慎义务需要向用户提供透明、具体的信息，为用户提供合理预期，不得隐藏重要信息引诱消费者额外支出费用；在涉及与第三方共享信息的场景中，平台需要基于忠实义务获取用户真实的同意，不得设置具有迷惑性的暗黑模式诱导用户同意；在用户选择退出的场景中，平台需要基于谨慎义务为用户提供无阻碍退出的技术设计，不得为退出设置关卡等。

五、结 语

我国正处于发展个人信息与数据治理的关键时期，通过对比研究，西方实践有助于我们获取相关的经验与启示。目前，我国并无专项应对暗黑模式的法律，但具有一众相关的法律法规，这些规范均能够为暗黑模式提供指导。如在电子商务交易的场景中，法院通过消费者的知情权给予保护。可见，我国也把暗黑模式放到了已知的框架内进行转化解决。另外，我国也有学者提出，面对越来越灵活与不确定的情形，司法案例可以提供场景化的具体指导。

但是，暗黑模式方式多样，仅依赖于个例指导难以全面应对层出不穷的操纵问题。因此，在识别与规制暗黑模式时也应该注意对社会关系的维护。如今，信息处理不再是偶然性的发生，而成为与每个人息息相关的社会背景与社会环境。在信息化环境之中，如果过分强调个人与企业之间的信息不对称与对立状态，会使用户终日处于紧张而不安的状态。对此，保护个人的预期与社会信任关系有利于缓解这种焦虑情绪，实现社会整体和谐发展，也与我国现代化治理的核心价值观相符合。另外，我国《个人信息保护法》在很多方面都体现了信义保护的影子，如在原则部分增加了诚信的内容，在企业责任部分增加了企业问责制。同时，企业的数据保护官与第三方守门人等机制可以与官方建立联系，有利于实践的发展，这不仅可以缓和算法控制带来的问题，还能促使信息在相对平缓与安全的通道内流通。可以说，包含信任价值的治理模式能够增加用户的预期，提升用户对企业的信赖，最终促进社会信息共享体系走向良性循环。

---

往期推荐

---

《上海政法学院学报》创刊于1986年，原名《法治论丛》（2003年改名为《上海政法学院学报》），至今已走过37年的发展历程。《上海政法学院学报》是我国最早以“法治”命名的法学专业学术期刊之一。

我们立足一流期刊建设目标，坚持 “高质量”“特色化”“专题化”办刊思路，在法学期刊建设上努力探索，逐步成长，影响因子稳步提升。据中国知网年报，《上海政法学院学报》（法治论丛）“复合影响因子”从2021年的2.428上升到2022年的3.192，“综合影响因子”从2021年的1.048上升到2022年的1.500，CI指数排名也从2021年的第41位提升到2022年的33位。此外，据中南财经政法大学2022年信息检索报告统计，《上海政法学院学报》2021年刊文共有31篇次（2020年14篇次）被《新华文摘》《中国社会科学文摘》《高等学校文科学术文摘》和“人大复印资料”等二次文献全文转载或论点摘编，在全国法律类院校学报排名第7位（2020年排第14位）。

我们以“问题意识”为导向，以做好选题策划为根本，在持续推进“党内法规”“上合组织法治”特色栏目建设的基础上，继续追踪法治前沿，实现“个人信息保护”“数字经济法治”“国家安全法治”等专栏的可持续发展；紧紧围绕法治中国建设中的重大战略问题，精心策划，开辟 “学习贯彻十九届六中全会精神专题”“新《刑事诉讼法解释》”“数字化时代的刑事诉讼改革”“产权保护专论”等新栏目新专题。此外，还开设“初创学者佳作”专栏，为有潜质起步的青年学者搭建平台。

我们以开放姿态拥抱新技术。全面升级网站建设，建立投审稿系统，实现全流程数字化出版；提升微信公众号运营策略，同步推出作者音频解读；积极开展网络首发，同步上传作者音频视频，增强学术出版。

我们虽然取得了一些进步，但同全国许多优质兄弟期刊相比还存在着很大差距和不足。我们诚挚地欢迎广大海内外科研工作者关注和支持上政学报并惠赐大作，也欢迎各界朋友积极建言献策、批评指正，以期共同办好《上海政法学院学报》（法治论丛）。来稿请通过《上海政法学院学报》编辑部网站(http://www.shupl.edu.cn/xbbjb/)投审稿系统进行投稿。本刊对来稿严格遵守三审（二审外审）定稿制度，以确保稿件选用公开公平公正。

编 辑：汤仙月

审 核：康敬奎

以法为基，寻社会治理之策

○

以文为器，求兴国安邦之道

投稿邮箱：[e-mail]

微信公众号：law-review1986

网址：http://www.shupl.edu.cn/html/xbbjb

电话：[phone]  39227619

更多内容请点击下方“阅读原文”进入学报官网查看