域外观察|国外聚焦“黑暗模式”探索监管路径
全文共4356字，细读时间约15分钟
赵淑钰|中国信通院互联网法律研究中心高级研究员
“黑暗模式”（dark pattern）一词最早是在2010年由用户体验设计师Harry Brignul提出，用以指代网站和应用程序中的一些诱导消费者购买或者订购本意并不想购买的产品或服务的设计。随着实践的发展，“黑暗模式”的定义不断丰富，但在国际层面尚未达成一致意见。
2020年11 月通过的《加州隐私权法》（CPRA）首次在立法中对“黑暗模式”进行概念界定。CPRA规定，“黑暗模式”是指通过故意设计或者操作损害消费者自主权、决策权的用户界面。欧盟《数字服务法》（DSA）在其说明部分对“黑暗模式”的定义进行了明确，指出网络平台界面上的黑暗模式是指故意或者实际损害数字服务受众以自主、知情的方式进行选择的权利的做法。
美国FTC在《将黑暗模式带入光明》报告中指出，“黑暗模式”是欺诈、诱导或操纵用户做出违背其意愿以及造成其损害的设计。欧盟数据保护委员会（EDPB）在《关于社交媒体平台界面的黑暗模式指南：如何识别和避免》中指出，“黑暗模式”是能够导致用户作出非出于本意的决定，甚至会有损于用户数据保护决策的设计模式。OECD在《黑暗商业模式报告》中指出，“黑暗模式”是通过数字选择框架因素（特别是在线用户界面）损害消费者自主选择权的商业实践的统称。“黑暗模式”往往通过欺骗、胁迫或操纵消费者的方式进行，并会对消费者权益造成直接或间接的损害。而且在多数情况下，这种损害难以衡量。
二、黑暗模式在实践中有哪些表现形式？
欧盟数据保护委员会（EDPB）在《关于社交媒体平台界面的黑暗模式指南：如何识别和避免》中提出了六种“黑暗模式”。（1）过度信息（Overloading）。是指向消费者提供大量的请求、信息、选项或可能性，促使消费者分享更多数据或允许违背其意愿处理其个人数据。（2）忽略（Skipping）。是指通过在线页面设计使消费者忽略或部分忽略数据保护问题。（3）刺激（Stirring）。是指通过设计影响消费者情绪或使用视觉暗示影响消费者决策。（4）阻碍（Hindering）。是指通过相关行动或设计阻碍消费者对其数据的管理。（5）多变（Fickle）。是指页面设计不一致、不清晰，使消费者难以了解数据保护工具。（6）不知情（Left in the Drak）。是指通过页面设计向消费者隐藏相关信息、数据保护工具以及消费者个人数据处理情况等。
美国联邦贸易委员会（FTC）在《将“黑暗模式”带入光明》的工作报告中列出了四类典型的“黑暗模式”。（1）导致错误理解的设计。通过“黑暗模式”设计促成用户购买其本意不想购买的产品服务，如将广告伪装成评论，将付费的产品排序伪装成中立的价格排序等。（2）导致隐藏或延误实质信息展示的设计。某些“黑暗模式”通过隐藏或模糊实质信息诱导用户消费，比如在服务条款中隐藏产品或服务的限制条件等。（3）导致未经授权付费的设计。某些“黑暗模式”可能诱导用户单次或多次购买他们本不想购买的产品或服务。（4）混淆或颠覆隐私选择的设计。某些“黑暗模式”会让用户无法理解所作出的隐私选择，从而使用户偏离了本来的隐私倾向。如不允许消费者拒绝数据收集和使用，重复骚扰用户选择他们想避免的选项等。
OECD在《黑暗商业模式报告》中重点列举了七类“黑暗模式”。（1）强制行为（Forced action）。为特定的目的强制消费者进行某些行为，如使消费者认为必须注册，或强制消费者披露不必要的个人信息后才能使用免费、完整的服务。（2）页面干扰（Interface interference）。页面干扰类的“黑暗模式”是通过用户页面等操作使消费者优先进行商业选择而非根据其喜好进行选择。典型的做法如，视觉上模糊重要信息（隐藏信息）；默认情况下作出有利于商业的选项；创建一个虚假的层次结构以给予商业视觉上的优先；以误导性或虚假的原价作为参考（误导性参考定价）；使用故意或明显的歧义（如双重否定）；虚假广告；通过情感语言或电子框架操纵消费者进行特定选择等。（3）不断重复（Nagging）。不断重复类的“黑暗模式”是反复要求消费者做一些有利于商业的事情，会造成消费者时间和精力的浪费，例如重复出现打开通知或位置跟踪请求。（4）障碍（Obstruction）。障碍类的“黑暗模式”是使任务流程或交互更困难从而利用消费者的惯性行为或消磨消费者的时间和精力。典型的例子是，注册一项服务或选择使用个人信息的设置很容易，但取消服务或选择隐私友好的设置很难实现。还有针对不同选项创建难易不同的点击路径等。（5）隐藏（Sneaking）。隐藏类的“黑暗模式”是隐藏、伪装或延迟与消费者决策相关的信息（尤其是关于成本的信息），并利用消费者的有限注意力、潜在偏见、锚定效应或沉没成本谬误。例如，当消费者即将完成购买时，在总价中增加新的、潜在的非可选费用（也称为水滴定价）；未经同意将物品偷偷放入消费者的购物车；在未经消费者明确同意的情况下自动续订（即隐藏订阅/订阅陷阱，也称为强制连续性）（6）社会证明（Social proof）。社会证明类的“黑暗模式”是利用社会证明偏见，通过其他消费者的行为操纵消费者做出决策。例如，关于其他消费者活动的通知或关于其他消费者购买产品的推荐，并且此类活动通知有可能是不真实的。（7）紧迫（Urgency）。紧迫类的“黑暗模式”是对交易施加真实或虚假的时间或数量限制，利用稀缺性迫使消费者进行购买。
三、黑暗模式有哪些危害？
由于“黑暗模式”具有隐蔽性、欺骗性，并且难以评估和证明其造成的损害，因而对于消费者权益以及市场竞争秩序带来极大危害。
（一）损害消费者自主性
“黑暗模式”会通过诱导消费者做出不想做的选择，屏蔽消费者的真实选择，对消费者可能做出的选择进行模糊处理等方式损害消费者作出自主选择的权利。
（二）个人消费者损害
对个人消费者的损害是规范“黑暗模式”的主要原因。OECD在《黑暗商业模式》报告中总结“黑暗模式”对个人消费者的损害可大致分为三类，即经济损失、隐私损害、心理损害和时间损失。
1、经济损失。将商品偷偷放入购物车、隐藏成本、水滴定价或饥饿营销等“黑暗模式”，往往会让消费者购买他们可能不需要的东西，造成消费者的经济损失。对于隐藏或难以取消订阅情形，不应有的支出可能会持续发生。目前，一些国家的执法活动或研究已经证明了“黑暗模式”对消费者造成的经济损失。如2020年，美国联邦贸易委员会（FTC）针对未经消费者同意自动续订在线业务采取监管行动，导致受该行为影响的消费者在2021年获得970万美元的退款。
2、隐私损害。“黑暗模式”对个人隐私损害的典型示例是将有损隐私保护的选项设为默认选项，使与隐私保护相关的选择难以实现或难以退出，以及通过重复提示等方式强迫消费者做出有损隐私的选择。一项针对澳大利亚消费者的调查发现，“黑暗模式”导致四分之一的人超出预期地分享的个人信息。
3、心理损害和时间损失。“黑暗模式”会造成消费者产生沮丧、羞耻等不良情绪，以及因不必要地耗费时间精力而产生负担心理。而且，某些能够持续吸引消费者注意力的“黑暗模式”还会使消费者上瘾。
（三）结构性消费者损害
“黑暗模式”可能会对消费者集体产生累积影响，从而造成结构性损害，这种结构性损害在个人层面难以察觉，特别是对于市场竞争以及消费者的信任和参与感的影响。
1、弱化或扭曲竞争。一些“黑暗模式”会阻碍或抑制竞争，比如通过降低价格透明度、水滴定价等阻碍消费者进行价格比较。还有一些“黑暗模式”会将消费者锁定在现有服务中难以切换，如强制注册、隐藏订阅等。一些企业可以通过“黑暗模式”获得更多销售额、个人数据或上网注意力，相对于不使用“黑暗模式”的企业却获得更大的竞争优势。
2、降低消费者的信任和市场参与度。“黑暗模式”的使用会诱骗消费者泄露更多的个人信息或支付超出预期的费用，会降低消费者对企业的信任。随着时间的推移，“黑暗模式”引发的信任缺失可能会导致消费者对市场失去信心并脱离市场。
四、现行立法如何规制“黑暗模式”？
OECD在《黑暗商业模式》报告列举了相关国家现行立法中可适用于“黑暗模式”规制的相关条款。
欧盟《数字服务法》第25条规定，在线平台提供者不得通过在线页面设计欺骗或者操纵数字服务受众，损害其作出自由的、知情的决定的能力。《数字市场法》（DMA）对于大型互联网平台（“守门人”）规定了类似的义务，DMA规定禁止“守门人”向终端用户通过非中立的方式提供选择，或通过页面的结构、设计、功能或操作等限制终端用户或企业用户的自主权、选择权。欧盟《不公平商业行为指令》（UCPD，2005/29/EC） 中对于不公平的竞争实践可以基于原则性的规定禁止使用“黑暗模式”。例如严重扭曲普通消费者的经济行为，并且违反专业尽职的要求（UCPD第5条）；具有误导性的行为（UCPD第6条和第7条）；侵略性做法（UCPD第8条和第9条）。除UCPD外，欧盟委员会和其他利益相关者还表示，许多“黑暗模式”可能会违反其他几项欧盟法律。与隐私相关的“黑暗模式”可能会违反GDPR；隐藏成本、水滴定价和隐藏订阅等可能违反《消费者权利指令（2011/83/EU）》；服务难取消可能违反《不公平合同条款指令（93/13/EEC）》；虚假广告可能违反《视听媒体服务指令（2010/13/EU）》等。
美国《联邦贸易委员会法》第5节对欺诈和不公平行为进行原则性禁止。根据《联邦贸易委员会法》，欺诈行为是指（i）实质性的影响（ii）可能误导消费者合理行为的陈述、遗漏或做法。不公平贸易行为是：（i）对消费者造成或可能造成实质性伤害，（ii）消费者自身无法合理避免，（iii）无法抵消对消费者或竞争的损害。美国法律还明确禁止“黑暗模式”中的一些行为，例如诱导和转化；未经消费者明确同意，在初始交易后继续向消费者收取商品或服务费用的暗箱操作，以及使消费者难以选择退出的营销电子邮件。美国《加州隐私权法》（CPRA）中规定，通过使用“黑暗模式”获得的协议不构成同意。并禁止使用阻止用户退出的“黑暗模式”设计。
《澳大利亚消费者法》（ACL）规定了针对误导或欺诈行为、不合理行为和不公平合同条款的保护措施，这些条款可能会被用来对抗“黑暗模式”。ACL还包含禁止条款可以应对“黑暗模式”中的一些做法，例如要求为未经请求的商品或服务付款，不显著显示商品或服务的总价或诱饵广告。