保证算法公平就是保护隐私，跨境数据监管加强是全球趋势｜专访法学家詹姆斯·邓普西
詹姆斯·邓普西是加州大学伯克利分校法律和技术中心主任。他是隐私法和互联网政策领域内最具权威的专家。2014年，美国总统奥巴马任命他为隐私与公民自由监督委员会的成员，为美国政府的反恐数据监管提供独立咨询。在本次访谈中他介绍了美国的隐私立法与企业之间的博弈，以及为何算法公平是隐私保护重要的一环。
罗汉堂：
现在我们似乎生活在这样一个时代，公众对大数据、互联网公司等包罗万象的技术公司的信任似乎不是很高。您认为背后原因是什么？
邓普西：
我认为这背后有几个原因。首先是科技的运用实在是太简单了，已经简单到任何人，包括儿童，都可以使用智能手机，使用互联网，使用在线服务，使用App。因为它是如此容易，如此简单，所以我认为人们很难理解它，它就像是魔术。这种技术的运作方式并不是很透明。
现在悖论出现了，我们喜欢这种技术，我们已经在全球范围内采用了它。在政治生活、商业生活、教育、文化、个人关系中采用了它，技术已经渗透了一切。然而，我们没有完全理解它，我们并不真正理解数据是如何收集和流动的，以及它可能被用来做什么。
因此，一方面，人们喜欢这项技术，但另一方面，他们有理由怀疑这项技术，怀疑那些收集数据并以我们不完全了解的方式使用数据的大公司。这跟你在 Facebook 上看到广告，或者你在浏览网页时看到广告无关。人们理解，“OK，我获得了一项免费服务，所以它得有广告。”也明白，“没错，在特定的应用程序中，广告是按照我的喜好显示的。”
人们真正担心的是数据泄漏，我的数据还会去哪里？信贷决策会使用它们吗，犯罪分子会窃取它们吗？这就是存在不信任的地方，它不是来自服务本身，而是来自这些意料之外的数据流动，无论是流向机构，还是其他企业，或者不幸的是，流向犯罪分子。我认为，这种不信任、担忧在某种程度上是合理的。
罗汉堂：
现在大多数消费者都非常了解 cookies 和定向广告等数据使用方式，在 GDPR 出台之后，我们现在有各种选项可以控制我们的隐私设置，现在苹果公司也允许我们选择禁止应用程序在互联网上跟踪我们。但与此同时，学术界对一种叫做隐私悖论的现象进行了深入的研究，它是指，即使人们自称对个人隐私超级关注或非常关注，但他们却非常轻率地分享自己的数据给新的App（关于隐私悖论的大数据研究，请点击下方小程序阅读罗汉堂《数据与隐私》研究报告）。那么，您认为公众意识的提升是否真的对隐私保护有帮助？
邓普西：
到目前为止，我认为公众意识或公众关注还没有转化为行动。其中一个问题在于，我们对隐私的同意范式。也就是说，根据GDPR、新的加州隐私法，隐私的定义在很大程度上就是通知和同意。可人们都是怎么做的？我们都只是点一下“我同意”，唰地一下就进入了服务器，想做什么就做什么。但要想行使控制权，你必须再点一下才能限制 cookies收集数据，很少有人会这样做。
这就是基于同意的模式的问题所在。如果你点击“好”，那么你就同意了隐私政策中的所有内容，而实际上这些条款可能有好几页，没人真的在乎或阅读。
不过现在，手机操作系统的开发在这方面有了良好的发展，可以确保用户给予的同意是及时和知情的。例如，假设我正在使用地图服务，我当然必须向App提供商提供我的位置信息，才能得到路线规划，因为它必须知道我在哪。但我不希望在不需要路线规划的时候，我的位置信息仍在流向那家公司。
所以过去几年里，苹果公司强迫所有想收集位置信息的公司，必须给用户三个选择：1只在使用 App 期间分享位置，2只在 APP 打开并在后台运行时分享位置，或者3永不分享。
这些选择在我使用App之前就已经呈现在我面前。在这种情况下，不需要点击“我同意”。对我来说，这就是好的同意方式，好的通知方式。因为它出现在我激活App之前，而且是操作系统强制要求的。我认为未来企业都应该建立类似的商业模式，可以提供及时的通知和同意系统。这个通知是用户可以在一瞬间快速理解的，而不是长篇累牍的条款。你可以迅速了解数据到底是为何收集的，且选择简单明了。
罗汉堂：
我们看到，美国的监管机构非常重视隐私保护的问题，例如最高法院最近一直在研究数据二次使用问题，联邦贸易委员会（FTC）可能会更多地参与研究人工智能偏见问题。也会看到不同的机构之间的意见并不总是一致。您能谈谈现在美国的监管环境是怎样的？
邓普西：
在美国，现在的情况相当复杂。让我先讲比较容易的，那就是司法部门。在美国，我们将司法部门称为被动部门。这是当然是因为，法院只会被动地响应提交的案件。他们不太愿意给出指导性的意见，除非是一系列定义非常狭窄的问题。
在隐私方面，最高法院一直很强势，你可以说它是一个支持隐私权（Pro-Privacy）的法院。例如最高法院在大约两年前的一个案件中裁定，政府需要法官签发的搜查令，才能让手机制造商交出位置数据，而法官必须根据事实认定，有理由相信已经发生了犯罪，才会签署搜查令。这是法院对美国宪法的解释，也是对宪法中权利法案的应用。
然而另一方面，法院削弱了消费者起诉公司侵犯隐私的能力。就在几周前，最高法院作出裁决，如果你与一家公司有商务往来，结果发生了数据泄露事件，数据被盗，那么你不能起诉把数据弄丢的公司。你得自己负责，即使该公司的安全措施有漏洞，但你不能在联邦法院起诉他们，除非你能事先证明你受到了特殊伤害，你遭受了身份盗窃，或者其他财务上的损失。
也可以是名誉损失，但你必须证明有人以某种方式使用了这些数据，并且你受到了伤害。但是如果你说，现在心怀叵测之人掌握了这些数据，而且他们可能在将来用这些数据来伤害你，最高法院认为，这还不足以在联邦法院立案。除此之外，就像刚才说的，法院真的只会处理提交给他们的案件。
另一方面，监管机构例如联邦贸易委员会（FTC）有能力主动去发现案件和提起诉讼。但他们工作人员不多，因此提出的案件相对较少，但提出了一些非常重要的案件。例如对 Facebook 提起诉讼，并处以巨额罚款，以当时的标准来看是巨额罚款。但实际上，Facebook 的股价第二天就上涨了，因为罚款并不像市场担心的那样多。
在州一级，现在各州也设置了大量隐私方面的执法机构，但一直只是零零散散地使用。每个州都有一名州的总检察长。根据州法律，他有权对侵犯隐私的案件进行调查并提起诉讼，但他所依据的法律大多是在互联网诞生前制定的，虽然有时也会依据较新的法律。但州总检察长的资源也是有限的，然后还有国会，不过两大党常常僵持不下。所以我认为，在隐私立法方面，很难从国会得到任何成果。
讽刺的是，微软、Facebook 这些大公司都声称希望国会可以赶快通过联邦隐私法。部分原因是他们想直接越过（Override）各州的隐私法。但就在上周，科罗拉多州通过了一项隐私法，而今年早些时候，位于华盛顿特区南部的弗吉尼亚州也通过了一项隐私法，而加利福尼亚州早就有了隐私法，但这仅仅只是 50 个州中的三个。
罗汉堂：
所以你的意思是，就企业的合规流程而言，他们更愿意应对一套联邦法律，还是说实际上各州的法律更加严格？
邓普西：
两者都有。我认为，有的公司想削弱州法律中一些更严格的内容，但也可以理解，企业只想有一个国家标准。他们可不想被迫应对 50 种不同的法律。所以公司渴望一致性和确定性，而这些可以从联邦法律中得到。
在过去10年甚至更长时间里，企业一直在说，“我们需要联邦出台全面的隐私法，我们需要确定性。”而目前，我们的国会在意识形态上严重分裂，想通过国会完成任何事情都是非常非常困难的。
罗汉堂：
为何国会议员对隐私保护有如此多的分歧？
邓普西：
有一些国会议员非常支持消费者，也有一些站在商界这边，两者大约各占一半。而支持商界的国会议员想要三件事，也许是两件。他们想用一个“较弱”的联邦标准来取代或凌驾州法律，他们想阻止消费者通过法院的民事诉讼来执行法律。他们希望只由监管机构来执行，而正如我所说，监管机构的资源有限。因此，支持消费者的国会议员不希望联邦立法来越过州法律。他们称各州为“民主实验室”，希望各州能够继续对于隐私法进行实验。
其次，支持消费者的国会议员希望个人消费者有权提起诉讼，执行法律，而不是被动等待联邦贸易委员会提起诉讼。这就导致了关于我们所说的凌驾于州法律之上的优先权以及私人诉讼权、消费者诉讼权的辩论。这两个问题始终是导致所有僵局的根源，而我认为，国会的两派支持者在这个问题上势均力敌。联邦立法因而难产。
罗汉堂：
一如既往，问题归根结底是政治观点的分歧。
邓普西：
我和 Chris Hufnagel、Ira Rubinstein 以及 Kathy Strandberg 合作撰写了一篇论文，罗汉堂的读者可能会感兴趣。在名为《打破隐私僵局》的论文中，我们研究了目前状况的补救措施。
一旦有了法律，问题就变成了，该如何执行。我们在论文中指出，有许多不同方式可以执行一项法律。你还记得我说过的关于苹果公司的事吧，苹果公司是一个守门人。虽然是一家私营企业，但它在本质上负责监管App开发人员，除非符合苹果制定的标准，否则任开发人员都无法在苹果商店上架，都不能把其App放到苹果手机上。
而苹果公司已经为隐私设定了某些相当好的标准，就像我提到的关于位置信息的例子。所以我们可以利用企业守门人来执行隐私标准。监管机构则负责而对企业的行为进行监督或监测，而不仅仅是提起诉讼。这样做实际上是通过监管工具来审查和塑造企业实践，而较少依赖执法行动。所以，我们不一定需要通过私人消费者来执法（通过民事诉讼）。
我认为现在有两件事在推动美国的隐私实践：首先是加州消费者隐私法和新设立的加州隐私保护局，这是巨大的动力。其次当然是欧洲。欧洲隐私规范适用于任何在欧洲收集数据或为欧洲人服务的美国公司，或将其产品或服务延伸到欧洲的美国公司。任何美国公司都得遵守欧洲法律。而且，欧洲法律确实是我们公司隐私实践的一个重要驱动力。
罗汉堂：
那么，你对基于同意的监管制度总体上怎么看？你认为 GDPR 和 CCPA会是未来的监管模式吗，还是我们有新的机会来重新思考监管？
邓普西：
通知和同意必须成为任何隐私保护制度的一部分，所以它依然重要也很有价值，但它并非隐私保护的全部。我们需要回到过去所谓的 “公平信息处理条例（FIP，关于FIP的详细介绍可以点击罗汉堂《数据与隐私》小程序进行了解）”。这是最初的隐私保护概念，它包括的不仅仅是通知和同意。还有数据最小化等原则，即伴随交易目的，不应收集任何超过所需的信息。
一个著名案例是智能手机上的手电筒App，在五年前或者七年前，手电筒应用程序一度会收集用户的通讯录数据。而显然没有任何理由这样做。美国FTC对它们进行了打击，事情曝光后，该公司只好认错。这违反了数据最小化的原则。现在新的加州消费者隐私法开始体现这一点，GDPR 也在某种程度上体现了这一点。我认为中国隐私法实际上已经包含了这一点。
我们忽略了隐私的其他要素，就是二次使用的问题。我为了某个目的把我的数据给你，你就不应该把它用于其他目的。比这更广泛的是人工智能的公平问题。人工智能和机器学习将变得更加重要，在我们生活以及我们与公司和政府互动的方方面面中占据更加核心的位置。
如何运用信息公平地作出与人有关的决定？在我看来，当我们谈论隐私和数据使用时，这才是我们需要关注的重点。同样重点不在于那些广告，而在于信贷、就业、政府福利、教育和住房。例如，在美国，一个业主，无论这是一栋两层的小户型家庭住宅，还是一栋大规模的公寓楼，他们可以对对潜在的租户进行背景调查，因为他们想确保租户不会破坏公寓和按时支付租金，他们可以利用信用报告机构进行背景调查。
那么，这些数据应该是公平、准确、相关的。贷款审批也是如此，求职也是如此，这些都是一个人生活中最重要的决定。信贷、住房、就业教育，当我们在这些背景下对人们做出决定时，我们如何运用数据信息？
我认为这才是需要对隐私问题展开全面辩论的地方，特别是如今很多这类决定都是由人工智能作出的。这是政策需要关注的地方。这些决定是否公平，是否可靠，个人是否有能力了解他们的贷款申请为何遭拒，或他们的求职申请为何被回绝？它是基于合法的理由，还是基于不合法的理由？
罗汉堂：
假设数据集是基于现实生活的，那么现实生活中存在着社会经济的各种偏见和潜在的种族主义，然后这些现象通过机器和算法被放大。是否有办法获得更好的数据集？
邓普西：
嗯，有几种方法。一个是人们正在尝试使用合成数据，也就是你实际上自创一个数据集。另一个是查看真实世界的数据，并设法识别和纠正偏见。例如，在刑事司法系统中的风险评估中，弄清楚为什么与同样暴力和同样危险的白人相比，黑人在犯罪方面得到的罚款或惩处格外严厉？这方面还有很多工作要做。但我比较乐观地认为，这可以让世界更美好。
人工智能有可能替代人类，带来失业，但我更担心的是公平的问题。这对所有的社会都是一个巨大的挑战，无论是在公平性方面，还是在网络安全方面。所以在某种程度上，人工智能、隐私、算法决策的公平性，是隐私辩论的一个子集。人工智能系统的脆弱性是网络安全辩论的一个子集，但事实证明，机器学习系统尤其脆弱。人们实际上可以愚弄算法，可以很容易地打破它们，有很多围绕如何建立更有弹性的人工智能的研究正在进行。我认为我们需要设计出更公平、更安全、韧性更强的人工智能。
第三个问题其实不是我的专业领域，但我想说，我们需要深入思考人工智能对工作的影响，确保人工智能不会剥夺人们工作的需求，以及以富有意义的方式工作的能力。我认为在世界各地，人们都渴望从工作中获得那种情感上的，几乎是道德上的满足。如果以某种方式使用、部署人工智能，以致剥夺了人们从工作中获得的满足感的方式，这对人类来说是非常糟糕的。
所以我非常担心人工智能对失业的影响和人工智能的破坏性。有一些人把它抛在一边，说：哦，无所谓，反正新技术创造出的工作岗位总是比它消灭的工作岗位要多，每当有新员工因为自动化而失业，他们中的更多人最终会与新技术一起工作，并继续创造新技术。但我担心，就其对就业的潜在影响和我们从工作中获得的那种深刻的个人满足感而言，人工智能不同于之前的任何一项技术。
罗汉堂：随着全球化进程受阻，数据流动是否也会遭遇越来越严密的监管？
邓普西：
政府对数据跨境的监管确实是一种全球性的现象。我们在俄罗斯看到了，在欧洲看到了，在美国也看到了。每当一个产品或服务具有全球性质，即每当一个产品或服务在某个国家创建出来或总部设在某个国家，并提供给其他国家的公民，就会产生三种不同的担忧。让我仅以美国为例。
第一，政府希望确保它能够获得有关其本国公民的数据，用于执法和国家安全目的。因此，如果美国人使用的是部分由国外控制的电信服务，政府仍然希望确保它能够访问有关美国本国公民的数据。例如，俄罗斯有一项数据本地化法，其中规定，任何在俄罗斯提供服务的机构，无论是 Facebook 还是谷歌，都必须把俄罗斯公民的数据储存在俄罗斯，以确保当俄罗斯政府出于执法和国家安全目的需要这些数据时，可以得到它们。
第二个担忧是，一国不希望其他政府获得关于自己公民的数据。例如，这一直是欧洲对美国服务的一个主要关切。欧盟担心使用 Facebook 的欧洲人的数据会被转移到美国，在那里，美国政府会更容易获得这些数据，用于执法或国家安全目的，从而侵犯了使用美国服务的欧洲人的隐私权。我认为这就是中国在滴滴事件中的担忧。
第三个担忧仅仅是关于隐私和网络安全，一般是关于公民数据，当他们在第三国使用服务时，保护数据不受恶意侵害。现在，如果以滴滴为例，如果它真的在美国提供服务，就会受到美国隐私和网络安全法律的约束。美国公司处理在中国收集到的数据时，显然也必须遵守中国的隐私和网络安全法。
罗汉堂：
您是否认为大型科技公司走向全球的黄金时代已经过去？
邓普西：
我认为，从总体上讲，全球化会继续存在。它已经融入全球商业的方方面面。美中脱钩的问题甚嚣尘上。但我认为，在这方面，美中关系在某些方面是独特的，真的无法预测这将会走向何方。拜登总统基本上废除了特朗普总统发布的禁止美国平台、美国手机使用微信和 TikTok 的行政令。
特朗普总统发布命令，禁止在美国使用这些产品。法院首先阻止了这些命令。法院说，“不，总统没有权力这样做。这里的利害关系在于美国人的自由表达权，例如，使用微信联系中国的亲戚。”法院认为特朗普总统没有权力封禁这些应用程序，然后拜登总统废除了特朗普的这些命令，并对外国制造的App和其他在美国提供的服务进行了全面审查。
所以目前还不清楚未来走向。除此之外，我认为全球化不会减弱。欧洲已经找到了使用基于美国的服务也能保护其公民隐私的方法。欧洲不愿意关闭和美国之间的数据流。所以我个人的观点是，我们必须接受并找出如何使全球化继续推动发展的方法。
推荐
罗汉堂年度旗舰报告《理解大数据：数字时代的数据和隐私》小程序上线啦！
四位诺奖获得者在内的权威合著者
规模最大的关于隐私决策的大数据实验
我们用大数据研究大数据，观察分析消费者实时隐私决策，是迄今规模最大的隐私决策实验。
一个理解数据与隐私的全面框架
隐私并非消费者的唯一考量因素，要发展数字经济，我们要平衡数据隐私保护与数据分享的价值，我们提出的数据权衡框架可以解决这个问题。
数据生产要素的真正价值
十九届四中全会，正式明确了数据作为生产要素的地位，从数据经济学的角度看，数据在经济生产中到底如何产生价值？
扫码小程序
阅读报告原文
关注我们，跟踪数字时代社会科学新知