“深度伪造”的法规治理：立法探索

  “深度伪造”译自英语中新出现的一个组合词deepfake，是计算机的“深度学习”(deep learning)和“伪造”(fake)的组合，顾名思义，出现于人工智能和机器学习技术时代。它被称作一种合成媒体（synthetic media），是通过自动化的手段、特别是使用人工智能的算法技术，进行智能生产、操纵、修改数据和媒体的行为和结果。

         如前两篇所述， “深度伪造”带来了显性危机。

欧美正在研讨出台相关法律制度的方案。即便在号称言论自由最大化的美国，也不得不从法律规制的层面来寻求解决方案。

规制面向不同层面，一是平台层面，一是制作者层面。欧盟还没有利用监管的威胁来迫使平台进行自我监管。英国最近的在线危害白皮书（Online Harms White Paper，2019年四月由数字、文化、媒体和体育大臣和内政部大臣提交国会）^[1]以及数字，文化，媒体和体育部下属委员会（关于虚假信息的报道，尚未报道，但预计会建议采取监管措施）表明，英国确实计划进行监管。这个白皮书及其相关动议的出台，被称为“重要时刻”；英国将成为世界上第一个这样做的国家。[2]相关法规若要出台，非常复杂，它涉及假新闻与模仿权、艺术和政治评论权之间的平衡。

（这是一则技术简单的深伪--只是将议长佩洛西的视频放慢了速度，使其如喝醉了一般）

         深度伪造技术对国家安全的潜在影响已经引起了美国国家高层的高度重视。美国国会为此已经提出了相关的法案，探讨可能的应对措施。美国的当务之急，是管理2020年选举周期中的深伪新闻，一些人士忧心忡忡，恐怕深伪信息会带来选举灾难。篡改众议院议员佩洛西的政治录像事件几周后，美国众议院情报委员会（House Intelligence Committee）于2019年6月13日组织了听证会，重点分析深伪技术的国家和选举安全风险。该委员会召集了来自大学和智囊团的专家小组，以制定深层的治理深伪的策略，以指导政府和平台的新限制。[3]美国国会又于2020年1月8日举行数字操纵问题的听证会。媒体认为，听证会是一个明确的信号，表示议员们正在认真对待深伪带来的威胁。法律界人士考虑立法的可行性，同时寻找平台可以自行解决问题的方法。专家建议提出的一些可能的建议，包括从源头对视频进行认证，要求平台删除虚假视频、分流不同的虚假视频，并对开始流行的视频进行优先排序。

在美国，社交媒体平台对其内容不承担责任。国会正在考虑改变这种状况，相关的一些法案先后提出，国会已经传阅过几项旨在打击虚假媒体威胁的提案。参议员本·萨斯（Ben Sasse）于2018年提出的法案里包括认为人们“恶意”制造和散布深伪是非法的[4]。萨斯提案目标两类人：一是Deepfake创作者个体，如果其意图是进行非法活动（例如犯欺诈）；一是像Facebook这样的发行者、平台商，但前提是他们知道自己要发行Deepfake。这意味着平台可以建立一个报告系统，就像用来制止盗版电影的系统一样，并在收到通知时将其作为伪造品。萨斯提案拟议的惩罚包括：罚款和/或最长两年的监禁，或者-如果该假冒伪劣物品可能煽动暴力或破坏政府或选举，则最高可处10年。一些专家认为该提案是朝正确方向迈出的一步，但还是有一些不完善之处。有人担心平台会否因此而将可能不是深伪的内容简单删除以规避担责的风险？将恶意的深伪入联邦罪，会否妨碍受保护的言论？例如制作模仿视频就被禁了？[5]众议员伊维特·克拉克（Yvette Clarke）于2019年提出的法案[6]要求深伪的创建者必须在作品上添加一些标识符（例如水印）来披露其伪造。不过，这些提案并未得到多大关注。克拉克的法案DEEPFAKES Accountability Act中的“DEEPFAKES”，竟然是一个首字母缩写，全称是“the Defending Each and Every Person from False Appearances by Keeping Exploitation Subject to Accountability Act”，内容也广受批评，不足为训。

美国的一些州也在研究出台法案的可行性。纽约州议会于2017年5月31日提交的Bill A08155法案，似乎是打击“深度伪造”的法律第一步步骤。该法案不仅适用于保护未成年人，它也为生者和逝者争取“隐私权和公开权”。法案提出：“个人角色（An individual's persona ）是其个人财产，可以自由转让和衍生。”因此，出于商业目的或未经明确的书面许可而制作于电影、广告、音乐剧的“数字副本”，即是侵犯个人权利。故意制作这些虚假视频的任何人都应视为犯了欺诈罪，并有责任向受害者支付赔偿金。如果在视听色情作品中使用个人的数字复制品而未征得其本人同意，则使用该复制品将构成侵权。但是这些提案目前尚难以得到重视、形成法案。

美国管理通讯与电子传播领域最重要的法是《通信法》（Communications Decency Act），其第230条赋予平台“豁免权”，不要求社交媒体公司对其平台上的内容负责。目前对第230条款的解释使平台没有动力解决破坏性的深度伪造内容。美国有法学界的学者在上述众议院情报委员会的听证会上建议修改联邦豁免权，将豁免权限制在合理的做法之上，不是无条件地豁免。[7]国会正在讨论使这种豁免取决于“合理的适度做法”（“reasonable moderation practices”）[8]。

作为科技巨头的平台成为众矢之的。在佩洛西“深伪”视频广受关注期间，YouTube迅速撤回了该视频，称其违反了其“欺骗性做法”政策，但是Facebook仍让其在线，声明说他们没有政策规定人们在Facebook上发布的信息必须是真实的。之后很快出现了针对其首席执行官马克·扎克伯格的深伪视频，视频中他在吹嘘他已经“完全控制”了全世界的数据。数月后Facebook出台了新的政策来抵制“深伪”视频。YouTube表示他们正在探索、投资解决合成媒体，他们将其与以前的打击垃圾邮件和查找侵犯版权的视频挑战进行了比较，目前通过自动软件和人工审查来解决深度伪造的问题。Twitter说每周应对超过800万个试图通过“操纵策略”传播内容的帐户，但表示，对每条推文进行事实检查是不可行的，声称不应该开先例去干预决定什么内容是真实、什么是不真实的。

 在如今的后真相时代，“浅伪”产品已经带来许多困扰，“深伪”又带来更复杂的问题。作为人工智能技术进步的产物之一，“深度伪造”的技术主要为“生成对抗网络”，它在教育、文创、客服、娱乐等诸多领域具有积极应用价值，但是其滥用威胁到国家安全、个人和企业的合法权益，[9]也严重影响了信息安全、挑战了新闻真实性原则。视觉信息在人们认识世界、参与世界方面扮演越来越重要的作用，如果人们不再相信自己在视频中看到的内容，那更会毁了追求真相的价值观的，这个是更严重的深层问题。“深度伪造”的治理，既需要法律、政府、媒体平台的努力，同时运用互联网治理的“多利益方共同治理模式”，发动社会组织、用户等多方面参与，才有可能取得更好的效果。

（本文为节选，文章刊载于《新闻与写作》2020.4）

相关链接：

---

[1]Online Harms White Paper（April 2019）https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/793360/Online_Harms_White_Paper.pdf

[2]Tom Chivers, What do we do about deepfake video? 23 Jun 2019

https://www.theguardian.com/technology/2019/jun/23/what-do-we-do-about-deepfake-video-ai-facebook

[3]US Congress holds hearing on "deepfakes" and artificial intelligence。https://www.youtube.com/watch?v=lArPEDS0GTA

[4]S.3805 - Malicious Deep Fake Prohibition Act of 2018. https://www.congress.gov/bill/115th-congress/senate-bill/3805/text

[5]Kaveh Waddell, Lawmakers plunge into "deepfake" war. Jan 31, 2019. https://www.axios.com/deepfake-laws-fb5de200-1bfe-4aaf-9c93-19c0ba16d744.html

[6]H.R.3230 - Defending Each and Every Person from False Appearances by Keeping Exploitation Subject to Accountability Act of 2019. https://www.congress.gov/bill/116th-congress/house-bill/3230

[7]US Congress holds hearing on "deepfakes" and artificial intelligence。https://www.youtube.com/watch?v=lArPEDS0GTA

[8]Makena Kelly, Congress grapples with how to regulate deepfakes, Jun 13, 2019

https://www.theverge.com/2019/6/13/18677847/deep-fakes-regulation-facebook-adam-schiff-congress-artificial-intelligence

[9]曹建峰：《深度伪造技术的法律挑战及应对》，https://zhuanlan.zhihu.com/p/89331078