还在玩AI换脸？你可能不知道这技术带来多大的危害 | 前沿

你可能并不知道什么是GAN（生成式对抗网络），但你可能在社交网络上转发过明星变老的图片，或者曾看到换脸技术在淘宝售卖的报道，只需几元钱，就能将别人变成色情片主角。实际上，一波人工智能换脸应用的热潮已经出现，我们稍不注意就可能掉入陷阱之中。

本期RUC新闻坊为你梳理这些以假乱真的换脸技术的产生和发展，并搜集国外媒体观点总结这些颠倒身份、穿越时间的图像和视频可能给我们的生活带来什么影响。

FaceApp

上周有一款名为FaceApp的 AI换脸APP火遍整个社交媒体，世界各地的明星等公众人物争相在社交平台分享自己的“老年”照片。这款APP由俄罗斯公司Wireless Lab开发，用户仅需要上传一张照片，即可实现一键变成老人，一键返老还童，一键由男变女，一键破涕为笑，一键失去头发。

(FaceApp官网的App功能介绍，包括改变表情、变年轻、变老等)

据福布斯报道，这款APP诞生于2017年，因最近算法大幅提高而爆火。目前在Google Play的下载量已经超过了1亿，近10天内下载安装次数达450万。此外，它在苹果App Store里的安装下载量也居高不下，App Annie数据显示，它目前在121个国家的iOS商店排名第一。

（Twitter网友用FaceApp为特朗普“换脸”）

这款APP的基本原理是生成式对抗网络（GAN），通过算法提取人物脸部的特征，并根据数据库中的其它图像对照片中非重要特征点进行调整。

FaceApp的火爆掀起了人们对于人工智能技术及隐私保护等问题的热议。由于该应用由俄罗斯人开发，美国政坛高度紧张，民主党的全国委员会发出预警，警告2020年民主党总统竞选团队不要使用该换脸应用，还有政客建议FBI介入调查。

Deepfake

Deepfake是一项人工智能换脸技术，适用于修改图片和影像，可以实现人脸的移花接木。今年年初在网络上广泛传播的朱茵变杨幂的换脸视频就是通过这种技术生成的。当中国网民还沉迷于利用Deepfake技术制作鬼畜视频的时候， Deepfake已经作为一种负面议题在国外掀起了滔天巨浪。

（杨幂的脸被嫁接在朱茵的视频中）

2017年，一名叫“Deepfake”的用户在美国Reddit论坛上传了多段“嫁接”好莱坞女明星脸的色情视频，引发网民热烈讨论。之后，开源的代码便如同火种一般，让曾经只有专业电影制作机构才能完成的视频换脸变得轻而易举。用户只需要收集目标对象的大量照片就可以使用这些开源的算法制作出假视频。

很快，Deepfake的波及范围就从影视娱乐圈蔓延到美国政坛。去年一段美国前总统奥巴马吐槽特朗普是笨蛋的假视频在Twitter走红。今年5月，美国众议院议长南希·佩洛西的假视频也在社交媒体上广泛流传。视频中，佩洛西如同喝醉了一般，神志不清，说话磕磕巴巴，举止奇怪。这段视频甚至引来了美国总统特朗普的嘲讽。

（特朗普转发了佩洛西的假视频）

因为Facebook拒绝删除佩洛西的假视频，马克•扎克伯格也被人恶搞，“他”在其中大谈如何“控制数十亿人泄漏的数据”，而原始素材来自扎克伯格两年前一则毫不相关的视频。

Deepfake的迅速发展严重影响了人们的信息环境，一场“猫和老鼠”的技术追击战就此展开，比如早期研究人员通过人物是否眨眼睛来判断视频是否由Deepfake生成，但现在的Deepfake中人物都能眨眼。

有意思的是，这个生成与识别的过程和Deepfake的原理——上文提到的生成式对抗网络（GAN）也很相似。GAN由一个生成网络与一个判别网络组成。生成网络则要尽可能地欺骗判别网络，判别网络的目的是将生成网络的输出从真实样本中尽可能分辨出来，两个网络相互对抗、不断调整参数，直到判别网络无法判断生成网络的输出结果是否真实。

外媒关注焦点

AI换脸应用在国内引起的讨论还较少，但技术的传播是没有国界的。为了更深入探讨换脸技术可能给生活带来的影响，我们参考了Deepfake出现更早、案例更多的国外，看看国外媒体是怎么看待换脸产生的问题的。

01

换脸技术威胁政治和商业

不少媒体关注换脸技术可能会损害美国政治环境，给民主造成威胁。据CBS报道，美国在1月发布的一份全球威胁评估报告中警告称，Deepfake可能会成为扰乱2020选举的策略之一。“山寨”奥巴马骂特朗普是“彻头彻尾的混蛋”足以影响本已混乱的政治讨论，更不用说一段“山寨”美国总统对某国宣战的视频会引起怎样的巨变。

（奥巴马的Deepfake视频截图）

美国众议院民主党成员Yvette Clarke认为，Deepfake的影响并不仅限于选举，它甚至可以改变经济和法律体系的结构：法院需要重新审视很多图像或视频证据的效力；而扎克伯格的Deepfake视频如果被恶意炒作，可能会给企业造成巨大经济损失。Fast Company网站也指出，“蒂姆•库克”与某人就iPhone销量下滑进行私人谈话的假视频，能在几秒钟内让股市蒸发数十亿美元。

《卫报》这样形容Deepfake造成的影响：在很多互联网视频中，人们正做着他们从未做过的事情，真实的人，真实的脸，接近真实的画面，但这是完全不真实的事件。

《卫报》还在报道中引用了AI伦理和法律方面的教授Sandra Wachter的观点，她认为很多对科技的恐惧都是夸大其词，但Deepfake不一样，“并不是说假视频或假信息从未有过，而是假信息的复杂程度、生产难度和速度、以及传播的范围都达到了新的水平。”

《麻省理工科技评论》也指出，早在AI出现之前，操纵媒体的现象就已经出现了，但算法让这些操纵更加普遍且更难被发现。

除了Deepfake换脸技术外，媒体也对FaceApp存在的隐私风险给予关注。据《纽约时报》报道，在7月17日的一封信中，纽约州民主党参议员Chuck Schumer要求联邦调查局和联邦贸易委员会对FaceApp进行调查，理由是安全、数据保存和透明度方面的“严重问题”。他在信中指出，“如果美国公民的敏感个人信息被提供给一个频频对美国发起网络攻击的敌对外国势力，那将是非常不安的。”

02

换脸技术对女性的伤害

《华盛顿邮报》注意到，涉及男性的Deepfake视频几乎都是搞笑风格，而涉及女性的主要是色情视频，这暴露出对女性的性物体化在人工智能技术下变得更加严重。

更关键的是，Deepfake刚出现时主要针对女明星，但随着技术的进步和普及，普通女性也成为了目标。只需收集一个人大量的面部信息和一段性爱视频，就能“移花接木”，达到满足自己或报复女性的目的。

（人脸被拼接在其他人的身体上，来源：华盛顿邮报）

去年4月，印度一名女性调查记者Rana Ayyub收到报道对象的威胁——一段用她的脸伪造的性爱视频。这段视频在社交网络上快速传播，这名记者看到后崩溃了。她表示，自己多年来一直遭受着各种骚扰，但Deepfake比身体威胁更可怕，对内心造成长期影响，“并且没有什么能阻止它再次发生”。

《赫芬顿邮报》采访了六名Deepfake的女性受害者，她们的照片未经同意就被置入色情视频，其中一位表示，“用Photoshop处理过照片是静态的，而且很容易被识别出是假的。但当视频中是你自己的脸做出反应并移动时，你会感到恐慌，因为你无法控制别人如何使用你的形象。”

VICE网站也发现，新推出的DeepNnude是专门针对女性研发的，即使是输入一个男人的照片，该软件也只生成女性裸体的图像，因为应用只对女性的裸照进行了算法训练。

03

如何减少技术的负面影响

The Verge网站在采访技术专家后指出，尽管部分识别Deepfake的研究通过追踪名人独特的面部动作，比如撅嘴唇、扬眉毛等，大幅提高了准确度，但人工智能的精进为两方都提供了便利。也就是说，每一项检测Deepfake的研究都为提高Deepfake模仿质量提供新的机会，生产和识别将成为一场无休止的对抗。另一方面，尽管最新的模型准确度高达97%，即使完美部署在各大平台上依然会存在3%的漏网假视频，考虑到互联网视频的庞大体量，这部分可能造成的危害仍然是个大问题。

（Deepfake检测算法跟踪目标面部的细微运动，来源：The Verge）

当技术靠不住时，如何减少假视频传播带来的负面影响成为重中之重。为此，《纽约时报》提出“我们不能再相信目之所见”的观点。评论认为，人们通常认为视频内容就等于能感知到的事实，但随着Deepfake技术的出现，制作假视频的能力将和说谎的能力一样普遍，我们应该将各种视频资料看作是“证词”而非“感知”，只有在信源可信时，才能相信这些音视频材料的真实性。因此记者要养成追查网络内容创作者身份的习惯，才能在各种Deepfakes全部到来之前确保我们已经完全准备好了。

人权组织Witness的项目经理Sam Gregory在《麻省理工科技评论》中建议，为Deepfake提供工具的公司和研究人员也必须投资到对策研究之中，同时社交媒体和搜索公司应该将这些对策整合到平台中。

Deepfake法案的顾问Mutale Nkonde还督促监管者出台相应措施，“除非政府找到方法保护消费者的权利，像Deepnude这样的的应用会越来越泛滥。”

随着大量类似应用的产生，政府出台了相关法律进行规制。据《纽约时报》报道，截止2019年初，美国41个州已经禁止了生产和传播报复性色情信息，限制应用程序的滥用。The Verge网站发现，美国维吉尼亚州已经正式扩大了对未经授权的色情作品的禁令，包括由Deepfake生成的假视频和假照片，最高可被判处12个月监禁和2500美元的罚款。得克萨斯州已经通过了相关法案禁止Deepfake在政治选举上的滥用。纽约州立法者禁止公众未经他人同意创建“数字复制品”。

参考文献

【中文】

[1]  机器之心.加速时光,让你永远70岁的「变老神器」FaceAPP突然爆红，却恐遭美国封杀. https://www.jiqizhixin.com/articles/2019-07-18-2?from=synced&keyword=faceapp

[2]  品玩.换脸神器！这个爆红欧美的FaceApp是怎么做到让你一键变老的？https://www.pingwest.com/a/191511

[3]  量子位.火爆美国却突遇警告：“变脸应用FaceApp是俄国人搞的，大家别用了”.  https://www.qbitai.com/2019/07/5287.html

[4]  失控的变脸术

https://mp.weixin.qq.com/s/f5qeJLIYQkzPd2h4tTRCRg

[5]  Deepfake AI换脸，一场“猫和老鼠”的追击战

    http://tech.ifeng.com/c/7nrppyaUyR7

[6]  DeepFake 换脸术混淆视听，搅乱美国政坛

https://baijiahao.baidu.com/s?id=1636482799437212333&wfr=spider&for=pc

[7]  DeepFake“换脸视频”:当你的头出现在A片演员身体上

https://tech.sina.com.cn/it/2019-01-07/doc-ihqhqcis3799077.shtml

【英文】

[1]https://www.washingtonpost.com/technology/2018/12/30/fake-porn-videos-are-being-weaponized-harass-humiliate-women-everybody-is-potential-target/?noredirect=on&utm_term=.b22ed78ba269

[2]https://www.cbsnews.com/news/doctored-nancy-pelosi-video-highlights-threat-of-deepfake-tech-2019-05-25/

[3]https://www.theguardian.com/technology/2019/jun/23/what-do-we-do-about-deepfake-video-ai-facebook

[4]https://qz.com/1660737/deepfakes-will-influence-the-2020-election/

[5]https://www.fastcompany.com/90379001/criminals-are-using-deepfakes-to-impersonate-ceos

[6]https://www.technologyreview.com/s/613898/an-ai-app-that-undressed-women-shows-how-deepfakes-harm-the-most-vulnerable/

[7]https://medium.com/syncedreview/deepfake-nudie-app-goes-viral-then-shuts-down-577e8c168dfb

[8]https://www.vice.com/en_us/article/kzm59x/deepnude-app-creates-fake-nudes-of-any-woman

[9]https://www.huffpost.com/entry/deepfake-porn-heres-what-its-like-to-see-yourself_n_5d0d0faee4b0a3941861fced

[10]https://www.theverge.com/2019/6/27/18715235/deepfake-detection-ai-algorithms-accuracy-will-they-ever-work

[11]https://www.nytimes.com/2019/06/10/opinion/deepfake-pelosi-video.html

[12]https://www.technologyreview.com/s/613898/an-ai-app-that-undressed-women-shows-how-deepfakes-harm-the-most-vulnerable/

[13]https://www.forbes.com/sites/johnkoetsier/2019/07/17/viral-app-faceapp-now-owns-access-to-more-than-150-million-peoples-faces-and-names/

[14]https://www.nytimes.com/2019/07/17/us/faceapp-old-privacy.html?_ga=2.111008391.323699252.1563836759-184384721.1563836759

[15]https://www.forbes.com/sites/davidphelan/2019/07/22/viral-app-faceapp-the-dangers-of-faceapp-are-just-the-beginning-heres-whats-coming-next/#3beeeb0343e6

[16]https://www.theverge.com/2019/7/1/20677800/virginia-revenge-porn-deepfakes-nonconsensual-photos-videos-ban-goes-into-effect

[17]https://www.nytimes.com/2019/02/28/nyregion/revenge-porn-law.html

本期编辑：肖鳕桐、赵峥宇、高 铢 、张洁凡、陈敏睿

往期回顾

特别策划

技术前沿

报道规范

趣闻杂谈

数据新闻习作