Deepfake | 新媒体前沿48

团哥

3分钟前：

技术的发展问题一直以来也是学界争论的焦点，技术发展的价值在于可以满足大众特定的需求，任何事物都有其两面性，AI也不例外。在AI技术快速发展的今天，AI的能力在很多方面都超过了普通人的水平。但AI技术的不合理使用所带来的负面影响，也越来越使人担忧了。一块跟小编来看看如何认识换脸技术及面对技术的发展我们该如何应对吧～

  AI换脸  

近年来，关于“Deepfake”、“AI换脸”的话题便时不时登上热搜，著名女星斯嘉丽·约翰逊，盖儿·加朵等纷纷遭重，沉寂了一段时间，后来国内朱茵换杨幂，加上徐锦江的海王雷神视频一出，国内社会新闻进行了报道，Deepfake等AI 换脸事件在国内引起了广泛的关注与讨论。 

一夜之间，ZAO从全网爆火到全民声讨更是为本就沸腾的“AI换脸”的油锅下添了一大把柴火。

 有如此神奇能力的“Deepfake”到底是何方神圣？

Deepfake

Deepfake

是什么？

网上热传的换脸神器，是一种利用更深度学习技术识别和交换图片、视频中人物脸部图像的工具，被称为深度伪造，也就是Deepfake，它不仅制作过程简单而且逼真度惊人。

Deepfake，是英文“deep learning”（深度学习）和“fake”（伪造）的混成词，专指用基于人工智能的人体图像合成技术。此技术可将已有的图像和影片叠加至目标图像或影片上。

它用于使用称为“ 生成对抗性网络 ”（GAN）的机器学习技术将现有图像和视频组合并叠加到源图像或视频上。现有视频和源视频的组合产生假视频，该视频显示在现实中从未发生过的事件中执行动作的一个或多个人。

“AI换脸”

的前世今生

视频换脸技术在Deepfake出现之前，最早最广泛的应用还是在电影领域，为了更好的观影体验与视觉效果，那时使用它需要相对较高的技术和资金。

现在Deepfake降低了这一门槛，它真正广泛出现在大众视野里是因为Pornhub上流行的Deepfake系列视频。

最初一些少数技术精英们，为了传播Deepfake技术在Reddit上创办了论坛。不过在讨论技术学习的路上，Deepfake的黑暗面逐渐显露，大家发现这种换脸技术还有一个细分方向：满足私欲。

由Deepfake推动的色情生意病态发展，订制色情片泛滥，从明星到路人，后来还延伸到了色情复仇。Deepfake的色情生意并不是“隔海相望”，这种色情交易早已蔓延到国内，成为隐形的地下生意。由于这些功能，带色情成分的Deepfake作品于2017年间在互联网上流出，特别是在Reddit上。

可悲的是，无数关乎女性的Deepfake系列应用和视频并未能掀起轩然大波，让大众产生危机感，而当换脸视频波及到更广泛的人物，成为篡改视频的技术手段，进而萌生技术犯罪趋势的时候，大家才开始慌张。Deepfake也可以制造假新闻及恶意恶作剧，伪造政治家的公开演讲，并将尼古拉斯·凯奇的形象植入他从未出演过的影片中。

Deepfake技术的出现加速并扩大了现有的操纵媒体的趋势。算法能让更多人轻松做出以假乱真的视频。因此，利用媒体操控舆论，如攻击记者，暗示腐败，混淆证据等行为将越来越普遍，而且会越来越难以察觉。女性不会是深度伪造技术攻击的唯一弱势群体。

图中希拉里版特朗普的视频仅使用了一种名为FAKEAPP的软件，放入图片视频即可一键生成，不费吹灰之力。

目前这些Deepfake作品现已被Reddit、Twitter和Pornhub等网站禁止发布。

ZAO= Deepfake在中国？

今年的8月末，一个名叫“ZAO-逢脸造戏”的APP火遍了中国社交网络，它打着“仅需一张照片，出演天下好戏”的slogan迅速刷屏朋友圈，后因其牵涉隐私侵犯，网络安全的“暗藏杀机”的换脸协议招致全民声讨，在众多媒体，大v的口诛笔伐下。ZAO即时更改了协议。虽然中国存在众多以隐私换娱乐的普通大众，但是慢慢也有更多人开始重视隐私，重视肖像权。

ZAO 的官方微博于 9 月 1 日对外界的质疑做出回应，表示「十分理解大家对隐私问题的担忧」，「考虑不周的地方我们会去改，需要一点时间」，动态识别的影响也仅用于验证，不会被保存和上传，官方称会在新版本中详细解释该过程。

但这样的解释并不能打消用户的疑虑和担忧，不少网友在评论区里追问注销账户后，面部信息是否会彻底删除并且不能通过技术手段恢复。ZAO 走红只要一天，但造成的恐慌看来一时半会儿怕是难以消散了。

ZAO这类利用深度学习技术换脸的软件，最大的问题还是大规模收集生物识别信息和“真假难辨”的Deepfake给社会带来的安全风险，而这种风险目前被公众广泛低估，但实际上已经在不断带来严重的后果。

静态或动态的人脸信息（ZAO都会向用户收集）、指纹、虹膜都是典型的生物识别信息，属于个人敏感信息，由于其不可更改，一旦泄露或被滥用，都会在无形中给信息主体带来持久的影响。

Deepfake视频的

伦理争议

新兴技术拓展了新的领域与空间，伦理规范等却保持相对稳定性。当伦理规范未能与时俱进时，技术与伦理之间便产生鸿沟,引发一定的争议。基于人工智能的换脸视频在传播中产生的伦理争议主要有以下三个方面。

其一，损害真实性。网络视频作为视听新媒体的形态之一，由于其记录了人或物完整的动态变化，与图片相比有着更高的可信度，常被作为可靠真实的媒体信源或法律证据。但换脸视频往往以假乱真，损害信息的真实性。而AI换脸视频增加了人们获取真实信息的难度，提升了信息来源筛选和证据判断的难度。如果公众对其被换脸前的内容不熟悉,很容易认为换脸后的虚假内容是真实的，从而造成谣言传播、误解产生、冲突加剧等现象。

其二，威胁个人安全。目前流行的换脸视频多是来源于人们熟悉的影视素材目娱乐性较强，因而对一般人没有威胁。但当技术发展到可以被普通个人掌握时，一旦被人非法利用时，许多让人担忧的状况就会出现：犯罪分子可以随意更改监控内容，骗过手机应用的人脸登录系统、诈骗犯可以换脸成熟人，伪造公众人物发言威胁社会安定.....另外，制作换脸视频需要提前收集被换脸人的照片、视频等信息,其中包含个人生活、工作和交往的数据、图片等，大量而广泛的数据搜集势必会形成对个人隐私安全的威胁。可以说，人工智能技术带来的安全风险主要在于人们的滥用。

其三，危害公共利益。技术的开发和应用应当有利于维护公共利益。阿希洛马人工智能原则中提到，超级智能和技术的开发是为了服务广泛认可的伦理观念，并且是为了全人类的利益而不是一个国家和组织的利益。为了私人利益、为了获取关注度或片面追求经济利益而滥用换脸技术制作传播虚假视频、黄色视频、侵权视频等，可能破坏社会秩序与稳定,这种行为危害了社会的公共利益。

不应因伦理争议

禁止换脸技术应用

“换脸视频产生伦理争议的原因，并不在于技术本身，而在于使用技术的人。”

如果视频制作前已经征求被换脸双方的同意，出于技术交流目的或娱乐性质而非营利目的，且无损害公共利益的内容，那么，这种换脸视频会得到大众的认可。况且，基于人工智能的换脸技术也带来了积极的作用，以新闻传媒行业为例，2019年3月3日新华社推出的人工智能合成的新闻女主播“新小萌”就提高了传媒行业面对突发新闻时的报道及时性和播报效率。

技术应用的目的是服务于人类社会，为人们提供更好的生活基础与精神满足，人工智能技术也不例外。如果得到合理的使用,便会给人类带来巨大的福利。如在电影电视节目中用换脸技术制作视频，会为人们带来更多奇妙的观感。在不被滥用的前提下，人工智能换脸技术能够实现分享利益与技术价值，有利于促进经济增长，催生出新行业，也能够给人们带来丰富的、前所未有的体验。若因出现的各种新问题而急忙否定新火技术，那么技术领域的任何一点进步和发展都会成为幻影。

规制技术应当“以道驭术”，强调“技术所产生的宏观社会效果，力求限制和消除不适当的技术应用带来的消极影响”。要使换脸技术被更多人合理、合法的使用，需要在广泛借鉴的基础上进行制度性的安排。在此过程中，政府、科学团体、社会组织、市场企业和公众应各司其职、各尽其能，以适当、合理的角色参与治理,努力构建一个由多元主体共同参与的全方位伦理治理模式。

参考文献

由Deepfake到鉴别Deepfake制造，这是一场技术追击战——eefocus 电子工程世界

http://news.eeworld.com.cn/qrs/ic466047.html

基于人工智能的换脸视频伦理问题探讨——牛静 侯京南 青年记者 2019.05.30

从DeepNude到ZAO 饱受争议的人工智能Deepfake技术——深度绿科技

换脸应用 ZAO 修改了用户协议，但恐慌和质疑仍未消散——爱范儿

「Tong_T」

https://blog.csdn.net/Tong_T/article/details/87869448

「若苗瞬」

https://blog.csdn.net/ddrfan/article/details/89671745

📖

更多你想知道的经验帖

 北大 

北大新传状元：

北大新传：

在职考北大：

北大新媒体状元：

北大传播学学硕前三：

北大汇丰深财专硕：

北大健康传播专硕：

北大新闻学状元：

北大MFA状元：

北大保研：

北大考博：

 北师大  

 人大  

 清华  

清华考研：

19清华国新拟录取：沉淀一年后，我拿到了清华国新和国社的双料offer
清华保研：新传保研推免同时拿到北大、清华、人大三院四校多个offer！我最终选择了清华！

 其他院校