篡改与操纵你的言行：“深度伪造”是怎么做到的？

     昨日看到一则新闻：

淮安中学生小王

收到了同学的QQ消息

对方称要借他的银行卡和微信周转钱

谨慎的小王邀请对方视频验证身份

看到聊天窗口真的是自己同学后

他信以为真按对方要求进行了操作

但万万没想到的是

还是被骗了 

       https://mp.weixin.qq.com/s/wjTQMmqd7NP1jGXNa2OJ6g

        细思极恐......原来“深度伪造”，骗子已经用上了！

       “深度伪造”是近三、四年才出现的一种技术和手段。

“深度伪造”译自英语中新出现的一个组合词deepfake，是计算机的“深度学习”(deep learning)和“伪造”(fake)的组合，顾名思义，出现于人工智能和机器学习技术时代。它被称作一种合成媒体（synthetic media），是通过自动化的手段、特别是使用人工智能的算法技术，进行智能生产、操纵、修改数据和媒体的行为和结果。

“深度伪造”最早寄身于社交平台，因影响广大，各大社交平台纷纷出台治理新政。Facebook今年1月6日出台了治理深伪的相关新政，其中对该词的界定，来自其全球政策管理副总裁莫妮卡·比克特（Monika Bickert），其界定为: 可以通过简单的技术（例如Photoshop）或使用人工智能或“深度学习”技术的复杂工具来创建扭曲现实的视频。[1]

其实作为一项技术和表达手段，它的源头可以上溯到19世纪就开始运用的照片处理技术，这些技术可以变换或更改照片以获得所需的结果,之后应用于电影，随着技术的不断提高，数字视频的技术长足发展。Deepfake技术最初由学术机构的研究人员从上世纪90年代开始研发，随着智能技术的发展，工程师们让此技术变得简单易用。[2]这项技术是两个人工智能算法的产物，这两种算法分别称为生成器（generator）和鉴别器（discriminator），于2014年合成发明为“生成对抗网络”（generative adversarial network, Gan）。Deepfake在“生成对抗网络”系统中协同工作。“生成对抗网络”后被广泛使用并且日趋完善，不仅用于创建更加可信的“深度伪造”视频，还可以改善分类算法（例如垃圾邮件过滤器）。它可以出色地处理图片，包括锐化模糊的图片或为黑白图片着色。科学家们也在探索使用“生成对抗网络”来创建虚拟化学分子，希望生成新分子并对其进行模拟，以加快材料科学和医学发现的速度。[3]

下面这段视频，也堪称深伪的“经典”。扎克伯格把自己当作“数据沙皇”了？其实他根本没说这些话:

基于换脸算法（face-swapping algorithms）处理视频，至迟在2016年4月已在网上有了详细的操作介绍。[4]他们训练了一个深度学习的神经网络，以识别静止视频中某人的面孔、并与电视名人或歌手等其他人的面孔进行改换，以每秒30或60帧的速度重复操作，便能获得人工智能录制的视频。运用神经网络技术，Deepfake可以“学习”任何人的脸部特征并将其移用于视频中的身体上。2017年美国社交网站Reddit留言板上出现了“deepfakes”小组，专门讨论人脸变形的技术，使用聊天版来分发代码以及创建虚假素材的说明。[5]小组成员此前创建了一个桌面应用程序，名为FakeApp，是一款使用TensorFlow开源软件库的深度伪造影片的制作程序。基于Deepfake制定的机器学习算法，于2017年12月发布了他的一些结果，让那些没有多少机器学习知识的人更容易创建自己的x级幻想影片（这项技术最初被热用于制作色情影片），由此Reddit似乎成为将该技术应用于色情作品的主要推动力。[6]上述“deepfakes”（组织“deepfakes”小组的人）在接受采访时说，他不是专业研究人员，是对机器学习感兴趣的程序员，他只是找到了一种聪明的算法来进行面部交换，他在色情影片上训练了该算法。。他在Google上搜索名人图片、在YouTube搜索视频，用数百张面部图像可以轻松生成数百万张失真的图像来训练网络。深度学习由相互连接的节点组成网络，这些节点自动对输入数据进行计算，经过足够的“培训”之后，节点安排自己完成特定的任务，如实时操作视频。[7]

智能技术正在彻底革新虚假信息，Deepfake视频只是其中的一部分。美国OpenAI实验推出了新的自然语言人工智能系统，可以获取书面文字并以特定的语气，主题和风格做出视频，将来可能有助于垃圾邮件、聊天机器人和“假新闻”的制作。这项技术在“学习”联合国的几个小时的演讲之后，能够自动模仿政治领导人的讲话。逼真的假音频也即将出现，包括Facebook 人工智能系统MelNet制作的假音频。他们使用计算机生成的语音复制一个人的声音，听起来简直可以乱真、令人信服。该系统通过收听数百小时的TED演讲和有声读物来学习模拟，然后可以制作出比尔·盖茨假音频。2019年莫斯科斯科尔科沃科技学院（Skolkovo Institute of Science and Technology）的人工智能研究人员推出了“少量拍摄”的人工智能系统，该系统可以仅仅依靠几张静态的脸部图片，就能伪造一个令人信以为真的假人。

（全文已刊于《新闻与写作》：《智能时代的深度伪造信息及其治理方式》）

[1]Monika Bickert (Vice President, Global Policy Management), Enforcing Against Manipulated Media

January 6, 2020. https://about.fb.com/news/2020/01/enforcing-against-manipulated-media/

---

[2]Tom Chivers, What do we do about deepfake video? 23 Jun 2019

https://www.theguardian.com/technology/2019/jun/23/what-do-we-do-about-deepfake-video-ai-facebook

---

[3]Drew Harwell , Top AI researchers race to detect ‘deepfake’ videos: ‘We are outgunned’. June 13, 2019 https://www.washingtonpost.com/technology/2019/06/12/top-ai-researchers-race-detect-deepfake-videos-we-are-outgunned/

[4]https://www.learnopencv.com/face-swap-using-opencv-c-python/

[5]Katyanna Quach, FYI: There's now an AI app that generates convincing fake smut vids using celebs' faces. 25 Jan 2018. https://www.theregister.co.uk/2018/01/25/ai_fake_skin_flicks/

[6]Katyanna Quach, It took us less than 30 seconds to find banned 'deepfake' AI smut on the internet, 7 Feb 2018, https://www.theregister.co.uk/2018/02/09/deepfake_ai/

[8]https://www.vice.com/en_us/article/gydydm/gal-gadot-fake-ai-porn. Dec 12 2017

相关链接：

......