AI 大毒瘤：96% 的 Deepfakes 视频涉及色情，还搅动多国政局
▲点击上方 雷锋网 关注
Deepfakes 已经让“眼见为实”成为过去；至少在视频方面是如此。
文 | Adios
Deepfakes 已经让“眼见为实”成为过去；至少在视频方面是如此。
近日，Deeptrace 公司发布了一份关于 Deepfakes 现状的报告，分享了迄今为止人们对 Deepfakes 最全面的了解以及其对现实世界的影响。
Deeptrace 是一家位于阿姆斯特丹的网络安全公司，自 2018 年成立以来就致力于研究 Deepfakes 不断发展的功能和造成的威胁。该公司创始人兼首席科学官 Giorgio Patrini 在这份报告的介绍中说道：
无论是视频音频，还是文本，我们社会依赖和信任的多个数字通信渠道都已遭到了颠覆。
以下是雷锋网对这份报告的整理：
自 2017 年晚些时候出现以来，Deepfakes 就开始凭借着惊人发展速度、逼真的换脸效果，以及对社会的消极影响而广为人知。
然而，Deepfakes 在今年的发展尤其迅猛。报告数据显示，今年网络上 Deepfakes 视频的数量迅速增长，截至目前为 14678 个，是去年 12 月份（7964 个）的一倍。
在所有的 Deepfakes 视频中，绝大多数视频都涉及色情内容，只有极少一部分视频属于非色情内容，两者的比例分别为 96% 和 4%；而且，在最受欢迎的四大色情网站上（2018 年至今），关于 Deepfakes 的视频观众已经超过 1.3 亿人。
不过，值得注意的是，非色情的 Deepfakes 视频也越来越受欢迎。
具体到受害人（被换脸的目标）的性别、国籍和职业等方面，这家公司也对 5 家色情网站和 14 个相关 YouTube 频道的 Deepfakes 视频进行了统计：
报告显示，在色情网站的 Deepfakes 视频中，女性是唯一的受害者；而在 YouTube 上的 Deepfakes 视频中，女性受害者的比例为 39%，男性受害者的比例为 61%。
国籍层面，YouTube 上以美国、英国、加拿大等西方国家人物为目标的 Deepfakes 视频高达 90%；在色情 Deepfakes 视频方面，美英加三国的女性受害者加起来占总数的一半；但韩国的受害女性（大多是 K-pop 歌手）高达四分之一。
在色情网站上的 Deepfakes 中，受害人的职业也受到关注。只有 1% 的受害人从事新闻与媒体行业，剩下 99% 均来自娱乐业。在 YouTube 上，受害者的职业则更加多元，但娱乐业的人物仍占据大多数，少部分受害人为媒体人、政客和企业家。
2017 年 11 月 2 日，一名 Reddit 用户创造了 Deepfakes，随后这项技术传遍全球。现在，随着相关论坛、工具和服务的出现，Deepfakes 也变得越来越商业化——关于 Deepfakes 视频创作社区和论坛的发展是这一变化的关键驱动力，它们为换脸视频创作者提供了探讨交流的平台，也为创作者之间的合作提供了便利。
Deeptrace 的报告发现，目前，包括 Reddit、4chan、8chan、Voat 在内，关于 Deepfakes 视频创作的社区和论坛有 20 个；其中，有 13 个论坛披露了自己的用户数量，总人数大概在 10 万左右；在这 10 万个用户当中，有 4000 多个用户拥有特权。
Deepfakes 的商业化不仅体现在社区和论坛上，还有新的电脑 App 和服务。不过，就电脑 App 而言，需要使用者具有编程知识以及强大的图形处理器；但由于“手把手教学”式的使用指南的问世，这一现象很快也会发生改变。还有就是定制 Deepfakes 视频的服务，费用则取决于视频的使用目的以及制作的难度。
波士顿大学法学教授 Danielle Citron 曾表示，“Deepfakes 已经成为了攻击女性的武器。"
这是 Deepfakes 最大的危害之一——Deefakes 色情视频里的受害者大多是英美两国的女演员，以及韩国的女歌星，出现频率最高的十位人物（雷锋网按：为了保护这些女性，该报告并没有透露她们的姓名）的总观看人数超过 3000 万；其中出现频率最高的为英国的一位女演员，她一共出现在 257 个 Deepfakes 色情视频中。
Deepfakes 技术在政治方面的影响也不容忽视。CNAS 技术与国家安全项目主任 Paul Scharre 曾警告：
Deepfakes 具有极大的破坏性，利用它来操控选举只是时间问题。
2018 年，加蓬（非洲中西部国家）总统 Ali Bongo 在公众视野中消失了数月，他的健康状况备受关注；为了打消外界图谋不轨的猜测，政府公布了一段 Ali Bongo 录制的新年致辞的视频。然而，Ali Bongo 不同寻常的“出场方式”让外界更加怀疑，军方甚至发动了兵变。实际上，这段视频为 Deepfakes 合成；Ali Bongo 早在几个月前就患了严重的中风。
2019 年，一段关于马来西亚经济部长 Azmin Ali 与男性发生性关系的视频在网络上疯传，甚至搅动了马来西亚的政局（同性性关系在马来西亚属违法行为）。虽然 Azmin Ali 声称这段视频是通过 Deepfakes 技术伪造的，是政治阴谋；但是，国际专家声称找不到伪造迹象。
上述两个例子都是 Deepfakes 破坏政治进程最有力的迹象；除此之外，还有许多因 Deepfakes 而受影响的政治问题。如果没有防御性对策，世界各地民主政体的完整性就会受到威胁。
然而，Deepfakes 对政治领域的影响不仅仅局限于恶意和欺骗，它甚至还催生了一种有关政治讽刺的艺术形式。包括 Mark Zuckerberg, Kim Kardashian 和 Donald Trump 在内的公众人物可能被“操控”，说出自己“违心”的话；这也引发了人们对政治以及社会问题的谈论和深思。
除了政治，Deepfakes 在社交媒体上的恶意应用也开始出现，并且正在影响网络安全格局，比如制作虚假数字身份，以进行欺诈或者是间谍活动。
总的来说，Deepfakes 的危害和影响已经蔓延全球。而且，从目前的趋势来看，Deepfakes 背后庞大的受众群体以及灰色的利益链，也让消灭其带来的负面影响变得更加困难。
不过，技术本身无罪，怕就怕在“科技不能向善”。
往期推荐