AI换脸：除了泄露隐私，还是网络犯罪的新型工具
大家好，我是鹅师傅。
最近一个名为“ZAO”的 AI 换脸 app 火了。
这个 app 能让用户一键换脸成为影视剧的主角，也开始让更多人讨论和思考 AI 换脸技术背后的个人隐私。
然而在鹅师傅看来，这个 app 背后的相关技术“deepfakes”及其应用，不仅涉及收集用户个人隐私数据，还很可能引发新的网络安全问题，因为这类技术也正被网络诈骗、网络黑产等别有用心的人使用。
技术是中立的，但使用技术的人是有立场的。
ZAO 的走红爆火或许只是昙花一现，但由此也揭开了应该如何应用和监管此类技术的讨论。
AI 换脸是个什么技术？
也许你这几天也在朋友圈等地方看到，有人通过 ZAO 这个 app，把自己的脸换到经典影视剧的明星身上，不亦乐乎地过着“山寨明星”的瘾。
因为用的人太多，这个 app 一度出现宕机。
据说在 app 火起来的第二天，就有 10 多个 VC 想约见项目方，不过 ZAO 背后则是不差钱的上市公司陌陌，做交友平台的。另外，抄袭模仿的 app 也在提请上线的途中。
在 ZAO 大火的同时，各路质疑批评的声音也随之而来。
首先，ZAO 有一条堪称流氓的用户协议：
用户上传发布内容后，意味着同意授予 ZAO 及其关联公司以及 ZAO 用户，在“全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”；包括但不限于可以对用户内容进行全部或部分的修改与编辑（如将短视频中的人脸或者声音换成另一个人的人脸或者声音等）以及对修改前后的用户内容进行信息网络传播以及《著作权法》规定的由著作权人享有的全部著作财产权利及邻接权利。
怎么理解呢？
就是说，如果你上传的是自己的脸蛋，那你的这个肖像可以供 ZAO 的公司、用户随便怎么用。
真是太谢谢您的慷慨了，鹅师傅在此处冷笑一声( ￣ー￣)。
是不要脸，还是不要隐私，才会这样上传自己的肖像，把自己如此重要的数据卖得一干二净？
当然，如果用户上传的是别人的脸，就可能涉嫌侵害他人的肖像权和隐私权。app 倒是在用户协议里把这种风险的锅，妥妥地甩给了用户。
正如网友所言，使用和推广这种 app 的人，不是蠢就是坏。
在用户协议被各界批评后，ZAO 在 8 月 31 日修改了用户协议，关于此前争议的有关用户安全与隐私的条款，增加“特别提示”：
用户使用 ZAO 生成的内容，ZAO 将仅用于修改并生成新短视频，除非获得用户再次同意，不会以任何其他形式使用上述内容。用户如果删除了上传内容，ZAO 也会依据相关法律从服务器中删除。此外，用户如果使用 ZAO“换脸”，需确保肖像权利人授权 ZAO 对人像进行处理。
类似 ZAO 这种涉嫌收集用户数据的 app，前段时间还有一个名为 FaceApp 的软件。
复仇者联盟天团，变老后
它还引发了一个在网络上相当流行的变老挑战（Agechallenge），不过美国网友听说是俄罗斯人开发的 app 后，都不敢玩了。
然而鹅师傅想说的是，AI 换脸，其实已经不是什么新鲜事儿。
上一次大家对 AI 换脸有所了解，是今年有人在一段 94 版《射雕英雄传》的视频中，把杨幂的脸替换了原本饰演黄蓉的演员朱茵的脸。
这段视频里，换脸技术几乎做到了以假乱真，因此在网络上广为流传。
在哔哩哔哩视频网站上，还有人将六小龄童的脸换在蔡徐坤的身上。
然而早在 2017 年，国外就开始有人发布 AI 换脸视频。
这个 AI 换脸的技术源自于国外 Reddit 网站上一个名为“deepfakes”的用户。
该视频由 deepfakes 合成
他通过开源的 AI 工具，通过机器学习算法，将盖尔·加朵的脸「移植」到一位色情电影演员身上。
其中包括泰勒·斯威夫特、艾玛·沃特森、斯嘉丽·约翰逊等多位女明星的脸被移花接木到色情电影演员身上。
当时 Reddit 的板块上一度聚集了大量围观的吃瓜群众，但 deepfakes 也被网站封杀。
之后，“deepfakes”直接开源了这个 AI 换脸项目的代码，这个 AI 换脸技术在全球变得唾手可得。代码发布者的名字也被用来命名这个技术。
AI 换脸背后巨大的网络安全问题
像 ZAO、FaceApp 等同类应用，收集用户脸部信息，涉嫌收集用户数据，这才仅仅是个开始。
如果这些应用的 API 接口、数据库被黑客攻击，造成数据泄露，那麻烦可就大了。
你是否和鹅师傅一样，有过这些担忧：
我的脸可能会被换到小黄片主角的脸上？（鹅师傅是遵纪守法的公民，从未动过下海的心呐）
我的脸部数据，在刷脸支付、面容识别开机等场景中，是否会被人冒用？（有点担心移动支付账号里的钱可能会不翼而飞）
会不会有人模仿我的脸，然后去做网络诈骗？
鹅师傅感觉有点头皮发麻，因为除了刷脸支付还没有相关负面报道出现，其他的担忧已经有不少人经历过了。
AI 换脸技术是视觉识别类的人工智能技术，同理，AI 换声音是语音识别类的人工智能技术。如果把这两个技术融合起来，就能制造出真假难辨的假视频。
美国前总统奥巴马就“中招”了。
2019 年 4 月，美国娱乐网站 Buzzfeed 发布了一条以假乱真的视频。
视频中，“美国前总统奥巴马”模仿他的声音和惯用动作讲了一段他从未说过的话，当然这个视频也明确告诉观众，这是使用 AI 换脸技术制作，目的是让公众了解这种技术的危害性。
制作者使用了网络上免费的技术和工具，并花费了 56 个小时来搜集和汇总奥巴马的模型。
此后美国政治、经济等一批大佬都成为 AI 换脸视频的主角，这些假视频替代他们发布各类言论，骗了数百万人，同时也让被模仿者的个人形象、声誉受损。
模仿你的脸和声音，通常没有什么好事。
六耳猕猴模仿孙悟空，打晕了师父唐僧，还抢走了包袱和经文。假李鬼冒充真李逵，干起了截道抢劫之事。
目前，AI 换脸、换声这类技术，不仅造成了“色情报复”、政治风险，也在让各类网络诈骗有可乘之机。
一些网络诈骗案例中，诈骗分子往往是通过语音、电话等方式模仿受害者。
而视频通话、视频的可信度明显高于语音、电话。
通过 AI 换脸、换声，诈骗分子的伪装手段将会更加高明，防范的难度也将急剧上升。
这类技术也很有可能被诈骗分子用来降低被害人的警惕，进一步迷惑被害人。
比如杀猪盘的诈骗套路里，骗子主要通过文字、语音与被害人聊天，如今随着这类骗局被揭露曝光，骗子也越来越难得手。
但是如果一个美貌年轻的女网友，或者英俊帅气的男网友，通过视频通话和你聊天，声音还相当温柔亲切，那么上当受骗的人可能就更多了。
鹅师傅还发现，AI 换脸、换声已经不算什么了，UC 伯克利大学团队的 Everybody Dance Now 技术，已经可以自动生成假冒的舞蹈视频。
图片左上角是舞蹈动作来源，而右边两个则是通过技术生成的虚假视频。
AI 换脸、换声，让一个人在视频里，说着自己从来没有说过的话；Everybody Dance Now 技术，则是让一个人做自己从来没有做过的动作。
真是细思极恐。
AI 换脸技术的监管正在路上
deepfakes 制造个人的假视频，可以严重威胁个人的名誉、财产安全。
当 deepfakes 做制造的内容是假新闻时，甚至会造成社会恐慌、动荡。
针对 deepfakes 这类技术的监管，也慢慢开始跟上。
今年 6 月，美国众议员对 deepfakes 正式召开听证会，敦促科技公司要在 2020 年美国总统大选之前制定出政策，目的是“保护用户免受假新闻的误导”。
这是有史以来第一场针对 deepfakes 这类 AI 换脸技术的听证会。
然而这距离 deepfakes 这项换脸技术出现，已经过去了一年半，期间已经产生了大量的被害人和假新闻。
不过可以确定的是，出台针对这类技术和社交平台的约束政策，只是时间问题。
然而要想防护和治理 deepfakes 这类技术，除了法律政策层面的立法、监管，我们需要做的还有很多。
一方面，我们需要有技术和方法去有效识别虚假的 AI 信息；另一方面社交平台应当承担起监督和管理的责任，建立防治虚假信息的机制。
修图后-监测到被修图之处-建议修复-原图
在技术对抗上，Deepfakes 已经掀起了一场反伪造照片和视频的竞赛。
早些年开始，就有 AI 技术团队、Adobe 等商业公司，甚至美国国防部开始研发“图片/视频鉴证技术”，用来识别和对抗 deepfakes。
可预见的是，这类造假与识别造假的技术对抗不会停止，只会不断动态升级。
另外，鹅师傅想为大家划重点的是，今年 4 月全国人大常委会审议的《民法典人格权编（草案）》里，正式加了一条：
任何组织和个人，不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。
这意味着在我国使用 AI 换脸、换声的技术应用，或将受到法律管制，并有明确的规范。
AI 换脸技术不能一刀切
AI 技术在医疗、出行等各行各业给用户带来希望、惊喜。
随着技术开源和“技术无罪”的精神，AI 技术变得触手可及，AI 造假的门槛也在变得越来越低。
AI 换脸技术，也不能一棍子打死、一刀切。
比如《速度与激情 7》中的演员保罗 · 沃克在影片拍摄前去世，制作方用了替身+动态捕捉+CGI 动画的方式，把保罗的脸换在替身演员身上。这类技术让电影得以上映，也为艺术创作提供了更多的可能性、创造力、想象力。
“AI 复活张国荣”这种致敬作品在粉丝之间流传。还有人将自己已逝亲人的面容，使用同类技术，换在视频中，以此缅怀先人。
总的来说，deepfakes 这类技术，或将为鹅师傅和小伙伴的打击黑产工作带来新的挑战。
为了防止这类技术被用来作恶，需要来自多方的共同努力：
监管部门需要加强立法和监管；
互联网平台需要承担起监督和管理的责任，建立防治虚假信息的机制；
企业和研究机构，应当尽快开发对应的技术，有效识别虚假的 AI 信息
而公众也应该及时了解技术发展的趋势，增加自身防骗的意识和能力，在面对网络内容时，做到不轻信、不信谣、不传谣。