AI换脸一时爽，但背后这些安全隐患你真的都了解吗？
来源：21世纪经济报道（ID：jjbd21 记者：黄斌、白杨）、虎嗅网、界面新闻、智东西、新浪微博、天眼查、公开资料等。
一夜醒来，仿佛整个朋友圈都在Cosplay，一款名叫ZAO的换脸app火了！
利用AI技术，ZAO可以在短短几秒内将你照片上的脸替换到影视剧经典片段中，在一些正脸角度，融合效果几乎可以以假乱真。
比如，选取当红男演员李现作品中的片段，换脸前的画风是这样的：
而起底这家刷屏的ZAO换脸技术和公司，背后的大老板竟然是著名线上交友软件“陌陌”。
此外，更有网友爆出ZAO的用户协议中存在巨大隐患，在刷脸支付盛行的背景下，这类“换脸”后的小视频若落入他人之手，是否会危及刷脸支付的安全性？
用户只需通过手机号注册，提交清晰的面部照片，即可将经典影视剧片段中的男女主角替换成自己的脸。
打开ZAO，首页就是推荐的影视剧片段素材，点击进去再按下方的替换，选择一张自己的照片。
照片上传后，视频马上就会开始云端制作，视视频长度，可能需要等待8到15秒不等。然后就可以分享视频到朋友圈，不过这里也要注意，ZAO在肖像权保护方面做的很好，如果想要分享视频到外部，用户首先需要通过人脸识别证明照片里的面孔是本人。
用户在下载完APP后，首先要用手机号码进行验证注册：
注册后，系统将会提示你选择一张图片——注意，不够清晰的、非正脸的照片是会被系统否决的，不允许上传的。
在选择完照片后，APP还会要求你进行一项特殊的操作——肖像验证。
过程就和我们在银行APP经常碰到的那种一样，都需要完成点点头、摇摇头、眨眨眼等操作。人脸识别通过后就可以随意下载。
因短时间大量用户涌入，31日当天，该APP还一度显示“服务器制作量过大，请稍后再试”。
此外，ZAO对于公众人物还有特别保护，如果照片监测到公众人物，则无法添加图片。昨日，曾拍摄过长安十二时辰的热依扎就遇到了该问题，公博给出的回应是，公众人物如果想玩，可以通过手机拍摄来添加面孔。
截至8月31号早上8点半，ZAO已经在苹果应用商店排到了免费榜下载第9位，娱乐榜下载第2位，且微信指数也在8月30日突然暴增。
据了解，ZAO最早于8月初开始内测，8月30日下午正式发布。除iOS版本外，安卓用户可以在应用宝、华为、OPPO、vivo电子市场搜到。
随着朋友圈“换脸”刷屏，随之而来的质疑声也大了起来。质疑主要为两方面，首先是用户隐私问题，另外一个就是素材版权问题。
对此，8月31日中午，蚂蚁金服官方回复21世纪经济报道记者称：“目前，网上各类换脸软件有很多，但不管换得有多逼真，都是无法突破刷脸支付的。”
“刷脸支付”采用的是3D人脸识别技术，在进行人脸识别前，也会通过软硬件结合的方式进行检测，来判断采集到的人脸是否是照片、视频或者软件模拟生成的，能有效地避免各种人脸伪造带来的身份冒用情况。
此外，在进行人脸识别后，部分用户还需要输入与账号绑定的手机号进行校验，进一步提高了安全性。同时，支付宝还会通过各种安全风控策略确保账户安全。比如刷脸支付功能需要用户进行开通操作，开通之后才能进行支付，用户也可以随时关闭。而且，即便出现账户被冒用的极小概率事件，支付宝也会通过保险公司进行全额赔付。
一位国有大行网络金融部负责人也对21世纪经济报道记者表示，其团队今年年初找权威机构做过人脸识别相关的检测：“在活体检测、视频攻击等方面存在一定风险；后台算法升级会使防控效果有一定提升，但是类似换脸的攻击威胁会一直存在。”
“目前在手机银行应用人脸识别是作为辅助认证，要辅以短信等其他认证工具。小额支付领域风险较小，强调便捷，在有相关赔付保障情况下采取人脸识别问题应该也不大。”
Zao的首屏上传了大量国内外影视综艺内容片段，而且能在信息流中无限加载，我们甚至不能得知其视频总量。但在上线的短短3个月内，Zao是否取得了这些天量视频的著作权使用许可？如果没有，那就面临极高的版权风险。
针对这个问题，ZAO或许早已在用户协议中藏了“猫腻”。
记者通过查询ZAO的用户协议及隐私协议发现，ZAO已经将侵权风险转移到用户身上。具体而言，ZAO在阐述“风险承担”问题时明确写道“ZAO仅为用户提供内容发布，信息分享、传送及获取的平台，您必须为自己注册帐号下的一切行为负责，包括您所传送的任何内容以及由此产生的任何后果。”
而对于用户上传的内容，ZAO提出，应对使用“ZAO”发布的内容的真实性、合法性负责。您在发布信息内容时，如需获得该信息内容权利人或任何有权第三方（包括但不限于肖像权权利人以及其他网络平台等）的事先授权或批准的，应事先获得该等授权或批准；一旦您发布某项信息内容，将被视为您已事先获得该等授权或批准（如有）。
但记者在体验ZAO的素材上传功能时被提示，该功能需要通过权限认证，目前用户还无法上传。
而在已有的视频素材里，确实会标注一个用户名称，但这些用户名称并不完整显示，所以也无法进行查询。这或许是ZAO规避侵权风险的方式。
据天眼查资料，“ZAO-逢脸造戏”的开发商为“长沙深度融合网络科技有限公司”，其创始人和执行董事是陌陌联席总裁王利和陌陌联合创始人雷小亮。
资料显示，王力于2011年7月加入陌陌担任运营总监，2014年6月，开始担任公司首席运营官，2017年4月兼任联席总裁。雷小亮则是陌陌的联合创始人兼游戏业务部总裁，曾主要负责陌陌产品，现在则主要负责陌陌的游戏业务。
天眼查股权穿透图显示，ZAO的运营主体为海南喵咖网络科技有限公司的全资控股企业。而海南喵咖网络科技有限公司分别由雷小亮、王力持股50%，二人均为长沙深度融合网络科技有限公司的最终受益人。
早在2017年12月，国外某ID名为“deepfakes”的Reddit论坛用户首次将自己制作的AI换脸视频发布在了网络上，它能够把照片和视频中的人脸替换成任何想要替换的人脸，且效果十分逼真，有些肉眼甚至难以分辨真假。
deepfakes在Reddit上上传的部分换脸视频
当时，“deepfakes”把情色电影里的女主角换成了盖尔·加朵等好莱坞明星，这也是世界上所有人们第一次公开见识到AI换脸的强大。
随后，由于大量受害者的投诉，Reddit论坛迫于压力封杀了“deepfakes”的账号，不过这次封杀却让“deepfakes”直接开源了其AI换脸项目的代码。
在代码开源后，AI换脸技术已经有如普罗米修斯盗来的火种，一瞬间撒遍了世界各地。只要具备基础的电脑知识，即使一个“菜鸟”也能在几个小时内做出一部换脸视频，该项技术立刻风靡全球。
人们为了纪念“deepfakes”，就采用它的ID命名了AI换脸技术，称之为“deepfakes”。
而AI换脸真正在国内火起来还要说今年年初，B站UP主“换脸哥”发布的一段94版射雕英雄传视频。
视频中，原本饰演黄蓉的演员朱茵的脸被用“deepfakes”技术替换成了杨幂的脸，从流出的视频和动图看，虽然是用AI合成的，但是整体效果十分逼真。
虽然ZAO并没有表示其换脸技术源自开源的“deepfakes”代码，但其技术有着强烈的相似性。
本文不代表《财经》立场。
你支持下架“ZAO”吗？
欢迎在评论区留言分享你的想法。
科创板后市投资如何操作？怎样才能在机遇与风险并存的市场中稳步前进？《财经》投资家栏目重磅推出《科创板权威投资指南》，由著名经济学者付立春手把手教你投资科创板。本课程包括四大模块：科创板的创新、科创板的方法、科创板的策略、科创板的实操。50节精讲，深入浅出，精炼实用！
点击图片即可订阅