一夜之间，一款名叫ZAO的应用软件火遍社交网络。
用户只需要在App中上传一张照片，就能将自己的脸替换成各种明星的脸，几乎可以以假乱真。
不过，在网友们玩得不亦乐乎的同时，关于这种AI换脸玩法的质疑和担忧也纷至沓来。
在ZAO的用户协议中规定，一旦开始换脸，即“授予ZAO及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利……”也就是说，用户上传的肖像和生成的换脸小视频，已经默认授权给ZAO存储和管理了，它们会如何管理，用户肖像会被用到哪里，用户自己是不知道的。当然，你也可以不授权，也就无法使用ZAO了。对此有网友说：我只是拍个视频就要把我的肖像权永久授予ZAO App？这是什么霸王条款！在ZAO的评论中，不少用户担心隐私泄露问题。通过ZAO分享到社交平台的视频可以下载，上传视频的用户近照如果一旦被泄露，也有被不法之徒利用的危险。此前有媒体报道，AI换脸“黑产”已经在国内形成了完整的产业链，从下游成品情色视频、中游定制视频到上游软件及教程都有提供，有的卖家甚至提供全产业链产品和售后服务。100元就可打包200部换脸情色片，5张照片就可定制视频。
另一方面，虽然ZAO使用过程中需要对肖像权进行验证，但是每张用户所上传的未经验证的照片都会拥有10次制作视频的机会，这意味着，用户有机会利用他人照片制作换脸视频。在今年六月，Facebook CEO马克·扎克伯格就曾被恶意“换过脸”。不过，ZAO对于公众人物有特别保护，如果照片监测到公众人物，则无法添加图片。
在刷脸支付盛行的背景下，有人质疑“换脸”后的小视频若落入他人之手，可能会利用合成视频向家人勒索钱财，或是盗刷账户。
“刷脸支付”采用的是3D人脸识别技术，在进行人脸识别前，会通过软硬件结合的方式进行检测，来判断采集到的人脸是否是照片、视频或者软件模拟生成，能有效地避免各种人脸伪造带来的身份冒用情况。
即便出现账户被冒用的极小概率事件，支付宝也会通过保险公司进行全额赔付。
在活体检测、视频攻击等方面存在一定风险。后台算法升级会使防控效果有一定提升，但是类似换脸的攻击威胁会一直存在。
目前，手机银行用人脸识别来进行辅助认证，还要辅以短信等其他认证工具。小额支付领域风险较小，强调便捷，在有相关赔付保障的情况下采取人脸识别问题不大。在ZAO的版权声明中说：“ZAO产品上存在的短视频和表情等素材，除了特别声明是ZAO跟合作方进行版权合作的之外，均来源于ZAO用户自发的上传，ZAO不享有素材的商业版权。”
此外，在上传素材的菜单下，显示上传素材需要通过权限认证，但认证并没有开放，灰色按钮显示“暂停申请”，那现有的这些用户上传的素材是哪来的呢？对此，中国政法大学知识产权中心特约研究员赵占领称，用户未经授权将影视剧的片段上传到平台，该行为构成版权侵权，ZAO对于用户的侵权行为是否承担责任一般根据通知删除规则来判断，即当权利人向ZAO发出侵权通知后，ZAO应该及时删除侵权内容。
早在2017年12月，国外某ID名为“deepfakes”的Reddit论坛用户首次将自己制作的AI换脸视频发布在了网络上。
▲deepfakes在Reddit上上传的部分换脸视频
当时，“deepfakes”把情色电影里的女主角换成了盖尔·加朵等好莱坞明星，这也是人们第一次公开见识到AI换脸的强大。随后，由于大量受害者的投诉，Reddit论坛迫于压力封杀了“deepfakes”的账号。不过这次封杀却让“deepfakes”直接开源了其AI换脸项目的代码，这使得该项技术立刻风靡全球。目前，由于AI换脸技术带来的负面影响，国外已经掀起了“反AI换脸”热潮，不少公司开始研究反AI换脸方法。文章来源：青春北京（qingchunbeijing54）
综合整理自中国经营报、新京报、智东西、虎嗅APP、21世纪经济报道
责编：小青妹修二
审核：小青妹HK