换脸应用ZAO被喷,其技术曾被用于色情视频
当明星意味着放弃部分个人隐私,现在,高科技换脸软件可以让你当“假明星”过过瘾。但副作用就是,你的隐私或许将被出卖得比真正的明星更彻底。
这就是最近火到无以复加的ZAO软件所做的事。这款主打AI换脸的App一夜之间刷爆朋友圈。在微博上,众多网友将影视剧片段中演员的脸,换成自己的,并将换脸后的视频发布在微博上。而ZAO也凭此在苹果应用商店排在娱乐类免费榜首位。有用户在应用商店里评论称其和抖音一样会上瘾,“刷了一夜”。
透过工商信息可以发现,“ZAO”的背后有陌陌的身影,其运营公司两位股东分别为雷小亮与王力,两人均为陌陌高管或联合创始人。
在ZAO的爆红的同时,疑虑也越积越多。人脸作为生物识别信息,已经成为和指纹一样的设密方式。一旦某些应用获取了人脸数据用于其他途径,这将不是黑科技,而有可能变为黑产的帮凶。
1
ZAO的火爆吸引了一大群的用户竞相尝鲜。但真要使用这个App还需要买过一道门槛。
那就是必须免费交出人脸的永久使用权。
早前,ZAO的用户协议第6条第1款规定:
“在您上传及/或发布用户内容以前,您同意或者确保实际权利人同意授予‘ZAO’及其关联公司以及‘ZAO’用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于可以对用户内容进行全部或部分的修改与编辑(如将短视频中的人脸或者声音换成另一个人的人脸或者声音等)以及对修改前后的用户内容进行信息网络传播以及著作权人享有的全部著作财产权利及邻接权利"。
这意味着,用户在正式使用ZAO以前,是要上传自己肖像的,不仅静态,还有动态照片。
使用ZAO之前,用户上传照片之后,还会要求用户进行动态的自拍验证,以确保用户上传的是本人照片。
就这样,用户自己的个人肖像永久权利,在点下“同意”的一瞬间,就以免费的形式授权给了ZAO。
用户的权益则如何保障?
ZAO在用户协议中的说法是,“尽最大努力在合理范围内使用上述内容”。
9月1日,ZAO修改用户协议,删除了原有的上传肖像权可被ZAO完全免费、不可撤销、永久、可转授权和可再许可的权利等描述。改为“免费的、可以对用户内容进行部分的修改或编辑以及对修改或编辑前后的内容进行网络信息传播的权利”。
2
但更令人感到疑惑的是其隐私政策,细究起来,用户甚至会觉得自己是在哑巴吃黄连。
ZAO早先的用户协议第6条第2款规定:
用户在使用“ZAO”的时候,如果把脸换成自己或其他人的脸,意味着同意或确保肖像权利人同意授予“ZAO”及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于:人脸照片、图片、视频资料等肖像资料中所含的您或肖像权利人的肖像权,以及利用技术对您或肖像权利人的肖像进行形式改动。
这就意味着,用户不仅要把自身的肖像权利免费授予ZAO,而且,还得保证用户所改动的肖像,其权利也必须授予ZAO公司。
举个例子来说,如果用户将杨幂的脸换成自己的脸,用户除了要保证自己永久、不可撤销地把自己的肖像免费给ZAO使用,还要保证杨幂同意ZAO及关联公司使用她的肖像。
问题在于,用户又不是杨幂,怎么确保杨幂能同意?
事实上,在版权声明中,“ZAO”提到,其素材“除了特别声明是ZAO跟合作方进行版权合作的之外,均来源于ZAO用户自发的上传,ZAO不享有素材的商业版权”。
言下之意,素材都是用户传的,有甩锅嫌疑。
按照最新的用户协议,这一条款也略有改动。
但需由用户确保自己已经获得授权这一点,仍然没有改变。
既然用户协议中提到了素材的版权,用户在使用ZAO的过程中,可以上传什么样的素材?
版权声明提到,“禁止用户随意上传和使用素材,并通过人工审核环节尽力保证ZAO上的内容不侵犯相关权利人的合法权益”。
但在上传素材的菜单下,显示上传素材需要通过权限认证,但认证并没有开放,灰色按钮显示“暂停申请”。
现有的这些用户上传的素材又是从何而来?这个问题,普通用户或许无法回答。
3
除了隐私和版权中陷阱遍地之外,更令用户不安的或许仍是安全问题。
有观点认为:“有手机号,有面部图像,通过技术合成,犯罪分子可以替你和你家人通话了。”更有观点认为,这一隐私政策,可能导致肖像被滥用,甚至危及用户财产等相关方面的安全。
8月初就曾发生过一起有人把以自己为原型的3D打印人头破解了刷脸支付的案例。
一位名叫王峻的人,使用了一个以自己为原型的3D打印人头,成功骗过支付宝的人脸识别功能,购买了一张从南京到宝华山的火车票。
不仅国内有此案例,国外同样有过使用3D打印人脸骗过手机识别的案例。
2018年12月13日,福布斯记者Thomas Brewster发布了一篇文章,介绍了自己的3D打印头型如何成功骗过智能手机人脸识别的过程。
他在英国伯明翰的一家公司内装配有50台相机的影棚里拍摄了自己的头像,并由此合成了一张完整的3D图像,然后将该图像导入到3D打印设备中,最终打印出了3D打印头型。并使用这个头型骗过了多数智能手机的人脸识别解锁功能。
从需要3D打印,到现在仅需在手机APP上传一张照片就能换脸,换脸变得越来越便利。值得关注的是人脸识别已经成为实名认证的辅助,比如远程开户,对方可以通过眨眼、摇头等动作来判断手机前的你是否是活体,但换脸这项技术让这套逻辑失效了。
然而,ZAO所代表的换脸技术,颠覆的还不止是这些。
4
“ZAO”所谓的AI换脸技术早就不是新鲜事了。
2017年12月,国外有ID名为“deepfakes”的Reddit论坛用户首次将自己制作的AI换脸视频发布在了网络上,它能够把照片和视频中的人脸替换成任何想要替换的人脸,且“毫无PS痕迹”。
随后,这项技术很快在情色产业中有了首秀。
当时,“deepfakes”把情色电影里的女主角换成了盖尔·加朵等好莱坞明星,这也是世界上所有人们第一次公开见识到AI换脸的强大。
但此举遭到大量受害者的投诉,Reddit论坛迫于压力封杀了“deepfakes”的账号,不过这次封杀却让“deepfakes”直接开源了其AI换脸项目的代码。
在代码开源后,AI换脸技术已经有如普罗米修斯盗来的火种,一瞬间撒遍了世界各地。
deepfakes成了一个公开的软件包,安装简单。只要具备基础的电脑知识,即使一个“菜鸟”也能在几个小时内做出一部换脸视频,该项技术立刻风靡全球。
人们为了纪念“deepfakes”,就采用它的ID命名了AI换脸技术,称之为“deepfakes”。如今,这个中文直译过来名为“深假”的技术,已经开始侵入到现实生活中,打将一场难辨真假的游戏,升级为了商业的想象力。
“ZAO”的母公司“长沙深度融合网络科技有限公司”,其100%控股方为“海南喵咖网络科技有限公司”,背后实际控制人为陌陌高管。
股东王力为陌陌联合创始人兼COO,雷小亮则为陌陌联合创始人兼游戏业务部总裁。而雷王二人已经把所持有的海南喵咖网络科技股权质押给了北京1602信息技术有限公司——这家公司是陌陌的全资子公司。
换句话说,“ZAO”背后的大老板其实就是著名线上交友软件“陌陌”。
现在,与陌陌关系匪浅的这款“逢脸造戏”的应用,仍旧占据在娱乐类免费榜第一的位置。只是,这类换脸应用的暴红,更多是用户好奇心驱使,并没有刚性需求。当新鲜感过去,“ZAO”能否如陌陌一般生命力持久,还未可知。