一夜间朋友圈都在“换脸”跟明星谈恋爱?小心!AI造脸已发展出情色产业
从昨天(8月30日)晚上到现在
有一款APP迅速刷屏朋友圈
它的名字就叫“ZAO”
这是一款使用AI技术换脸的神器。用户只需上传一张正脸照,就能玩转素材库里所有的表情包和经典影视片段,将自己变成影视片段里的主角。
病毒式传播
一夜之间火爆全网
在微博冲上热搜,刷爆朋友圈,这样的病毒式传播让许多人在一夜之间掌握了这个好玩的APP。
一秒钟变李现
一秒钟学会跳舞,占据C位
还能唱跳、Rap、打篮球
和明星“谈恋爱”,瞬间圆梦
8月30日晚间,“ZAO”官方微博称,“这个月花700万租的服务器,今晚已经消耗1/3了。明天如果继续火爆,我们只能做严格一些的限制。”
8月31日下午14时,“ZAO”在苹果应用商店App Store的在免费App的下载排名中已跃居第二。
由于ZAO的爆火,在使用时多次出现“当前服务器制作量过大,请稍后再试”的提醒。
ZAO的火爆可见一斑。
为何“ZAO”能刷屏
不少科技媒体的报道提及,“ZAO”这次之所以能刷屏,是因为以往的换脸视频,对制作者的技术甚至制作的设备,有着比较高的门槛要求,而“ZAO”一下子把门槛降到了最低,普通手机用户都可以玩了。
“ZAO”全称ZAO逢脸造戏,这款App属于长沙深度融合网络科技有限公司,其背后股东则来自主打陌生人社交起家的社交平台陌陌。
天眼查资料显示,长沙深度融合是海南喵咖网络科技有限公司(海南喵咖)的全资子公司。而王力和雷小亮各持海南猫咖50%的股份。王力为陌陌公司董事、总裁及COO,雷小亮则为陌陌公司联合创始人兼游戏业务部总裁。
到了今天(8月31日),它却是以另一种原因刷爆朋友圈:涉嫌侵犯隐私。
这种担忧,也是源于曾经火过的AI换脸技术软件DeepFake。
所谓AI换脸,技术上并不新鲜。
早在2017年12月,国外某ID名为“deepfakes”的Reddit论坛用户,就首次发布了自己制作的AI换脸视频。它能够把照片和视频中的人脸替换成任何想要替换的人脸,且效果十分逼真。
今年3月,国内知名视频网站blibli流传出一段视频:电影《射雕英雄传》(1994年版)朱茵主演的黄蓉,被视频制作者通过“AI换脸术”处理成了杨幂的脸,神态表情如同朱茵饰演的黄蓉一样生动俏皮,毫无违和感,顿时引起网民热议,以至于微博话题点击量飙升至1.1亿。
饰演黄蓉的朱茵的脸被替换成杨幂
有报道称,所谓AI换脸术,是基于人工智能的人体图像合成技术,生成的假脸(通称DeepFake)。“从技术层面讲,首先要进行数据采集,捕捉不同的脸姿态、表情、角度和光照的人脸图片;再者进行数据处理,包括采集数据标准化及分割算法处理等;硬件上需要一个较好的GPU,家用计算机可能会吃力一些,制作需要几个小时甚至数十小时,但是现在已有许多插件可以辅助。”为2019年央视网络春晚提供虚拟主持人技术支持的偶邦公司创始人郑毅介绍。
不过问题也是同时发生了。
当时,“deepfakes”把情色电影里的女主角换成了盖尔·加朵等好莱坞明星,这也是世界上所有人们第一次公开见识到AI换脸的强大。
今年6月时,Facebook首席执行官马克•扎克伯格的一段被篡改过的视频浮出水面,在视频中他对该公司的用户数据隐私提出了质疑。
扎克伯格视频被篡改
更有甚者,目前AI换脸黑产已经在国内形成了完整的产业链,从下游成品情色视频、中游定制视频到上游软件及教程都有提供,有的卖家甚至提供全产业链产品和售后服务。
而用户对于“ZAO”产生类似的担心,主要是其用户协议里有涉嫌“甩锅”的条例。
在用户协议里面有提到:如果您把用户内容中的人脸换成您或其他人的脸,您同意或确保肖像权利人同意授予“ZAO”及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于:人脸照片、图片、视频资料等肖像资料中所含的您或肖像权利人的肖像权,以及利用技术对您或肖像权利人的肖像进行形式改动。
有网友表示,这个条例带来的潜在危险就在于,可以利用这个换脸技术来实施诈骗,甚至有盗刷钱财的风险。
央行科技司司长李伟上个月就曾表示,人脸是非常敏感的个人信息,一旦泄露会带来非常大的影响。
因此用户也纷纷担心,此次火起来的“ZAO”APP,如何保障自己的肖像权和隐私等方面不受侵犯呢?
不知道各位怎么看待这种AI换脸技术呢?大家会去尝试这样的APP吗?赶紧来评论区分享你的看法吧!
部分来源:澎湃新闻,腾讯新闻,梨视频
编辑:罗粤湘
责编:冯妙兰
热点回顾