查看原文
其他

“换脸”APP一夜刷屏!背后的风险巨大,先别慌

深圳晚报 2019-11-11


今日天气:阴天间多云,有阵雨或雷阵雨,局部暴雨;气温26-30℃



一夜之间
大家的朋友圈突然冒出了一堆大明星
“王俊凯”“胡歌”“杨幂”

齐刷刷在朋友圈演戏了!

原来是一款手机软件火了!

软件发布不到24小时就登上微博热搜


今天,不少人又开始忙着卸载这款软件

这一切到底是咋回事呢?




在这款APP中,用户可通过上传自己的照片,用AI换脸功能,将影视剧中的演员换成自己的脸,然后把小视频分享到朋友圈。


今年大热剧《小欢喜》、《陈情令》、《亲爱的热爱的》中的名场面在ZAO中均可体验。



ZAO App的功能介绍显示,可以用你的脸制作表情包,出演经典电影,跟偶像飙戏等。


这款App功能极简、难度极低、口碑发酵速度极快,如之前的“脸萌”一样,成为又一款现象级应用。不少网友很快跟风下载,并在网上晒出了以自己为主角的视频片段:


一秒钟变李现



一秒钟学会跳舞,占据C位



还能唱跳、Rap、打篮球



据悉,8月30日晚间,“ZAO”官方微博称,“这个月花700万租的服务器,今晚已经消耗1/3了。明天如果继续火爆,我们只能做严格一些的限制。”



8月31日下午14时,“ZAO”在苹果应用商店App Store的免费App的下载排名中已跃居第二。


“ZAO”火了之后,问题来了……


虽然ZAO走红网络,但关于换脸的安全性及隐私性问题,很快引起了社会的广泛讨论和关注。



网友的担心不无道理,有媒体关注到,“ZAO”用户协议中写明,用户发布内容前,统一授予ZAO及其关联公司完全免费、不可撤销、永久、可转授权等权利。



还有网友表示,用户协议中还写明,若用户违反协议导致第三方受损害,用户应当独立承担法律责任并承担赔偿责任。


此外,该软件还涉及版权风险。ZAO上传了大量国内外影视综艺内容片段,但是否取得了这些天量视频的著作权使用许可?如果没有,那就面临极高的版权风险。



@法山叔 还在后续微博补充道,其协议本身就有违法律的基本原则……



ZAO带来的担忧还不止这些。

当下刷脸支付已经开始普及,ZAO的火爆使人担忧:在刷脸支付盛行的背景下,“换脸”后的小视频若落入他人之手,是否会危及刷脸支付的安全性?


类似技术曾用于不当用途,也有人建议不必担心


ZAO使用的开源代码“deepfakes”,最早曾被用在了情色电影的主角换脸。据媒体报道,此前在台湾,就有百名女生IG脸书等社交照片被人用DeepNude处理后上传不雅网站。因此,引发技术有罪还是技术中立的争论。


今年初,B站UP主“换脸哥”发布的一段94版射雕英雄传视频,原本饰演黄蓉的演员朱茵的脸被用“deepfakes”技术替换成了杨幂的脸,从流出的视频和动图看,虽然是用AI合成的,但是整体效果十分逼真。


饰演黄蓉的朱茵的脸被替换成杨幂


不过也有人认为不必担心。


上海金融与法律研究院研究员、经济之声特约评论员刘远举在“大家”撰文表示,ZAO并没有带来新增隐患,人类可以适应技术的风险。


ZAO之所以把用户协议写的“吓人”,其实是在“前车之鉴”基础上做的很强的自我保护。用户发出自己的换脸视频,本质上和发一张自己的自拍和视频,并没有本质的区别。一般人并不会成为大众的目标,被换头暴露在公众中。对于明星而言,这早已不是稀奇事了。


同时他还认为,技术不可阻挡,关键看用在什么地方那些无法完全避免,或者完全避免并不必要的坏处,人类社会也能通过经验去适应。幸运的是,现在的修图技术,仍然做不到天衣无缝,“毫无ps痕迹”。至于视频,要做到完美则更难。


对于刷脸支付安全性的问题,也有支付宝和银行方面的回应称,“刷脸支付”采用的是3D人脸识别技术,同时在支付时往往还伴有其他验证方式。不必过于担心。


还有人担心的是:



这个app,你玩了吗?

欢迎发表你的看法~


深晚君特选(戳下方标题)



福利 | 2019男篮世界杯来了!都听我的,进来抢票

丧心病狂!一名香港警务人员被砍伤,香港警务处长:非常愤怒

深圳闹市3车碰撞致1死2伤,其中1名伤者怀有身孕

来源 | 中国青年报、中国新闻网、每日经济新闻、@法山叔、大家、北京日报、钱江晚报

编辑 | 陈小思


    您可能也对以下帖子感兴趣

    文章有问题?点此查看未经处理的缓存