查看原文
其他

换脸与明星“恋爱”一夜爆火?小心!这技术此前用于情色视频

阿波 广东公共DV现场 2021-07-26


一夜醒来

DV君的整个朋友圈

仿佛都在Cosplay

一款名叫ZAO的换脸app火了!


于是各个版本的

“陈坤”“鞠婧祎”“王俊凯”“胡歌”

齐刷刷在朋友圈演戏了



利用AI技术,ZAO可以在短短几秒内将你照片上的脸替换到影视剧经典片段中,在一些正脸角度,融合效果几乎可以以假乱真。


下载“zao”
手机跳出了30次验证


为了体验这款刷屏APP
在苹果商店输入“ZAO”
竟然出现了两款软件
一款名为“颜技—全民AI视频换脸做演员”
不过需要验证才能下载
一直没有下载成功
没法体验



另一款为“ZAO-逢戏造脸”
介绍中称是一款使用
顶尖AI技术的换脸神器
仅需一张正脸照就能体验新奇玩法


点击下载“ZAO”后,需要手机验证,之后问题出现了,一口气出现了30多次下载验证,明明已经下载成功,后续的下载验证还源源不断跳出来,根本停不下来。

这或许是因为下载太火爆导致的宕机所致。“AI服务器很贵很贵,只希望大家能给五星好评。”

据ZAO官方微博介绍
8月11日放出3000内测名额
把服务器压坏了
这个月(8月份)花700万租的服务器
昨晚已经消耗了1/3
可见其火爆程度



每天有换脸次数限制
未验证照片无法分享


这款App最大的特点是
通过AI人工智能来实现换脸
注册完成后
系统会提示你选择一张图片
很多照片不清晰或者非正脸的照片
都被系统否决的
不允许上传


在选择完照片后,APP还会要求你进行一项特殊的操作——肖像验证。用户需要在摄像头前进行眨眼、扭头、张嘴、低头等三个指示动作,在系统判断你上传的这张照片就是你本人之后,才能进行下一步操作。


这一举动是为了避免该技术被恶意运用,要确保“你”没有拿其他人的照片来恶意AI换脸。



随后,在系统确认后,用户可以在APP中提供的众多模版中选择自己喜欢的,既可以将自己的脸换成经典角色——比如“小李子”“谢耳朵”“绯红女巫”,也可以将自己换脸成偶像的搭档,还可以与好友两人一起进行换脸。



换脸视频制作显示只需要1~10秒
但实际操作发现至少需要30秒时间
经过肖像权验证的视频
可以分享到微信、微博、QQ等平台上
未经验证的视频则无法分享


同时,用户也可以通过这张软件制作GIF动画表情。而且用户选过一次照片之后,后面制作视频或GIF时不用再选,可一键换脸。每天的换脸次数也有限制,未经验证照片只能使用10次。   



隐私权如何保障成疑问
之前类似技术曾用于不当用途


在ZAO的评论中
尽管有人表示软件很好玩
很容易上瘾
但更多的用户担心自己的隐私泄露问题


一位网友就表示:“需要验证手机号,还要直接上传自己的照片,没有注销功能,头像照片也没有清楚功能,感觉隐私泄露的风险非常大。”



还有网友表示,他相册中所有露脸的照片均被zao检测到了,疑似侵犯肖像权。


通过zao分享到社交平台的视频可以下载,还有上传视频的用户近照,这也有被不法之徒利用的危险。


今年初
B站UP主“换脸哥”发布的
一段94版射雕英雄传视频
原本饰演黄蓉的演员朱茵的脸
用“deepfakes”技术
替换成了杨幂的脸
从流出的视频和动图看
虽然是用AI合成的
但是整体效果十分逼真



原版朱茵


换脸杨幂


更有甚者,目前AI换脸黑产已经在国内形成了完整的产业链,从下游成品情色视频、中游定制视频到上游软件及教程都有提供,有的卖家甚至提供全产业链产品和售后服务。


被指或存在风险


此外,另据企鹅号新文化商业报道称,有用户犀利指出:一家科技公司,录下了你的脸,知道了你的手机号,社交账号,离刷开你的卡有多远。


这一担心不无道理
进入ZAO的操作页面
用户想要分享自己的换脸视频
不仅仅是上传照片那么简单
系统会以“肖像授权”为由
要求用户对准摄像头人脸验证

就如同银行卡验证一样
必须按照指示完成
“抬头、侧脸、张嘴”动作
之后用户必须绑定手机账号
分享社交平台还需要关联微信


即使ZAO平台本身不将用户数据用作他用,也有可能遭遇黑客入侵,盗取资料。


此外,对于站内五花八门的影视素材,ZAO也涉及到侵权,对此,几乎是在产品推出的同一时间,ZAO就发布了关于“侵权”的声明,几乎所有素材均不享有商业版权,并接受侵权举报。


支付宝回应换脸软件风险


“ZAO”一夜刷爆
引发大众对刷脸支付安全的担忧
对此
@支付宝安全中心 今日午间作出回应
目前,网上各类换脸软件有很多,但不管换得有多逼真,都是无法突破刷脸支付的。



你的朋友圈被AI换脸术刷屏了吗?


来源:央广新闻、澎湃新闻、钱江晚报、新浪微博@支付宝安全中心等,如有侵权请与本公众号取得联系。


点击下方图片
不错过每天热点



看都看完了,还不点这里试试

    您可能也对以下帖子感兴趣

    文章有问题?点此查看未经处理的缓存