AI换脸软件“ZAO”刷屏，可是风险竟这么大？

今天，你的朋友圈是不是被一个个小视频刷屏了？

好友们的脸出现在了一部部经典影视作品中，化身“小李子”“白展堂”“绯红女巫”等诸多角色，看起来甚是有趣。

实现这一切，只需要下载一款名叫“ZAO”的手机APP，再上传自己的照片，利用AI技术，便可以在短短几秒内将照片上的脸替换到影视剧经典片段中。

从朋友圈的多段视频来看，几乎可以以假乱真。

天眼查信息显示，“ZAO”所属的长沙深度融合网络科技有限公司，法定代表人为陌陌联合创始人兼游戏业务部总裁雷小亮，是海南猫咖网络科技有限公司100％控股，后者则是由雷小亮和陌陌董事、总裁及COO王力各持股50%。

在一夜爆红之后，随着一张“用户协议”截图的流传，ZAO很快受到了来自各方的强烈质疑，AI换脸技术的安全风险也再次被广泛提及。在下载和使用ZAO之前，有些问题应该提前知晓。

用户协议涉嫌转嫁法律风险

为了验证网传“用户协议”截图的真实性，记者下载了ZAO软件，在登录界面下方找到了“用户协议”和“隐私协议”。

其中“用户协议”第6条要求用户同意“授予‘ZAO’及其关联公司以及‘ZAO’用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”，这项权利不仅包括对用户上传内容进行部分或全部修改，还包括对用户肖像权的使用及改动。

备受质疑的用户协议第6条

根据这一条款，“ZAO”实际要求用户应取得原视频肖像权利人的授权，并授予“ZAO” 完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于用户本人及原图片、视频资料的肖像权利人的肖像权。

“我个人认为这一条款可能无效，因为涉嫌侵害原图片、视频素材肖像权利人的权利。”在上海市诚至信律师事务所律师李辉看来，这一条款涉嫌绕开未取得原图片、视频素材权利方授权的现实，通过所谓的用户单方承诺的方式，避开需要取得权利人授权的法律规定。

记者注意到，ZAO为用户提供了大量影视作品素材以供选择。在首页随机点开数个影视片段，右上角可以清晰看到“优酷”“爱奇艺”等视频网站水印，下方显示该素材为用户上传，但右侧的“版权说明”均无法打开。据此前媒体报道，ZAO在版权声明中提到，产品上存在的短视频和表情等素材，除了特别声明是ZAO跟合作方进行版权合作的之外，均来源于ZAO用户自发的上传，ZAO不享有素材的商业版权。

视频来源为优酷，但版权声明无法打开。

根据我国现行法律规定，为个人学习、研究或欣赏，使用他人已经发表的作品，不侵犯他人著作权，如果没有丑化他人形象，也不属于侵犯肖像权。但是，ZAO是一个商业平台，用户将其上传后，商家多少可以从中获取一些广告之类的收益，此时若素材未经授权，便涉嫌侵权。

“作为普通用户，从生活常理看，其实不大可能轻易地就取得相关原图片、视频素材的肖像权利人的授权，对此情况，ZAO和用户应属明知。”李辉表示，在此情况下，ZAO企图以所谓的“用户承诺取得”来替代真实的授权，轻易地允许用户去上传海量视频，修改海量图片，这种行为侵害了第三方权利，应当归于无效。当然，用户如果能取得或已经取得相关授权，“ZAO”因此获得了相关授权的证明的情况另当别论。

“其实，‘ZAO’的这条规定实际是为预防自我风险而设，想把可能发生的侵权责任归结到用户身上。”李辉指出，如果这一条款成立，那么用户在使用ZAO进行人脸替换的过程中，可能已经成了原图片、视频素材的侵权人。

换脸技术并非首创，早有“前科”

在业内人士看来，ZAO从爆红到备受质疑，其实也反映出人们对“AI换脸”这一技术手段的质疑。

“AI换脸”不是ZAO独创的一项新技术。大约在2017年底，一种人工智能基础的人物图像合成技术deepfake问世，本身是开源技术又简单易操作，很快就让网友们玩得不亦乐乎。但是，deepfake出现没多久，就朝着人性的阴暗面一路狂奔。

ZAO首页上给网友提供了大量视频素材

通过deepfake的“换脸”技术，包括电影《神奇女侠》主演盖尔·加朵在内的众多女明星的脸出现在了各类色情视频中，几乎可以做到以假乱真。由此，引发了人们对这项技术的焦虑。在国外，甚至出现了专门的打假团队，来鉴别哪些视频遭到过篡改。在国内，换脸技术早已被网友们玩得十分纯熟，在B站上就有让蔡徐坤顶着六小龄童的面孔出道的视频，点击量十分惊人。有了photoshop，人们不再相信照片的真实性，deepfake则让视频也不再可信。

“以前有不法分子用合成艳照来敲诈勒索或者诈骗，现在会不会用合成视频？”不少人对此表示担忧，除了用于刑事犯罪外，不受控制的“恶搞”对人们来说也会造成巨大的困扰，毕竟谁也不愿意自己的脸出现在视频中，说一些自己从未说过的话，干从未做过的事。

记者注意到，今年4月，我国民法典人格权编草案二审稿对此作出规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。其他人格权的许可使用和自然人声音的保护，参照适用本章的有关规定。这意味着，该草案若通过，肖像权保护将在现有基础上更进一步：未经本人同意便进行“换脸”，即便没有营利目的和主观恶意，同样构成侵害肖像权。

“刷脸”时代急需法律规制

在今天关于ZAO的讨论中，有一条无疑是网友们最为关注的：我的照片如果泄露，会突破人脸识别技术吗？

“‘ZAO’并不是第一款可进行AI视频换脸的软件，之前外国一些技术公司也开发过同样的产品。现阶段，这些换脸视频要想替代真人进行‘刷脸支付’基本不可能。”一名支付宝安全专家告诉记者。 

支付宝安全专家指出，目前，网上各类换脸软件有很多，但不管换的有多逼真，都是无法突破刷脸支付的。支付宝“刷脸支付”采用的是3D人脸识别技术，在进行人脸识别前，也会通过软硬件结合的方式进行检测，来判断采集到的人脸是否是照片、视频或者软件模拟生成的，能有效地避免各种人脸伪造带来的身份冒用情况。 

此外，在进行人脸识别后，部分用户还需要输入与账号绑定的手机号进行校验，进一步提高了安全性。同时，支付宝还会通过各种安全风控策略确保账户安全。比如刷脸支付功能需要用户进行开通操作，开通之后才能进行支付，用户也可以随时关闭。

这些年，国内“刷脸”技术运用愈加广泛，不论是支付宝的“刷脸支付”还是有些单位的“刷脸打卡”，都离不开人脸识别技术。但是，国内知名的网络信息安全专家谈剑锋曾多次在公开场合对这一技术的安全性提出质疑：“密码泄露了可以改，人脸一旦被成功复制，难道你还能换张脸吗？”

“我在国外生活过很多年，他们很抗拒刷脸这项技术，法律往往也不允许采集这类个人信息。”记者曾采访过一家知名AI企业创始人，他也对“刷脸技术”的安全性表示了质疑，“我们现在采集人脸的过程很不规范，谁都可以来索要照片，如何使用也缺乏相应规定。比如，我卸载了APP后，我的照片从数据库里清除了吗？没人知道。”

解放日报·上观新闻原创稿件，转载请注明出处

---

作者：王闲乐 邬林桦

微信编辑：大白

◢ 猜你想看↓↓↓

更多精彩内容，请点击下载上观新闻APP

“嗯，这篇正在看↓