隐患何在？这款刷屏app“千万不要用！”

团中央维护青少年权益部

理性分析 倾听心声

 服务青少年发展

导读

8月30日，一款名为“ZAO-逢脸造戏”的APP冲上手机应用商店榜单，其在苹果商店的下载量，一度飙升到免费榜第2位、娱乐榜第1位，话题#ZAO AI换脸#也强势占据了微博热搜。

APP爆火后，随之而来的隐私泄露隐患，引起了越来越多的人关注。

然而，9月1日，一位全国政协委员却在得知这一消息后，一早急切地给记者发来语音，紧急提醒大家：“千万小心，不要用！”

这位委员是谁？他又为什么要呼吁大家慎用甚至不用人脸识别？看看他曾为网友们录制的关于个人信息安全的委员小课堂，您就都明白了！

是的，针对“刷屏”app紧急提醒的人，就是全国政协委员，上海众人网络安全技术有限公司创始人、董事长谈剑峰。

“换脸”有风险

可能泄漏个人信息

这款名叫“ZAO”的软件利用AI技术，“只需一张正面照”，便可以将热播影视剧中演员的脸“换”成用户的脸，而且脸部表情自然，效果十分逼真，可以跟偶像“同框”，这让不少网友直呼“圆梦”，在微信朋友圈受到热捧。

利用这款软件进行“换脸”，首先需要用手机号动态验证码进行验证登录。
用户如果想要下载或分享换脸视频，则需要进行验证确认所使用的照片的确是用户本人，而验证的方式则是在摄像头前进行眨眼、扭头、张嘴等指示动作。

与此同时，也有用户在社交媒体表达了对隐私泄露的担忧。由于换脸后需要进行眨眼、抬头等各种验证，与刷脸支付采集的脸部信息类似，不少用户担心，脸部数据被泄漏会引发一系列问题。

专家指出，此类软件的确存在隐私泄露风险，同时，软件中提供给用户用来换脸的影视剧片段也存在侵权可能性。
谈剑峰对此极为忧虑，“这就是一个新玩法，老百姓都喜欢玩嘛！他们就用一个吸引人的东西来完成数据采集，这多危险啊！”
中国政法大学传播法研究中心副主任朱巍分析，个人信息一旦被比对之后，如果落到坏人的手里面，有可能涉及到财产安全和人身安全的问题。

软件宣称，照片提交上传后，会对照片进行非公众人物验证和肖像权验证，确保符合相关法规才能使用。没有经过自拍验证的照片会有使用次数限制，也无法被分享或下载。

虽然相关措施一定程度上可以起到防止用户滥用他人照片恶搞，但中国政法大学传播法研究中心副主任朱巍指出：

这种东西看似是以娱乐为目的，因为大家笑一笑不会产生什么伤害。但是技术的发展道高一尺、魔高一丈，坏人一方面是利用这个技术，另外一方面它盗取了你的所有个人信息。
一旦匹配成功了，轻则是精准诈骗，重则有可能你的账号、密码都是一个不安全的状态。
所以，平台的责任实际是更大的。软件的影响范围越大、越火，平台的社会责任、道德责任、法律责任也就越高。

使用影视剧片段“换脸”

有侵权的隐患

与此同时，软件内置可供选择的影视剧片段中，有包括《延禧攻略》《长安十二时辰》《还珠格格》在内的多部热门国内电视剧，还有大量热门的综艺片段。

对此，朱巍指出：

换脸技术涉及的是影视剧本身的著作权、知识产权。你突然间把这个脸换了的话，是不是构成合理使用？这个可能跟知识产权法有密切关系。
很多换脸，实际上并非是以娱乐为目的，有一些涉及到人格尊严、名誉权、肖像权的侵害。他换的可能不是自己的脸，可能是别人的脸，或者用于非法的、低俗的网站上，这些都是安全隐患。

用户协议暗藏玄机

“必要授权”大幅修改

有细心的用户发现，这款软件的用户协议中还暗藏玄机。

其中写道，使用这款软件的换脸功能，需要同意授予这款软件及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于：人脸照片、图片、视频资料等肖像资料中所含的肖像权利人的肖像权，以及利用技术对肖像权利人的肖像进行形式改动。

相关截图

用户协议中还写道，该款软件及其关联公司可自行选择是否使用以及使用方式，包括但不限于编辑相关信息、授权给合作方使用、编辑与传播。还称会“尽最大努力在合理范围内使用”。

北京市岳成律师事务所高级合伙人岳屾山表示：

用户在上传，或者说授权给APP经营者之后，它的经营者却说，可能会给他的关联公司，或者说给其他人。

这个时候，对于转售权来讲，是过于模糊且不清晰的，而且很有可能会造成自己的隐私泄露。所以，建议相关部门对于这类用户协议予以规范。另外，使用者也要仔细地看一下协议内容，如果说确实存在着风险和霸王条款，建议不要使用。

最近，该款软件“用户协议”中，“您的必要授权”这一项内容与此前相比进行了较大幅度的修改，去掉了关联公司等相关表述。此外：

1、在用户协议的醒目位置，增加了一则特别提示：用户上传的短视频及人脸等信息，将仅限用于为用户提供上传/发布短视频，以及利用技术对平台上的短视频进行局部修改生成新的短视频的服务。2、新增内容承诺中，相关的内容将严格按相关法律法规的规定保留在软件上，除非为了改善该款软件为用户提供的服务，或另行取得用户的再次同意，不会以任何其他形式或目的使用上述内容。
3、用户协议中相比之前补充了撤回及删除条款，并承诺用户执行相关操作后，将依据相关法律法规的规定在服务器上删除。

谈剑峰认为，在目前的形势下，最可靠的办法就是提高自身的风险意识，要求提供个人信息，甚至面部特征、指纹等生物信息的“同意”，一定要慎点！

“很多用户现在没有这个意识，只关注到了这些应用的便利性，忽略了个人信息的安全性。这样下去，很可能要付出昂贵的代价！因此，也呼吁国家相关主管部门，尽快制定相关法律，规范个人信息尤其是生物信息的采集。”

AI是个新事物，

但也不能任其“野蛮生长”！

来源：微信公众号“团中央权益部”（ID:TuanLaw ）综合整理自“中央广电总台中国之声”“人民政协报”，转载请注明来源。

往期推荐

校审 | 滕素芬

编辑 | 成雨午（北京科技大学）