AI换脸已形成“黑产”，法律风险如何防范？——从热议软件“ZAO”谈起

文 | 张图报

现在一键导入照片，就可以把你的脸“植入”到各个电影、电视剧角色中，与自己的爱豆飙戏，你愿意尝试吗？

8月30日晚，国内一款主打视频换脸的移动应用“ZAO-逢脸造戏”火速刷屏各大社交网站。为了蹭一下热点，笔者亲测了ZAO，视频素材有《还珠格格》《长安十二时辰》《大话西游》《武林外传》《何以笙箫默》以及周星驰、莱昂纳多·迪卡普里奥出演的多部影视剧片段，用户可通过上传或拍摄面部照片，将影视片段中的角色替换为自己，与影视明星“飙戏”。（如图）

有心的网友发现ZAO的用户协议过于霸道，迫于舆论压力，ZAO在9月1日上午对协议部分条款做了修改。

修改前

修改后

ZAO的火爆绝非偶然，ZAO应用的AI换脸技术，引起国内对AI换脸的广泛热议。这或许是ZAO最大的贡献。ZAO本身涉及的法律问题，笔者不予针对性评论，本文聚焦于AI换脸的法律风险，以及如何去规制。

一、什么是AI换脸？

换脸技术在国外被称为“deepfakes”，是一种逼真交换面孔的新视频技术。这种技术，在影视剧制作中早已有之，例如《速度与激情7》里为了让保罗﹒沃克回归就用了视频换脸技术。但是AI换脸出现的时间却并不长， 2017年12月一位叫Deepfakes的用户把情色电影里的女主角换成了好莱坞明星盖尔·加朵，这也是人们第一次公开见识到AI换脸这项技术。[1]Deepfakes在reddit（知名在线论坛）上分享其利用AI技术制作的明星换脸小视频，被他用AI换脸制作的明星和名人数不胜数，既包括大部分的好莱坞明星，也包括奥巴马、川普这样的政治人物。之后由于大量“受害者”的投诉，reddit迫于压力封杀了Deepfakes的账号，不过这次封杀却让Deepfakes直接开源了其AI换脸项目的代码。[2]

代码开源了之后，个人制作一个明星换脸视频非常简单。首先需要在谷歌等网络图集中收集你想要替换的人物各个角度的视频和图片，组成一个能满足深度学习任务进行脸部替换的素材库。然后通过tensorflow或github上提供的机器视觉相关模型，学习和理解原版羞耻小电影中女主角的面部特征、轮廓、动作和嘴型等等。继而让模型在素材库中寻找各种角度、各种表情下AI认为合适的图片与视频，对原本视频进行替换。之后人们为了纪念他的贡献，用他的名字命名了AI换脸技术，称之为“Deepfakes”。

AI换脸是基于一套复杂的深度学习算法，只需要照片或是视频，通过这套算法就可以把其中的人脸替换成你想要替换的人脸，操作相对简单，而且替换之后的视频或是照片十分逼真。更厉害的是，目前的生成式对抗网络(GAN, generativeadversarial networks)技术可以通过训练，使得真假难辨：两个机器学习模型，一个“伪造者”负责深度学习、将神经网络模拟应用于海量数据集，然后造假；另一个“鉴定者”负责挑毛病检测赝品。[3]得“伪造者”通过“鉴定者”的不断挑战而不断改进，直至其图像统计精确，打败鉴定伪造的网络，产生可信的深度伪造。

有人曾说：“世界上有两件东西不能直视，一是太阳，二是人心。”是的，AI换脸技术的成熟让人性的恶似乎找到了更好的土壤，在享受AI换脸带来乐趣的同时，也有必要刺破AI换脸的面纱，全面的看待AI换脸。

笔者调查发现，目前AI换脸黑产已经形成了完整的产业链，从下游成品情色视频、中游定制视频到上游软件及教程都有提供，有的卖家甚至提供全产业链产品和售后服务，据部分卖家透露，现在定制视频要排队，因为有这个需求的数量还很大，可见AI换脸给色情黑产带来了春天。对此，需要我们趁早研究对策，予以规制。

二、AI换脸的法律问题

AI换脸的色情黑产暗自泛滥，但因其内容本身违反法律，应当受到法律制裁。但AI换脸也不全都是违法内容，本文探讨的主要是类似ZAO平台的AI换脸带来的法律问题。

01

（一）AI换脸对隐私权、人格权保护的冲击

01

首先，以ZAO为例，ZAO在《用户协议》和《隐私协议》中对收集、使用、共享、转让、公开、管理用户信息都有涉及。

“当您使用“ZAO”上传/发布短视频以及利用技术对平台上的短视频进行修改或编辑（如换脸等）服务时：如您使用您手机相册里的照片中的人脸时，您需同意并授权我们访问您的相册权限，并同意及授权我们获取、使用您指定的照片中的人脸的肖像及面部识别特征，以与您选择的短视频合成新的短视频；如您使用您自己现在的人脸时，您需同意并授权我们访问的您的相机权限，并同意及授权我们获取、使用您现在的人脸的肖像及面部识别特征，以与您选择的短视频合成新的短视频。”

（截图来自ZAO软件用户协议）

这样的约定实际上并非所有的用户在使用时都会去阅读，往往习惯性的勾选同意，而且不同意就没有办法使用，同意不过是使用的前置性程序。笔者在体验ZAO的过程中发现，相册的所有照片都会被自动检测，系统判断出哪些清晰度、尺寸不符合AI换脸要求，变成灰色且无法上传。试想，相册这么隐私的信息被平台拿去，尽管平台承诺会保护用户的信息，但笔者对此持怀疑态度。

其次，ZAO不允许十八岁之下的未成年人创建账户，并只会在法定或监护人明确同意等的情况下使用或披露涉及未成年人的个人信息。但目前的注册流程，未成年人可以通行无阻，ZAO的承诺并不能做到。

最后，笔者认为AI换脸技术的不当使用，对人的名誉、隐私具有毁灭性的打击。譬如，一个人的生物信息被不知情的收集，在色情黑产上用AI换脸技术，将对一个人的名誉、尊严产生极大的负面影响。目前，美国政府机构、部分初创企业和学术界已经在成立反Deepfakes联盟，呼吁抵制这种对人的隐私和人格存在极大隐患的技术。

02

（二）AI换脸的五大知识产权问题

02

1.平台上提供的素材有没有版权？

平台上的素材主要存在两种情形，一种是平台自己上传的；另一种是用户上传的。对于平台自己上传的，平台有没有拿到版权许可协议？这些对于用户而言，其实很难判断，仅仅凭一纸用户协议并不足以制约互联网公司的狼性，在流量与资本面前，有时侵权也是一种策略。对于用户上传的短视频，原本多以分享为目的，但因为用户本身多不具备版权审核能力，这种模糊性使用户很容易替平台背锅，版权纠纷一旦发生，没有版权的短视频是用户上传的比例一定会很高。根本原因在于，用户是不会去研究短视频的版权，平台却想把审核的义务转嫁给用户。

2.用户AI换脸是否属于合理使用？

什么是合理使用？我国《著作权法》第２２条列出了１２种可构成合理使用的情形，同时《信息网络传播权保护条例》第６条也在此范围内规定了８种数字环境种合理使用的情形，[4]前提均是针对已发表作品，同时必须“指明作者姓名、作品名称，并且不得侵犯著作权人依照本法享有的其他权利”。从ZAO的运营模式来看，笔者认为用户使用很难解释为合理使用，AI换脸更像是刺激了用户的猎奇心，让用户可以最便利、最低成本的实现“明星梦”，与学习、研究、欣赏的目的很难等同，甚至在平台上还有篡改、恶搞原作品的。其次，ZAO平台上的短视频素材，并没有指明作者的姓名、作者名称，尽管平台上的素材多是大家耳熟能详的视频，但这些视频大多没有流入公有领域，用户在平台上AI换脸，笔者认为不属于合理使用。

3.AI换脸后的短视频版权问题？

经过了“AI换脸”后的视频能否构成著作权法意义上的新的作品呢？也即是，相对于原视频而言，换脸后的视频是否产生了“新的独创性表达”呢？对于“电影或类电影作品”而言，“独创性”体现于创作者对于“素材的选择”“素材的拍摄”或是“对拍摄画面的选择及编排”。而仅仅将视频中主角的“脸部”进行替换，而对于画面的编排和选择并未有任何改变，难以符合最低程度的“创造性”，因而一般不产生“新的作品”。但是对于某些特殊情形，可能由于人物形象的改变而产生了新的艺术效果，例如讽刺、恶搞的效果。此时可能构成原作的改编作品。

倘若构成了改编作品，那么新作品的著作权归属于谁呢？依据我国著作权法的规定，“电影或类电作品”的著作权归属于制作人，即平台用户。平台仅仅为用户提供了技术帮助，没有任何创造性劳动的付出，因而无法成为原始权利人。

4.如果AI换脸侵权，网络平台的责任？

正如上文所述，AI换脸对隐私权和人格权带来新的冲击，公民的肖像权、隐私权、名誉权遭遇前所未有的低成本侵害风险，如果AI换脸侵权，网络平台的责任如何认定？

目前网络平台责任的承担主要依据是《侵权责任法》第36条以及《信息网络传播保护条例》22条至25条的规定，也就是大家常说的“避风港原则”“红旗原则”。[5]通常而言，“必要措施”包括了删除、屏蔽、断开链接等等。倘若平台未能及时采取必要措施，则就损害扩大的部分与侵权人承担连带责任。

至于ZAO软件在用户协议中所列明的，“在您上传及/或发布用户内容之前，您同意或者确保实际权利人同意授予ZAO及其关联公司以及ZAO用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于可以对用户内容进行全部或部分的修改与编辑(如将短视频中的人脸或者声音换成另一个人的人脸或者声音等)以及对修改前后的用户内容进行信息网络传播以及《著作权法》规定的由著作权人享有的全部著作财产权利及邻接权利。”实际上这是平台企图通过“用户承诺”而规避侵权风险，这显然是无法达到的。用户协议仅对合同双方具有约束力，而不得限制第三人的“排他性”权利。

5.AI换脸对保护作品完整权、改编权的冲击

著作权人依法享有“保护作品不受歪曲、篡改的权利”，即“保护作品完整权”。虽然我国著作权法中并未明确指出“歪曲、篡改”作品到何种程度构成对作品的“保护作品完整权”的侵犯，但是一般认为应以达到损害著作权人的声誉为标准。而通过AI换脸技术对影视作品中人物的头像进行替换，虽然对于作品的表达修改程度不高，但是这也不能阻却涉嫌对作品进行“歪曲、篡改”的可能性。例如将某正面人物形象替换为丑恶形象，就可能对作品的主题思想进行了歪曲，损害了著作权人的声誉。

那么是否同时构成对“改编权”的侵犯呢？依据《著作权法》第10条的规定，“改编权”即改变作品，创作出具有独创性的新作品的权利。通常而言，单纯的AI换脸的行为并未达到产生“新的独创性表达”的程度，没有产生新的作品。因此，AI换脸行为通常不构成对著作权人改编权的侵犯。但是同样，在特殊情形下因改编行为而产生新作品时，不排除对改编权的侵犯。

三、AI换脸的规制

曾经有观点认为，“用隐私换便利”是国内的普遍现状，笔者认为这种观点并不是用户的真实心态，用户与互联网服务平台之间的信息不对称、力量不均衡才是导致用户对个人信息无法足够的重视。但是这种现象在互联网已经做大做强的当下，应当在利益衡平时对用户的权益有所倾斜。笔者认为对AI换脸的规制，需要有三个层面的综合治理：

1.法律层面。2019年4月，全国人大常委会审议的《民法典人格权编(草案二审稿)》里，正式加了一条：任何组织和个人不得以利用信息技术手段伪造的方式侵害他人的肖像权。草案的第803条也被修改为：其他人格权的许可使用和自然人声音的保护，参照适用本章的有关规定。这一规定表明，立法部门已经注意到深度伪造技术需要予以回应，作出规制。此外，笔者认为，需要加快人工智能的专门立法，对AI换脸技术需要制定具体的规则，划定AI换脸技术使用的的合理边界。

2.行业层面。企业的天然属性是追逐利润，采用新技术、创新盈利模式也无可厚非，但任何营利模式都应该是建立在合法合规的基础之上的，任何企业都需要对法律底线给予充分的敬畏。互联网发展到今天，区分度已经非常明显了，做大做强的企业更应该洁身自好，树立行业标杆，倡导制定针对本行业的行业治理标准、公约，作为行业治理的最低标准、合法性审查的底线，指导本行业相关企业完成自我审视和合法性审查。

3.用户层面。用户为什么AI换脸呢？笔者询问了几位有过AI换脸体验的用户，大致原因有：好玩儿、从众心理、好奇、与自己的爱豆搭戏，很满足、对明星颜值可以低成本、很便捷的Cosplay……AI换脸技术本身是中性的，但ZAO抓住了人性中的好奇心、跟风、想出名、爱玩的天性等，一下成为爆款APP，但ZAO引起的热议也暴露出AI技术在应用上的诸多问题。实际上，AI换脸技术被用在色情黑产业的问题，因为利益格局的复杂性，人性中的阴暗面，这种地下产业可能很难短时间得到根治。

因此，笔者呼吁在虚拟世界里，用户更要谨慎上传自己的肖像、声音、指纹等生物信息。互联网的发展日新月异，技术迭代需要的时间越来越短，但人性的进化是非常缓慢的，对人性的恶我们要保持足够的警惕，对自己的好奇心也要有适度的克制，做一个高尚的人，一个脱离了低级趣味的人。

脚注：

向上滑动阅览

1.《别发自拍视频了，你可能随时被换脸》，https://www.sohu.com//224021930_100012418.2.源代码地址：https://github.com/iperov/DeepFaceLab.3.林懿伦、戴星原,、李力、王晓、王飞跃. 人工智能研究的新前线: 生成式对抗网络. 载自动化学报, 2018,44(5): 775-792.4.《著作权法》第22条规定，在下列情况下使用作品，可以不经著作权人许可，不向其支付报酬，但应当指明作者姓名、作品名称，并且不得侵犯著作权人依照本法享有的其他权利：（一）为个人学习、研究或者欣赏，使用他人已经发表的作品；（二）为介绍、评论某一作品或者说明某一问题，在作品中适当引用他人已经发表的作品……5.“避风港”原则是指在发生著作权侵权案件时，当ISP（网络服务提供商）只提供空间服务，并不制作网页内容，如果ISP被告知侵权，则有删除的义务，否则就被视为侵权。“红旗”原则是“避风港”原则的例外适用，红旗原则是指如果侵犯信息网络传播权的事实是显而易见的，就像是红旗一样飘扬，网络服务商就不能装做看不见，或以不知道侵权的理由来推脱责任，如果在这样的情况下，不进行删除、屏蔽、断开连接等必要措施的话，尽管权利人没有发出过通知，我们也应该认定网络服务商知道第三方侵权。

（本文为授权发布，未经许可不得转载）

近期活动 1

知识产权法官专场

商标侵权及周边：原理与案例

专项培训  详情请戳！👇

近期活动 2

想看更多经典案例？
聆听更多精彩点评？
游闽键律师带你畅游知产世界！

近期活动 3

“听书”火热上线，详情请戳！👇

近期活动 4

你有一本电子游戏宝典待查收，详情请戳！👇

 近期热文

SHIPA