细思恐极！AI换脸术让朱茵变杨幂，还有更可怕的……
在“AI换脸杨幂”视频引发风波后，2月27日，上传该视频的网友公开称已经下架了相关视频，并表示应该尊重版权与肖像权。
日前，一段通过“AI换脸技术”修改后的《射雕英雄传》片段在网上流传，视频中原由朱茵饰演的黄蓉被更换成杨幂的脸。
朱茵饰演黄蓉
▼
替换成杨幂后
▼
对此，有专家表示因应用场景的不同，AI换脸技术也面临着不同的法律风险，如涉嫌侵犯影视作品的著作权，侵犯他人的名誉权、肖像权等。
视频网站存大量“明星换脸视频”
2月25日，一段通过“AI换脸技术”修改后的《射雕英雄传》片段在网上流传。南都记者从视频画面中获悉，视频中原由朱茵饰演的黄蓉被更换成杨幂的脸。
原版朱茵
▼
换脸杨幂
▼
从视频上看毫无破绽
简直让人以为就是杨幂演的了
因为太逼真
旋即在网上引起轩然大波
“创作的初衷时希望更多朋友认识这项技术，避免将来有人伪造明星负面内容的视频时，会给公众人物带来更大的损失。同时也让更多人了解造假视频背后的工作原理。”网友“换脸哥”在微博表示，他已经和杨幂的官方工作室沟通，AI换脸应该用正确的方式打开，在使用的同时也要尊重版权与肖像权。
除了被换脸的朱茵版《射雕英雄传》，南都记者以“AI换脸”为关键词在视频网站上搜索出大量结果。除了被“换脸”修改的视频成品，还有“换脸软件安装指南”等“换脸”视频教程。
杨幂的肖像被用于修改后的《神奇女侠》电影中。
以B站UP主“AI徐*外”为例，该UP主于2018年1月发布了视频《杨幂出演神奇女侠时，场面一度泪崩》。在该视频中，电影《神奇女侠》女主角盖尔·加朵所饰演的戴安娜·普林斯一角的面部被更换成杨幂。该视频全长为2分41秒，播放量超过了18万。此前，该UP主还上传过如《使用AI让PAPI酱变身苏菲玛索》等其他的“换脸视频”。
主播阿冷的脸分别换成范冰冰、刘亦菲等明星。
此外，还有“冯提莫换脸赵丽颖”、“阿冷换脸刘亦菲”等换脸视频。以主播阿冷的一个弹唱视频为例，有网友在视频《人工智能深度学习视频换脸》中，将阿冷的脸分别换成范冰冰、杨幂、佟丽娅、唐嫣和刘亦菲，并在同一画面进行对比展示。
“AI换脸存侵权风险
未来或将影响影视产业 ”
杨幂与朱茵换脸的视频走红后，不少网友在讨论中提出，此举可能侵犯了明星的肖像权，也有人表示“换脸”是对原作品的不尊重。
2017年12月开始，AI换脸技术开始走红。据西南政法大学人工智能法学院院长陈亮介绍，目前AI换脸技术在影视制作、视频直播、新闻播报等方面的应用越来越广。“2017年当时是国外有网友发布了一个虚假的淫秽视频，就是将色情明星的脸与知名度高的大众明星的脸进行了更换，这个视频当时造成了很大的影响，这项技术也开始被公众熟知。”
陈亮称，AI换脸技术因其应用场景的不同也面临着不同的法律风险：“比如未经授权修改影视作品，涉嫌侵犯影视作品的著作权；在相关色情视频中的换脸，可能侵犯他人的名誉权；未经本人同意擅自使用其肖像进行换脸，可能侵犯他人的肖像权。”
中国社科院知识产权中心教授杨延超长期关注人工智能领域，在他看来，包括换脸技术在内的人工智能会对未来影视产业带来很大的影响。“AI换脸技术是通过机器学习的方式，将事先采集好的人脸数据加上数据计算的方式实现的。未来可能一个明星他不用真人上镜了，只需要把他的面部数据等采集好。”杨延超认为，虽然这项技术可以提高影视生产的效率，但也会一定程度地使观影效果下降。
“换脸涉及到原作作者、制片人、原表演者一方，同时也涉及到被使用头像的另一方。根据相关规定，在未获得影视作品版权方授权的情况下对作品进行修改，涉嫌侵犯修改权。对于表演者而言，更多是涉及肖像权、名誉权等人格权的侵权问题。”杨延超说。
AI换脸术已用于黑产实施诈骗
除了换脸引发的道德和伦理问题，阿里安全图灵实验室高级算法专家觉奥表示，黑灰产利用AI换脸是目前常见的一种攻击手段，“在人脸识别系统中，识别换脸的技术叫活体检测技术，这是一个攻防对抗技术，即用AI的手段来解决AI的攻击。”
南都记者从阿里安全方面了解到，2017年11月下旬，阿里安全图灵实验室发现，有犯罪团伙通过3D软件控制人脸照片进行攻击操作，共发起过几百次攻击，导致近百名受害人驾照分被盗刷。通过3D合成“假脸”认证账号注册或登陆后，黑灰产人员可在受害人毫不知情的情况下，用于黑卡虚假注册、刷单、薅羊毛、诈骗等不法行为。
由于深度学习的迅猛发展，网络攻防的技术不断进步。值得注意的是，无人驾驶、人脸识别、智慧城市、智能家居等各类场景中都在运用AI，包括人脸识别系统，一旦后端控制系统被攻击，出现规模化、连锁式的崩盘，AI失控的后果不堪设想。
当前，如何识别“虚假人脸”也成了互联网企业关注的焦点。据觉奥介绍，阿里安全图灵实验室可做到通过深度学习技术，训练模型，将两者的纹理、肤色、反光等特性识别出来。“目前识别准确率达到99.9%，可实现在毫秒级时间内揪出假人脸，”觉奥说。
据南都记者了解，今年年初，阿里安全图灵实验室提出了安全AI的概念，包括AI本身的安全性、用AI手段去解决安全问题和强对抗场景下诞生的新一代AI，希望提升行业对这一领域的关注，推动AI更好发展。
南方都市报（nddaily）报道
南都记者 李玲 秦楚乔
* 南方都市报（nddaily）原创内容未经授权，不得转载。
标星+置顶南方都市报
一秒找到南都君
▼
点个“好看” ↓↓