当人们开始“丢”脸丨刘昊然卷入AI换脸风波

来源丨传媒圈-传媒头条原创

作者丨李湘雨

刘昊然时隔7个月再度卷入AI换脸风波。

8月28日，刘昊然工作室因一张淫秽视频截图向警方报案，称视频是通过AI换脸技术伪造。

早在1月22日，刘昊然工作室就个别网络用户利用AI换脸散播不实言论发布声明，委托北京星权律师事务所全权处理，保留追究法律责任的权利。而这一次，换脸造谣事件再次上演，刘昊然选择了报警维权。

网友们纷纷担忧“如果哪天我们普通人被AI换脸该怎么办”“今天是明星，明天就可能是普通人”，殊不知AI换脸技术早已“平民化”，走入千家万户。

无孔不入的AI换脸

视频换脸早就不是新鲜事了。2020年，国产网剧《三千鸦杀》“AI换脸术”引发网友围观，因成本问题被网友诟病“五毛特效”“大型车祸现场”。

此前播出的《封神演义》《光荣时代》《长安十二时辰》《时光与你都很甜》都使用了换脸技术。就连近日受吴亦凡牵连而播出无期的《青簪行》也被网友力荐使用AI换脸。

2019年，国内掀起“换脸”风潮。B站up主“换脸哥”将94版《射雕英雄传》的影视片段中朱茵的脸替换成杨幂，迅速在网上发酵并引发争议，B 站视频截止删除前点击量超出 20 万，微博话题阅读量 1.3 亿。这是全网第一次领略“换脸术”的神奇。

半年后，陌陌旗下的ZAO App将人脸合成视频带进普通用户的世界。“仅需一张照片，出演天下好戏”，用户或是换脸“小李子”“周润发”“白展堂”“玛丽莲·梦露”，或是替换成偶像的搭档，轻松穿越大片当主角，一夜“成”星不是梦。然而，广受诟病的用户协议让ZAO App迅速从一夜爆红跨入舆论漩涡。

在ZAO App中，用户无法使用名人肖像，只能上传自己照片换脸，在软件隐私协议中，用户照片的一部分使用权已经移交给了软件，而一旦构成侵权，责任则由用户承担。这让人们不得不正视AI技术潜在的安全问题。

今年夏天，互联网再度掀起“换脸潮”。

#汪东城晒吴尊AI女装换脸视频##AI换脸后的于正##应采儿p图换脸#多个相关话题冲上热搜。“换脸”再也不是什么稀奇事。

快手“神奇变身术”的活动里，只需要上传1张清晰正脸照片，不花力气就能生成“女神”“男神”“古风”等多种风格的短视频，同时效果生成后上传的图片或视频云端不会储存。现在，“神奇变身术”相关视频累计219.3w个，播放量高达7.7亿。B站的鬼畜区也是换脸“重灾区”。AI换脸成为部分短视频博主低成本生产的“利器”。

从替换明星的脸到替换其它普通人、网红的脸，从影视制作到日常娱乐视频，AI技术“平民化”的速度正在不断加快，深入影响生活的方方面面。科技是把双刃剑，门槛越来越低的AI技术让用户可以随时随地生成内容的同时，也将个人隐私与黑色产业问题不断放大。

AI换脸的“潘多拉魔盒”

AI换脸技术最早出现在2017年，也被叫做“深度伪造技术”。2017 年，国外名为“DeepFakes”的用户在Reddit上发布了一个“假视频”，利用深度学习和AI 新技术将《神奇女侠》的扮演者盖尔·加朵的脸换到了成人电影上，“一石激起千层浪”，从此AI 换脸技术开始“一发不可收拾”。

随着技术门槛的降低，越来越多的人将AI技术运用到情色片进行售卖。据《智东西》2019 年调查，在国内，AI 换脸俨然已经形成了一个黑产产业链，上游提供软件及技术、中游提供视频、照片定制、下游售卖成品视频，也有商家做全产业链的生意。财经网报道，AI换脸明码标价，“五分钟视频换脸100元”、“学教程2000包教包会”。

贴吧、QQ 群等社交平台均有售卖，包括成品情色视频、售卖定制视频和售卖软件及教程等，成品情色视频价格从 2 元 1 部到 30 元 46 部、100 元 150 部和 100 元 200 部不等，视频以国内一、二线女明星为主。各大女星“被迫”下海，甚至衍生出一门生意，她们的图像在未经她们同意的情况下变成了性幻想。

你以为普通人就能安然无恙？AI技术还可以演变为色情复仇。印度一名Rana Ayyub的记者因为得罪了人，很快收到了自己主演的“小电影”链接。很显然，她被用 AI换脸技术与色情片演员换脸了。尽管“全印度的人都在看我主演的色情片，但是我无可奈何”。

AI 技术另外被普遍应用的场景是假新闻。“假视频”的出现加剧了虚假新闻的散播，大大损坏视频作为证据的可信度。也给所有人敲响了警钟，虚拟世界里，眼见不一定为实。

前段时间，TikTok上出现了一个名叫@deeptomcruise的账号，up主利用AI换脸技术发布了一系列“汤姆·克鲁斯”的互动视频，一度让网友和媒体以为阿汤哥真的入驻了TikTok。

就连总统们也逃不过AI换脸的“魔爪”。2018年，一段奥巴马吐槽特朗普是笨蛋的假视频在twitter上走红，其中一句“President Trump is total and complete dipshit”简直震惊吃瓜群众。

然而事实上，视频里的声音来自导演Jordan Peele，他说：“我们已经进入了这样一个时代，我们的敌人可以做出看起来像任何人在任何时候说任何话的东西。”Deepfake已然从低俗娱乐发展到操纵民意。

奥巴马和Jordan Peele的对比视频

除了侵犯隐私和助长虚假情色信息泛滥外，AI换脸技术对每个使用者都有侵权隐患，前文提到的ZAO App就是很好的例子。另外，换脸技术还有可能成为网络诈骗、绑架勒索的帮凶。

换脸之所以危险，在于AI很简单。而深藏其中的法律问题与伦理陷阱或迟或早都会成为我们需要直面的问题。

网络从来不是法外之地

技术没有正邪之分，只取决于使用技术的人。有了ZAO App的前车之鉴，各大社交和视频平台都对这项技术非常谨慎。网民们也应该辩证地看待AI技术，不必因为其背后潜在的危机就“草木皆兵”，也不能沉溺于换脸的娱乐消遣肆无忌惮。

目前来看，AI换脸技术还没有得到有效的监管。虽然国外一些图片、视频网站已经开始训练 AI 模型以对抗造假视频的泛滥，但更多的还是止步于民间行为。但相信随着造假视频波及的范围越来越广，侵权现象越来越严重，有关部门出面套上“紧箍咒”的那天也不会遥远。

今年的央视315晚会再次敲响警钟，曝光科勒卫浴、宝马、MaxMara商店安装人脸识别摄像头，点名万店掌、悠络客、雅量科技、瑞为信息等人脸识别企业,将商店偷偷采集人脸信息明确视为侵犯消费者权利的行为。在天眼查搜索“人脸识别”，相关结果就高达14455条。不断被泄露的个人信息和其引发的一轮轮的网络围观与网络暴力，都在引起人们的关注和反思。

“天网恢恢，疏而不漏”。2021年可谓是我国数据安全的发力之年。作为我国第一部有关数据安全的专门法律，《中华人民共和国数据安全法》于9月1日（昨天）起施行。再过两个月，《中华人民共和国个人信息保护法》就将于11月1日正式施行。中国互联网正在经历改天换地的新变革，法律保障人们不把数据给出去，也能在当代社会正常地衣食住行。

今天，在只要几张照片就能快速换脸的时代，人们“丢”脸已经变成“家常便饭”，相应的“面子”监管和游戏规则也应该跟上步伐。技术规范在左、法律约束在右，新技术才能真正造福于民。

欢迎关注

传媒头条视频号

推荐优质行业微信公众号

欢迎关注

推荐文章，点击标题阅读

-END-

长按二维码 免费关注传媒头条微信公号

丨传丨媒丨头丨条丨

传媒业的参与者、观察者、发现者

微信号：cmtt6636

更多精彩文章，请点击：阅读原文