一个世界，两面AI

文：陈达

来源：南方传媒书院

两天前的8月29号，2019世界人工智能大会（WAIC）在上海正式开幕，这一场汇集全球AI知名企业领袖和重要嘉宾的国际会议也将在今天正式闭幕。

另一边，一款名叫Zao的App火遍了大家的社交网络圈，截至2019.8.31中午，#ZAO AI换脸#已经爬升至微博热搜榜第六，话题阅读达7165.2万，iOS商店内的App下载量也超越众多国民级应用，攀升至免费类第二位，仅次于榜首的拼多多。

IOS App Store排行榜

颇有讽刺意味的是，当世界人工智能大会还在谈着AI“智联世界，无限可能”时，另一头ZAO这一利用AI侵犯大家隐私的App却“登堂入室”，同一天——8.31，同样的主题——AI，却上演着完全不同的两个故事，这也留给我们一个值得反思的问题：AI的应用到底是好是坏？

ZAO——真的很“躁”

在这火热夏季的最后一天，ZAO进入了我们的视野。

ZAO不是常规商业玩法下推广而红的。在正常的市场规则下要推广一款产品，尤其是App，需要大规模的营销活动，这个我们经历了太多了，从拼多多到银联云闪付，从花样百出的事件营销到铺天盖地的广告投放，无一不是在拉新和留存上下功夫。但Zao没有去做这样的营销推广，根据ios的App Store版本历史记录显示，ZAO早在三个月前就上架了第一版即0.2版本，目前的1.1版本是第三次更新。上架时间也可以理解，尤其今年越来越来多的AI技术应用于现实生活的案例出现在我们眼前，移动互联网的应用自然迎头赶上，在ios的App Store中有一个热门栏目叫“生活中的人工智能”，这里面的应用都是利用AI技术，结合已有的摄影、绘画、相册、游戏而推出的。

那么为什么Zao能走红？以下几点原因可以一探究竟。

首先，玩法简单易上手。我们可以看到，Zao的操作非常简单，用户通过上传正脸照，用AI换脸功能，就可以把自己替换为影视视频中的演员，分享到微博微信等社交平台。该应用软件上提供了几乎所有知名影视剧中的片段，用户不用对自己的已有照片做任何修改，直接上传头像照片就可以将原视频片段换脸，短时间内就能满足用户的好奇心和虚荣感，不能自拔。

其次，明星效应很强大。在Zao之前其实也有类似的AI换脸功能的正规App，但都没有引起大规模用户的使用，道理很简单，你让我把脸换到一套衣服上，然后场景换到一个公园里，都没什么吸引力，既没办法很好的展示自我，也会给观者不知所云的感觉。而明星影视剧就不一样了，首先利用明星的话题和热度不说，明星的粉丝会极容易爱上这样的东西，通过换上自己的脸，展示自己所谓颜值，获得满足感，同时，根据社会认同理论，社会关系是自我概念中重要的组成部分，个体自尊与群体自尊相互关联，通过虚拟地展示自己与偶像的关系，表明自己的粉丝身份，个体能获得极大的认同感。

再有，利用社交媒体进行病毒式传播。Zao作为娱乐社交类的产品，没有做大规模推广的它最好的道路自然是利用其它已有的、大规模的、国民级的社交平台来完成扩散，通过分享这一核心功能，在微博、微信等社交平台完成传播裂变。

最后，其实也是最重要的原因，那就是Zao不仅是在市场环境下爆红的一款娱乐产品，更重要的是，它涉及了近年来科技领域一直以来颇受争议的话题——人工智能。虽说如果要论今年科技的热词应该要归“5G”，但其实5G的很多应用还没有普及甚至落到实地，而这么几年过去了，AI技术有许多成熟的应用已经进入到我们的日常生活中了，这次的Zao就是其中一个例子，尽管是最简单的AI换脸技术，也足以引起我们大家对它的关注，尤其是担忧。

接踵而至的问题

Zao的爆红一方面是吸引了大批用户的使用，另一方面则是因为它的各种问题而引发的热议。这些接踵而至的问题不仅映射出网络时代下个人的多元化和复杂性，更映射出互联网信息治理的滞后甚至缺失。

其一，用户隐私泄露问题。根据微博微热点（wrd.cn）的词云显示，与“Zao”有关的关键词关联最大的除了自己名字本身，就是“用户协议”，这份用户协议怎么了呢？有网友指出，“Zao的用户协议太离谱了”、“有手机号，有面部图像，通过技术合成，犯罪分子可以替你和你的家人通话了”“刷脸支付要被破解了？”……

Zao App 的《用户协议》

而虎嗅也曾在文章《Zao：朋友圈的又一个牺牲品？》中指出：

用户通过Zao在平台使用并替换新头像，其图像信息是否留存在服务器中？大概率是要留下来的——做什么呢？到目前为止，Zao没有任何付费功能， 在一夜之间爆火之后，其服务器一度瘫痪。一家公司做一款不赚钱且很难留住用户的产品，是不是另有所图？

其二，视频内容的监管问题。目前，Zao的操作就是很简单的用户上传照片制作视频，但如果用户上传了某些不合规的照片，甚至通过一些简单的技术替换了视频，这样的成品传播到网络上该怎么办？平台是否有责任？当然，更重要的是目前平台是否有这样的监管措施？可惜的是，没有。

其三，难以界定的版权风险。面对Zao平台上存在的大量国内外影视综艺内容片段，我们不禁要发问，Zao是否取得了这些视频的著作权使用许可？在中国政法大学知识产权中心特约研究员、律师赵占领看来，

用户对于其ZAO平台上所上传的内容，有的拥有版权、肖像权，或者从权利人处获得授权，但是有的并未获得权利人的授权。比如，用户未经授权将影视剧的片段上传到平台，该行为构成版权侵权，ZAO对于用户的侵权行为是否承担责任一般根据通知删除规则来判断，即当权利人向ZAO发出侵权通知后，ZAO应该及时删除侵权内容，但是ZAO对于用户上传的侵权内容属于明知或应知的除外，比如，用户上传的是热播影视剧中的片段，比如ZAO对于用户上传的内容进行了推荐。所以，ZAO对于用户的素材在某些情况下，特别当该内容是影视剧的片段时，ZAO很有可能构成帮助侵权。

是天使还是魔鬼？

其实在AI换脸技术我们应该很熟悉了。在B站鬼畜区，恶搞蔡徐坤、乔碧萝等视频数不胜数，其中最常见的恶搞方式就是用AI换脸技术将他们变成其他有槽点的人，达到莫名的戏剧效果。

这其中用到的AI换脸技术，又叫Deepfake，是人工智能的一个小分支，这技术看着新颖，实际操作起来其实不难。而换脸技术运用最广泛的领域就是电影，比方说1994年的《阿甘正传》就用了“原始”的换脸技术，用数字方式，将肯尼迪的影像填充到了电影中，栩栩如生。再比如在《速度与激情7》中，虽然主角之一的沃克不幸在电影拍摄完成前去世，但依靠换脸技术，通过电脑合成的沃克，还是能生动地出现在荧幕上。

《速度与激情7》剧照

但技术的使用终究还是取决于使用者。deepfake第一次广泛出现在观众视线中，是在Pornhub（俗称P站）上流行的“deepfake”系列视频，这些视频把女明星的脸放到色情片女主角脸上。在这个色情领域，安妮·海瑟薇、艾玛·沃特森、神奇女侠加尔·盖朵等一众女明星惨遭换脸，画面不堪。色情有时候真是传播的利剑（王欣点赞），使得deepfake走进了千家万户，也受到了社会一致的批判。

知名人文艺术博主“X博士”曾发布过一篇文章《AI换脸是色情报复的新武器》，文章提到一个案例，印度记者Rana Ayyub，因为揭露了印度古吉拉特暴乱中官员的黑幕和不作为。她不仅收到了死亡威胁，不法分子还利用Deepfake技术，将Rana的脸与色情片女主角的脸互换，做成粗糙的短视频，在Whatsapp上传播。而且，许多印度人真的信了，甚至，Rana的家人还拿着视频来问Rana：“这是你么？”

在印度Whatsapp上流传的Rana的换脸视频，据Rana说，整个印度的人都看过了她的换脸视频。

Whatsapp和推特上，不断地有人来询问Rana一夜情的报价，也有人用最恶毒的语言咒骂Rana，大意是：“一个婊子跟狗一起死去吧，支持她的垃圾都去哭吧。”

最后，因为社会的压力，Rana患病住院。心悸、焦虑、抑郁、失眠、高血压、内分泌失调。而且，印度尚不健全的法律制度，帮不了Rana。

可怕之处就在这里——假如你憎恨某个人，那你就可以收集他的照片，用deepfake技术与色情片演员换脸，伪造色情视频，在网上传播。在这个网络时代，在这个疯狂的舆论世界，这样的“色情复仇”的后果难以想象。

一个世界，两面AI。

技术可以带来繁荣，也会带来阴暗。正如我们这次的主角——AI，毫无疑问，AI技术可以给社会带来进步，给大家带来乐趣，但是，总会有内心扭曲的人，利用AI，利用人性，给社会带来灾难、带来痛苦。我想，无论Zao这个App的研发目的是什么，我们都应该以审慎的态度对待它，对待它背后所代表的东西。

在狂奔路上驻足，在狂欢之下深思。

文章精选：