“丢脸”是什么感觉，你ZAO吗
脸，对于人来说是个大事。什么丢了都行，但是脸不能丢，因为它关乎人之为人的价值。
烧我的钱，换你的脸
一夜之间，一款名为ZAO的APP，在第一个公开版本发布不到24个小时里迅速蹿红，不仅在社交媒体上刷屏，更登上苹果iOS免费榜第二，微博热搜话题榜前十，堪称“现象级”。
ZAO最大的噱头是和明星“换脸”，并且嵌入短视频中，可下载后传播，用于社交娱乐。ZAO首次大大降低了AI换脸的技术门槛，用户只需要一部手机和一张个人照片，就可以把多种知名影视场景中主角的脸换成自己的脸。
一位互联网产品经理告诉我，ZAO爆火的原因不是互联网只能玩私域流量了，而是太久没有有意思的创新产品了，“无论如何，ZAO的产品和技术团队肯定做了大量的工作才能产出这么成熟的作品。”
技术界也一片兴奋，同样从事AI换脸技术研发的北京零零发科技的创始人蒋坚认为“如果ZAO能够挣钱，无疑再一次验证中国网民已经有了成熟的付费习惯”，并认为这对所有研发新技术的团队是巨大利好。
ZAO中的换脸视频模板
但麻烦接踵而至，首先是产品太过火爆，服务器跟不上，导致部分用户无法继续使用。8月30日晚间，ZAO官方助手发布微博称，“这个月花700万租的服务器，今晚已经消耗1/3了”，相当于为大众“烧钱”换脸。
但更大的争议随之而来，矛头指向了ZAO用户协议第6条第1项的“霸王条款”：用户要将内容授权给平台及其关联公司，并且是“完全免费、不可撤销、永久、可转授权和可再许可的权利”。
这一争议背后最主要有两点担心。
一是由于AI换脸技术曾经被使用在情色视频黑色产业链中，这一低阈值的隐私保护协议被网友曝光之后，一些下载并使用ZAO软件“换脸”而没有认真阅读用户协议的用户感到愤怒，担心自己的照片被泄露，作色情用途。
截图自ZAO用户协议
二是ZAO软件“本人”登陆需要注册手机号，且要人脸认证。一些用户担心自己的肖像权永久地“被”授权之后，可能会危及个人支付宝、银行卡账户安全。
但是目前来看，ZAO用户只能在给定的小视频模版中操作换脸，不能通过它提供的AI技术自行制作小视频。
一夜之间，ZAO成了2019年的“现象级”APP，也引发了大规模的跨界争议，技术界在讨论视频AI换脸技术的应用前景，投资界在分析背后陌陌系“换脸社交”的商业模式，法律界则在科普隐私安全和版权保护。
深度伪造的争议
记性好的网友马上反应过来，ZAO并不算“横空出世”，换脸技术早有端倪。
2017年底，国外一位ID为“deepfakes”的网友，利用业余时间创造了一个AI换脸算法，悄然流行，后来这个算法也被广泛称为Deepfakes。
Deepfakes是英文“deep learning”（深度学习）和“fake”（伪造）的混成词，专指用基于人工智能的人体图像合成技术。
Deepfakes背后的原理主要依赖于生成式对抗网络（GenerativeAdversarial Network）。简单来说，它来自于两套神经网络，一个创建伪造的视频，而另一个尝试检测伪造，直到鉴别器无法辨别伪造，就算“成功”，合成即可做出以假乱真的视频了。
在Reddit论坛上，有一个deepfakes社区，创立一个月内就聚集了1.5万订阅者，并产生了大量的AI换脸视频。但是这个社区很快被封，因为许多网友开始将色情作品中的主角换成明星的脸，影响恶劣。
作为AI换脸“主要受害者”的影星斯嘉丽·约翰逊在怒斥假色情片影响她个人声誉之余，也指出了换脸技术更大的隐患。“我还不是受影响最大的人，毕竟大家都知道那些影片是假的。可如果是普通人，就要小心保护自己的影像资料了，我无法想象普通人要如何应对后续的结果。”
有研究发现，网络骚扰越来越多发生在弱势群体身上，深度伪造技术让污名化女性、“色情报复”成为可能。
但类似的应用仍旧层出不穷，也越发没有底线。
一位ID为Alberto的程序员开发了一款名叫DeepNude的应用：只需要上传一张女性照片，该应用就能自动移除女性身上的衣服并“填补”出裸体。后来，同样是迫于舆论压力，DeepNude宣布下线。
与DeepNude相似的AI“脱衣”软件
除了换脸，“语音克隆”也突飞猛进，只需提供几秒钟的语音样本，就可以模拟出非常相似的人声。从图片到声音都能合成，视频作为“事实”的权威性逐渐消失只是个时间问题。
但DeepNude的开发者自我辩解时说，“技术已经发展到这一步了，如果我不这样做，别人也会在一年内做出来。”
无奈，监管只能追着技术跑。
但即使有害的deepfakes视频发布后造成负面影响，在许多国家的现行法律下，平台方也是可以免责的。发布者不仅受平台的匿名原则保护，而且因为存在跨国上传，同样很难追责。
扎克伯格被换脸视频截图
众多评论文章都提到了今年6月Facebook总首席执行官扎克伯格的被换脸的视频。但他们往往忽略了视频的内容：以扎克伯格的名义讽刺了Facebook对于伪造视频的暧昧态度，因为扎克伯格一直强调不应该由平台来判断什么是真假。
但6月底，扎克伯格宣布，Facebook已经在制定新的换脸视频监管政策，来预防它们造成恶劣影响，并且表示在未来，Facebook可能会完全禁止换脸视频。
2019年6月13日，美国众议院情报委员会召开关于人工智能深度伪造的听证会，公开谈论了深度伪造技术对国家、社会和个人的风险及防范和应对措施。这是美国众议院首次举办专门讨论深度伪造及其他类型的AI合成技术的听证会。
技术的“潘多拉魔盒”
面对此种困境，想马上找到出路很难：因为事后批评用户不注意个人隐私安全是太过苛责且无用，但又不能把麻烦都甩给网络监管。最后，让我们来讨论一下技术，技术是中立的吗？
似乎是的，至少很多技术的开发者自己是这么认为的。快播的王欣在法庭上那句“技术是无罪的”言犹在耳，谷歌的态度更具代表性和普遍性：重视道德责任，但如果对新技术严加限制，可能会让延缓开发出一些对人类有益的用途。
人工智能算法也经常被描述成一个无人可解的黑箱，由此豁免于道德价值的审判，这也导致了人工智能的技术中立论广为流行。
但如果研发人员说，他们不对技术的伦理负责，只想赚钱；如果使用者说，他们不想检讨技术的阴暗影响，只为好玩。我们指望谁来促成技术、法规和使用需求的良性耦合呢？
打着价值中立的幌子各扫门前雪，韦伯对于现代资本世界的这一特点深感忧虑，他写道“没有人知道，将来会是谁住在这个牢笼里……对此以文化发展之最终极人物而言，下面的话可能就是真理：无灵魂的专家，无心的享乐人，这空无者竟自负登上了人类前所未达的境界。”
但实际上，目前人工智能算法的输出仍然是由数据和代码决定的。劳伦斯·莱斯格在其经典著作《代码2.0:网络空间中的法律》强调，当前技术本身是怎样并不等同于技术必须是怎样。
回顾人与技术互动的历史，我们发现，人类几乎是对新技术抱有天然的不信任。火车刚发明出来的时候，英国民众会被吓到落荒而逃，而摄像机被认为能把魂魄夺走，更不用说现在还遭到抵制的核技术了。
信息技术就像火，起初使人们恐惧，但经过耗时漫长且代价高昂的“驯化”后，人类最终学会了安全而高效地使用火。
AI换脸技术，是否也能被我们“驯化”，成为安全的科技项目呢？
不得而知。
换脸，后真相时代的症候
李彦宏曾“大无畏”地说了实话，中国的互联网用户们“愿用隐私换方便”，而被口诛笔伐。这次ZAO因为隐私协议而受到关注，再次让中文互联网世界的用户隐私成为焦点话题。
如果不是ZAO这一份用户隐私协议激起众怒，又有多少人在使用新款APP之前会仔细阅读用户使用条款，或者在社交网站上传照片前仔细权衡个人隐私泄漏的风险呢？
换脸软件的爆红就在于一键操作。但它所带来的恐惧也在于一键操作。ZAO的用户为了过把明星瘾，“出卖”了自己的“脸”，自娱自乐可以理解，可是由此引发的对人的边界的忧思则需要我们严肃看待、深入思考。
可悲的是，在社交网络上，我们很少甚至不再关心具体的、活生生的人。人的脸成为符号，被替换、被合成、被滥用、被恶搞。使用者不会在乎，谁因此受到伤害。
94版《射雕英雄传》里朱茵扮演的黄蓉被换上了杨幂的脸
《天龙八部》里的扫地僧说，少林七十二绝技每练一技都需要相应的佛法才能化解，而要把七十二绝技学成于一身需要极高深的心法修为，萧峰和慕容复的老爸都因为偷学绝技但心法没跟上而深受其害。
技术发展日新月异，对人性的反噬潜移默化，人的修为跟得上吗？
为什么要讨论这些？因为所有人工智能的问题，不仅关乎技术的伦理应用问题，最终涉及到人的自我认知。
“后真相”（post-truth）一词被频繁用于形容当下的信息环境，并被《牛津大辞典》选为2016年度词汇。
所谓“后真相”是指真相和逻辑在信息传播的过程中被忽视，而情感煽动主导舆论的情况。后真相不一定是就是假相，但可能是片面、主观、捏造的事实。
以前是无图无真相，在后真相时代，眼见亦不为实。我们能相信什么？在社交网络时代成了大问题。
《黑镜》剧照
换脸视频最大的潜在危险是，当人们不再轻易相信自己亲眼所见的信息，形成的多疑的心理正好可以被造谣者利用。如果长期无法分辨真伪，人们要么相信一切，要么不信任一切。
昨天还是一键美颜，今天就能一键换脸，明天会不会一键生成个人虚拟形象？我们对换脸的担忧，与其说是关于技术的，不如说是关于被技术无限放大的人性欲望和已经千疮百孔的社会信任的。
荒谬的可能是，未来每个人都需要证明自己不是人工智能。现在，我们要为分辨色情视频中的明星的脸是不是合成的。未来某刻，我们可能就得分辨眼前的人究竟是不是自己。这不是危言耸听，《黑镜》《西部世界》等影视作品和西方的科技、哲学界正在严肃讨论着这一论题。
现代人对何以为人的认识越来越模糊，过去所有关于“人”的定义已经受到挑战。想到这些，看着朋友圈那一张张被换掉的脸，我忽然悲从中来，浮现出福柯在《词与物》结尾的话，“人将被抹去，如同海边沙滩上一张脸的形象那样被抹去。”
作者 | 南风窗记者 曹柠
排版 | GINNY
图片 | 部分来源于网络
南风窗新媒体出品
猜你还想看
围观
故事
热文
点击购买最新一期《南风窗》