“换脸”泄露隐私、曾用于色情片、钱可能被盗刷……你还敢“ZAO”吗？| 每日话题
近日，一款基于人工智能技术的“换脸”APP一夜爆红。使用者只要上传自己的高清照片，就能让自己变成“周润发”“玛丽莲梦露”“小李子”“绯红女巫”等各种知名人物。既可以自己过明星瘾，又可与心爱偶像“同框”出演，大量年轻用户选择将自己面孔上传网络，“换脸”娱乐。
网友用“ZAO”将演员李现的脸换成自己。
但新华社记者发现，如此“换脸”，用户面部生物特征信息被盗或失控的“丢脸”风险不小。该APP用户协议规定：用户上传自己的照片进行视频“换脸”，将在全球范围内完全免费、不可撤销地将包括人脸照片在内的肖像资料授权给该公司和其关联公司。
虽然此后相关企业在舆论压力下，对其用户协议进行了部分修改，但风险依然存在。9月2日，因“被多人投诉”，“ZAO”的微信分享链接已被停止访问。另据媒体报道，“ZAO”的母公司“长沙深度融合网络科技有限公司”，其100%控股方为“海南喵咖网络科技有限公司”，背后实际控制人为交友软件“陌陌”的高管。
“ZAO”的用户协议被指过度索权。
【浙江新闻：这是一款“丧权辱脸”的软件】虽说“全民娱乐”，这款软件却是“愚民”到家。仔细看“ZAO”的用户协议，人们才发现签的是一个“丧权辱脸”的条款——你是肖像权利人，软件可以用你的脸不负法律责任，但你如果用了别人的脸造成侵权，你得自己承担责任；而且如果“ZAO”及其关联公司因此遭受损失，也得你来承担并赔偿。很难想象这样一款“危险游戏”软件和“霸王协议”，为何能一路绿灯呈现在用户面前？（刘雪松）
B站“换脸哥”用AI换脸软件制作的《射雕英雄传》片段，杨幂替代朱茵“饰演”黄蓉，几乎可以以假乱真。
【荔枝新闻：用户隐私不可轻易“ZAO”作】随着技术的进步，我们不得不让渡更多的隐私，来换取日常生活的种种便利，这是信息化、数据化的必然代价。但关键在于，对用户隐私数据的收集、使用和保管，是否严格遵循了相应的授权流程，并且符合适度原则。此次“ZAO”之所以引发巨大争议，除了视频素材涉嫌侵犯版权外，另一个重要因素是，对用户隐私信息的采集明显过度。“完全免费”“不可撤销”“永久”等限定措辞，意味着用户上传的人脸信息，将成为平台方可以永久保存的数据资产。至于它最终会被如何使用，在平台和用户之间，自始至终都存在着巨大的信息不对称。（余寒）
【新京报：既冒犯用户，又挑衅法律】对任何新产品来说，有些错误和“测试”本不该一再出现，因为法律规定层面早有“标准答案”。如《信息安全技术个人信息安全规范》要求，个人信息控制者开展个人信息处理活动时应遵循“最少够用原则”；《网络安全法》也规定，网络运营者收集、使用个人信息，应当遵循合法、正当、必要的原则。也就是说，在用户隐私保护上心存侥幸，不只是冒犯用户，也是对法律的挑衅。初创公司如果“第一粒扣子”就系错，未免是对企业前途的“豪赌”。（任然）
【新京报：真正的问题在于生物识别信息收集】“ZAO”收集的静态和动态的脸象，属于典型的生物识别信息，是与指纹和虹膜同样敏感的个人生理特征信息。它们很难被一般人更改，所以被广泛用于身份认证、交易和支付环节，如该信息一旦泄露，势必给用户带来持久和难以消除的影响。而公众担心的“换脸”软件威胁支付安全，正是基于这样的考虑。（林蔚）
【蓝鲸财经：技术本无罪，相关企业应坚守底线】技术本无罪，全看使用技术的人想拿它做什么。目前来看，更重要的是相关AI企业应该坚守自身底线。著名学者吴伯凡就认为，科技本身是不能向善的，应该是“让科技向善”。人在使用技术的时候一定要有初心，让科技向善。“之前的技术没有自主性和主动权，比如火、核能都不能自主做事，但人工智能是有自我学习能力的，是非常特殊的，就一定要解决向善的问题。”（许伟）
【界面：应该严肃对待严格监管】这其实是一场复杂的魔鬼交易，只是包括App的开发者在内，并没有意识到魔鬼在谁、隐藏在哪里。技术都很难做到万无一失，但生物识别信息一旦泄露，真的是“一失万无”，缺乏救济渠道。邮箱密码、电话号码泄露了，还可以更改，但人脸、声纹、虹膜等信息泄露后，却没有办法进行更改，个人几乎终生暴露在被攻击和骚扰的风险中。对于ZAO这样的换脸APP，应该更严肃地对待、更严格地监管。（王新锐）
【中国青年报：新技术会带来不适，但不应该封杀与逃避】技术本身并不表达价值观，关键在于使用技术的人。一夜之间，“ZAO”流行大江南北，甚至屡次传出服务器崩溃的消息，说明AI换脸技术本身可能顺应了时代的某种需求。每一种颠覆时代的新技术的出现与普及，社会都会产生不适感，而消除这种不适感的方法，不应该封杀与逃避，而要充分考虑到技术发展的后果，规避相应的风险，让未来与当下无缝衔接。（王钟的）
【光明网：警惕AI换脸打开“潘多拉魔盒”】技术创新和应用的边界不断拓展，对于相关的技术伦理，也该有更多的审视。这些年，人工智能、生物识别、刷脸、自动驾驶等概念很火，资本也趋之若鹜。但是，当这些技术应用越来越多的作用于“人”本身时，其可能蕴含的伦理争议，不该完全被巨大的商业利益所掩盖。新的科技应用创新带来的权益与科技伦理争议，是一个全球性问题。在开放与保守，在鼓励创新与守护伦理之间，构建一套符合公利的平衡性制度体系，刻不容缓。（光明网评论员）
国外网友用换脸软件将女明星的脸换到色情视频中。
【果壳：如何辨别视频真伪？】以假乱真的换脸视频技术，其实不是什么新鲜事。2017年，一位叫“Deepfakes”的网友上传了几个色情视频，主角都是“神奇女侠”盖尔·加朵、“赫敏”艾玛·沃森等女明星。面对巨大争议，“deepfakes”将AI换脸技术作为开源代码放到了网上，只要是懂一些相关技术都可以得到这些开源程序，并且稍加改造就可以使用。我们还有办法应对“Deepfake”的横行吗？Buzzfeed总结了一些辨别方法：1.不要妄下结论；2.考虑内容的来源；3.验证这些内容都出现在哪些地方；4.检查人物的嘴部动作；5.放慢视频，仔细观察。问题在于，在这个“后真相”的时代，我们很难奢求所有人都花心思去辨别一个视频的真伪。（EON）
【北京商报：“现象级产品”红得快凉得也快】“ZAO”之前，音遇、冲顶大会、Faceu、Zepeto都是现象级产品，共同点是红得快，凉得也快。作为后来者，“ZAO”有自己的一套，但问题也是显而易见的，单项技术可以产生爆点，在瞬间获客上斩获碾压式的数据，但是用户留存活跃性成疑。“ZAO”的心思不单纯，用户也不是以前的傻白甜了，一夜爆红之后持续发酵还是慢慢消失，悬念不会留太久。（陶凤）
去年 7 月，美国华盛顿大学的研究者们利用人工智能技术，生产了一段真假难辨的奥巴马演讲视频。换脸技术一旦用于政治人物，后果不堪设想。
【人民日报：换脸好玩，可不要瞎“ZAO” 】“ZAO”的出现是一个警示，“换脸”能风靡一时，未来也可能出现基于“虹膜”、基于“指纹”乃至基于“基因”的产品出现。所以，个人信息的搜集需要有底线，个人信息的保护必须有红线。秉持“最小”与“够用”的原则搜集信息，秉持“最大”与“最紧”的原则保护信息，尽快在技术、市场和规则间寻找可大可久的平衡点，方能为代码注入灵魂，才能最大限度地消弭可能出现的风险，让“ZAO”作终成大作，让技术造福生活。（杨翘楚）
关于这个话题，你怎么看？欢迎留言！
往期文章
荐读 | 《小欢喜》火爆整个夏天,你家属于哪一款？ 荐读 | 梁启超：对家人的态度，是你最真实的人品
话题 | 《哪吒》票房近50亿，它做对和做错了什么
话题 | 炒鞋月入百万、4天暴涨900%，谁是罪魁？ 话题 | 住宿费1.6万,“天价宿舍”是否涉腐涉黑? 评论 |《声入人心2》跌到6.4分，难逃降级定律 评论 | 世界何去何从？新华社专版解析百年大变局 评论 | 严文斌：解构百年大变局之“变”与“局” 人物 | 习近平为何说每次读他的书都“受到教育” 人物 | 她演了20多年配角，49岁成柏林影后 人物 | 两天，两位巨星陨落！一路走好！
声明：“新华每日电讯”微信公号刊载此文，是出于传递更多信息之目的。若有来源标注错误或侵犯了您的合法权益，欢迎致电010-63076340，我们将及时更正、删除或依法处理。部分文章推送时未能及时与原作者取得联系，也烦请原作者联系我们，我们将按国家相关规定支付稿酬。
监制：易艳刚 | 责编：刘婧宇、赵芮萱 | 校对：赵岑
监制：易艳刚 | 责编：刘婧宇、赵芮萱 | 校对：赵岑