脸书封禁Deepfakes视频 曾有大量AI虚假号支持特朗普

美国2020年总统大选临近，Facebook发力打击假新闻。据外媒报道，当地时间1月6日晚间，Facebook在官网上宣布，将禁止发布由人工智能深度伪造（deepfakes）的视频，但模仿和讽刺类视频不会删除。

Facebook在官网上发布公告。

Facebook全球政策管理副主席Monika Bickert在公告中写道，有些人会利用这类视频来制造假新闻，对人们产生误导。即使现在在网络上出现得还不多，但是随着它的应用增加，会对互联网产业和社会形成巨大的挑战。 

Facebook全球政策管理副主席Monika Bickert。

Bickert还表示，涵盖40种语言的50多个Facebook全球合作伙伴，会作为第三方独立事实审核员来对这类视频进行审查。如果有照片或视频被评为虚假或部分虚假，Facebook将会大大减少对它的分发，并拒绝将其作为广告进行投放。更为关键的是，如果有人看到、想要分享或者已经把它分享出去了，都会看到“虚假”信息的警告。

据悉，仅在两周前，Facebook曾宣布关闭数百个持续发布政治内容的虚假账号、页面和聊天群组，这些账号冒充媒体、政党、公众人物发布政治相关内容。值得注意的是，其中一些账号使用了由人工智能生成并伪装成美国公民的个人资料照片。

据美国社交媒体分析公司Graphika和一家智库——大西洋理事会分析发现，Facebook上的许多虚假账号的内容是在支持特朗普，或者在攻击特朗普的竞争对手。

这并非AI首次被利用在政治活动中。此前，Deepfakes已经能制作出以假乱真的特朗普讲话视频。而在今年早些时候，跨大西洋选举诚信委员会联合一家AI公司做了线上测验：提供一些声音样本，让受测者选出更接近特朗普的声音。结果显示，90%以上的受测者认为AI模拟的特朗普比人类更加逼真。今年以来，美国已经有不少政界人士公开表达对于AI干扰选举的担忧。

有观点认为，作为全球最大的社交网络，Facebook正尝试在今年的美国总统大选之前打击假新闻。在2016年的美国大选中，假新闻在Facebook平台上疯狂传播，导致该公司受到广泛批评。

据了解，一些美国民主党人士认为，Facebook新政策的力度远远不够。去年美国众议院议长Nancy Pelosi的一段视频引起争议，Facebook拒绝将其删除。该公司辩称，已经对视频内容进行过事实核查，并缩小了在社交网络上的传播范围。但在目前的新政策下，该众议院议长的视频仍不会被删除。

此外，去年9月Facebook曾宣布向一个基金会捐款1000万美元来改善Deepfakes监测技术，微软、谷歌等其他公司也在努力打击Deepfakes视频。