Facebook发明了一套人工智能审核系统，直播视频也有“网管”了 | 独家编译

血腥、色情、暴力……这些被各种条款约束的视频内容，现在又在直播平台上“容光焕发”了。社交工具越来越盛行，它正全面地渗透进我们的生活，作为社交平台的管理者，自然需担当起“看门狗”的角色。然而面对海量的内容，单纯靠人工筛查显然并非长久之计，那么Facebook、Twitter等公司是如何使用人工智能来辅助审查？本期全媒派（qq_qmp）精编了华盛顿邮报与路透社的两篇报道，让我们一窥这个领域的现况。

发展：人工智能解放人力

“她得到了很多赞。”这是公诉人对俄亥俄州一位18岁女性的描述，这位女性因直播朋友被强奸的过程而被状告上法庭。毫无疑问，像Periscope和Facebook Live Video这样的直播应用极可能让观众目睹一些令人发指的画面。这些恐怖的事件虽然不常发生，但是自杀、强奸或者家暴等直播确实已经一览无余地展现在使用者面前了。

监控、移除直播软件和视频网站上的暴力色情内容，一开始一直是靠人力来操作的。被用户标记为“不合适”的视频，工作人员需要花费数小时浏览，将的确违反规定的内容进行下架处理。这是一项很让人筋疲力尽，甚至偶尔感到恐惧的工作，海量内容如果单纯用人力来处理是极大的挑战。现在，人工智能准备好来帮忙了。

智能监测的软件最近被包括Twitter和Facebook在内的多家公司使用，分别应用于它们的直播服务Periscope和Facebook Live Video。而像Clarifai和Dextro这样的公司，同样在发展此类智能软件的过程中受益匪浅。Dextro是一家纽约的创业公司，最近也在运用视频识别AI在直播应用上搜索内容——不作为监控敏感视频的工具，而是用于扫描有趣的或者与品牌相关的视频。这样的技术或者类似的软件也可以轻松地清除色情或暴力的内容。

挑战：识别技术与伦理道德

联合创始人David Luan表示，研发智能软件最大的挑战不是识别静止图片，而是要识别动态图像、音频以及其他所有能够表达视频内容的元素。“就像尝试再创造一个人类的视频观看经验。”Luan说。

过去，我们习惯依赖“标签”来让电脑系统认识视频内容的本质，但是Luan认为，如果将一个视频简化成几个关键词，势必不能准确地描绘整个图景。“问题在于，这些视频远比一张张图片复杂多了，即便是一连串图片排在一起，如果你只一张接一张地分析图片，它们的运动方式、它们的声音，都会被忽略掉。”他说：“所以你需要将其当作一个整体进行分析。”Luan认为，这些靠标签识别是永远不能做到的。

另一方面，Dextro的软件可以在某一特定框架下识别出物件和记号而无需人工干涉，比如视频里有一把枪，那么这可能就是一个潜在的暴力视频。AI识别的飞速发展为人力监控提供了极大的帮助，Luan的软件现在可以在视频发出300毫秒内分析出相关信息。

Cortex是Twitter旗下专门用以监测Periscope的人工智能，自2015年7月成立以来，一直致力于研发能够观看并推荐直播视频的软件。“Periscope一直在配合Cortex做试验，将直播内容进行分类与甄别。”一位Twitter的发言人表示：“该团队着力于将这种高科技往编辑方向靠近，目的是在Periscope上提供无瑕的探索体验。”但Cortex并没有宣布推出这项产品的具体时间。

通常，人工监控视频内容都被外包给菲律宾等国家，Luan认为即便是在AI充当主力的未来，人工干涉仍然有重要作用。“人类主要是帮助优化算法，并随着时间推移不断改进。”他这样评价其公司的监控AI。但是在Philando Castile和Alton Sterling死在警察手里的直播视频被广泛传播后，更多的问题出现了：这些科技创新者作为内容的监控者，对视频的审查是否是道德的或者适宜的呢？如果机器成为了最主要的监管者，它将如何处理这些视频呢？

Facebook：人工智能是趋势 但需谨慎使用

今年，社交巨头Facebook卷入了若干场内容监管争议事件中，包括因裸露画面移除一张标志性越战照片而受到世界范围的抗议，以及因纵容虚假新闻而饱受批评等等。曾经Facebook主要依赖于用户举报不宜内容，然后由工作人员依据“社群规定”来核查。如果涉及到可能要修改政策的棘手内容，核查工作则交由公司高管操作。

Joaquin Candela是Facebook的应用机器学习部主管，他告诉记者，Facebook越来越多地使用人工智能来查找敏感内容，是一种“能监测到裸露、暴力，或者其他不符合政策规定的算法。”从今年6月开始，Facebook就开始自动化标记极端分子的视频内容了。

现在，该自动系统开始被试用于直播应用Facebook Live。不过，此举还处于研究阶段，因为有两个问题需要解决。Candela表示：“其一，你的电脑视觉算法速度必须足够快，这一点我想我们能够做到；另外，该系统得学会正确地排列内容优先级，就像一个人，一个懂得我们政策的专家，才能对不宜内容进行下架。”

Facebook还使用自动化系统处理每周数以千万的报道，识别重复的内容，并且将被标记的内容发送给有某一领域专业知识的审稿人。CEO扎克伯格在11月也表示，Facebook将会把自动化系统纳入计划中，用以甄别假新闻。在11月8日美国大选之前，Facebook用户看到了诸多假新闻，例如教皇弗朗西斯一世为特朗普背书，一位曾调查希拉里的联邦探员被发现死亡了等等。

然而，Facebook认为，如果要确认某段内容是否真的不合时宜，还需要联系上下文来看。Facebook的人工智能研究主管Yann LeCun就拒绝对人工智能应用于甄别假新闻发表评论，但是LeCun表示从总体上看，新闻推送的改进引发了过滤与审查、言论自由与可信内容的权衡问题。“这些问题的发展远在我们是否发展人工智能之上，”LeCun说：“我还不够格去决定如何取舍。”

也许正如《西部世界》里的图景那般，机器人给人们带来寻欢作乐的机会，但同时也掀起了伦理道德的风波。每一场变革都有前进与剧痛，愿在“人工”控制下的“智能”能最大可能对人类社会有所裨益。