最近，阿里巴巴安全部门在官方微博上发布的一则 #全网不斥巨资的最强招募令# ，点爆了我的各大微信群。（上一次讨论度这么高还是爽子日薪208万）
这则招募令之所以会引起轰动，关键在于招聘的是一位“AI 鉴黄一日体验官”。ta 的任职要求看上去也没啥难度，资深老司机必备的素质都在这儿了。身体素质良好、遇“视”冷静，有一定自控力
长期混迹网络、阅“片”无数，对尺度稳准狠
高速驾驶经验、持“证”上岗，确保永不翻车
最重要的是，这位体验馆不仅可以获得 1T 硬盘和 1 年网盘会员，还日薪 1000 元！路费不用自己掏，阿里的下午茶随便吃，这待遇，难怪大家纷纷高呼“我可以”……但大家不知道的是，包括「鉴黄师」在内的“网络清道夫”这一职业，其实并没有大家想象的那么“爽”，甚至可以说是“很痛苦”。
如果没有他们，你所接触的互联网，什么样的内容都会出现，黄色的、暴力的甚至挑战人性的……
Facebook 最初的理想是让这个世界变成一个统一的社区，打造一个“全球性社区，让任何人都可以分享任何东西”。多年来，扎克伯格坚持认为，Facebook 既然只是个连接世界的平台，本质上是家科技公司，就不该对在这个平台上发布的内容负责。
近两年，Facebook 也因为这一理念带来的后果饱受争议，甚至被告上法庭。
在 2017 年 12 月，Facebook、Google、Twitter 都对外宣称，已经引入了事实核查，加大力度研发算法，同时聘请更多的专业人士加入。
但实际上，算法和专家背后，还有许多普通人在对抗着世界的阴暗面。
2018 年，导演 Hans Block 和 Moritz Riesewieck 拍了一部纪录片《The Cleaners》揭开了人工审核的遮羞布。
纪录片以菲律宾的首都马尼拉为背景，在马尼拉市中心高档的写字楼隔间里，显示屏上打出明晃晃的亮光，投射在内容审核员丹尼斯的脸上，各种生殖器的照片她已经见怪不怪了。
她要先学习英语里各种有关下半身的脏话、俚语，然后要对男女的人体构造研究透彻，对人类诸多的变态癖好吃个通透。
下了班，还得去趟成人用品店，熟悉熟悉最新上市的成人用品，了解千奇百怪的硅胶玩具，来决定平台上的这些图片和视频，是删除，还是保留。
在普通人眼里，这似乎就是互联网的“鉴黄师”，上班时间看着平时都难以搜索到的禁片，领着工资。而实际上，多数内容审核员因为看了太多的成人图片，已经严重影响到自己正常的性生活。
除了“色情”审核外，审核儿童相关内容的工作人员，需要承受更强烈的冲击。他们每天都会看到那些对孩子施虐、色情的照片、视频，最小的孩子不过 5 岁。
在一些战乱地区的视频和图片里，总会有手无寸铁的孩子躺在地上，或者赤身裸体地奔跑。
审查员也不知道该选择还原历史真相，还是根据规定把这些过于裸露的图片的删除，一般来说，他们会选择后者。
至于那些对孩子进行侵犯的内容，没有工作人员愿意去看完，但审核工作要求必须完整浏览后给出评判。
当工作人员表示无法坚持看下去的时候，团队负责人会劝说这是你的工作，要坚持下去，并且告诉她签了合同。
这位姑娘在纪录片的最后，放弃了这份工作，她宁可回到穷困的老家，和父母一起捡垃圾。
他们面对的是一段段从 Facebook 网络端传来的恐怖组织的处决视频。
那些杀人的视频，如果只是枪击，算是轻松的。但这类内容里，更多的杀人手段，是斩首。
“被害人跪在镜头前，行刑者蒙着脸，对着镜头宣读一通罪状。在欢快的民族音乐里，行刑者掏出刀，对犯人进行斩首。”
如果斩首时用的是大砍刀，那就是刀起头落。如果行刑者拿的是小匕首，斩首将是个漫长的过程。审查员已经可以通过伤口的平整度，判断暴徒用了什么刑具。
每一分钟，YouTube 有 500 小时的视频，Facebook 有 250 万条信息，Twitter 有 45 万则推文在上传。
在海洋般的信息流中，恐怖主义、虐杀、自残、色情、极端组织言论、政治宣传夹杂在网友的猫咪和美食照片里面，谁来负责清理这些垃圾信息？
据不完全统计，各大科技公司的内容审核员工都来自第三世界国家或是不发达地区。其中，在菲律宾的外包内容审查员人数超过了 10 万人。
YouTube、Google 和 Facebook 等科技巨头都会建立双重审核制度，一是通过人工智能和算法进行首层审核，接着是通过建立在东南亚的外包公司来进行人工过滤。
作为一项庞大的劳动密集型产业，大多数人受到保密协定的约束，他们的工作直面互联网的黑暗角落：过滤暴力、色情、恐怖内容，他们被称为“网络清道夫”。
在成为审查员之前，这些人需要经过三到五天的上岗培训，培训的内容，例如记住 37 个恐怖组织——他们的旗帜、制服、口号。
通过类似这样的培训，审查员上岗并化身成为道德天使，通过机械又辛劳的工作，使人们相信对社会的美好想象。
在培训中，外包公司会告诉审核员们会看到什么，需要用到什么工具，以及会产生什么后果。
不少审核员会心生退意，这时候组长会对他们进行劝说，并且告知他们已经签了保密协议。
保密协议中要求不能透露他们为谁而工作，如果违反了保密协议，他们就会失去工作并面临 10000 美元的罚款，甚至牢狱之灾。
并且，Facebook 和 Google 并对外宣称，他们没有在马尼拉的员工。事实上，马尼拉的审核员的薪资也的确不来自 Facebook 或者 Google，而是外包的公司。
内容审核员就像阻击手，目标是那些违反了应用程式规定的用户。“我做了六年的内容审查员，每天必须浏览 25000 张图片。”
在记录片中，被采访的审查员自述道，清理脏东西，是他们唯一的职责，确保没有任何可疑的内容上传在平台上。
他们同时也会对这份工作产生自豪感：“如果我们少工作一小时，那互联网就会一团糟。”
Facebook 在 2017 年的遭遇也印证了这句话：一名泰国男子放出了他杀害 11 个月大的女儿，然后自杀的视频。这段视频引起了全世界的一片哗然，并在社交网络上保留了近 24 个小时，这让 Facebook 成为众矢之的。所以，Facebook 的内容管理员也从 2017 年的 1 万人，增加到 2019 年的 3 万人。
张一鸣也在去年提出强化总编辑责任制，不断强化人工运营和审核，将现有 6000 人的运营审核队伍，扩大到 10000 人，天津似乎也成了互联网“审核之都”。
目前，新浪、头条、网易、陌陌、豆瓣、搜狐等都在天津设立了审核专员职位，不少公司在济南和成都也有设立审核中心。
在招聘网站中，网络信息审核员这一职位的平均工资在 4-6 千元左右。
相比我国，纪录片中出现的审查员时薪仅有 1 美金。
美好愿景的话术，实际低廉的工资，同时还有心理问题的出现。
由于外包公司们未配有相应的心理咨询师和审核员们每天看大量的暴力色情内容，他们的心理健康极易受到影响。
在审查员论坛上，还有更多骇人听闻的视频，包括虐待妇女、儿童和动物。有人表示他们每看几个视频就得休息一下才能缓过劲儿来。在日积月累的病态工作下，审查员们渐渐麻木，丧失了对人类的信心。
“当我离开公司时，我已经三年没有握手了，因为我发现人们很恶心。”
“世界上大多数正常人都他妈的是怪人。当我离开那里时，我对人性感到厌恶。我的很多同行也遭遇同样的事情，我们都认为人性太可怕了。”
在纪录片中，一位负责审查自我伤害的员工，在看过海量的自虐视频后，不堪重负，在一个晚上选择结束自己的生命。回归到内容审核本身，不少人都会质疑，为什么在技术如此发达的今天，还需要如此大量的人工审核。
2018 年 3 月，今日头条出品了一个反低俗微信小程序“灵犬”，是国内首款反低俗信息小程序。发展到今天，这款小程序已经可以支持检测视频、文字、图片、语音四类内容形式。在文字识别上，灵犬的准确率已经提升到了 91%。基于今日头条反低俗算法模型，用户只需输入文字（10 个字以上）、图片、语音或视频就可以检测信息的健康程度，并给出结论此信息是否可以获得推荐。我找来几张衣着相对较少，但没有明显性暗示的图片测试。结果虽然有两张的分数没那么高，但灵犬依然准确给出了“内容健康”的评价。
但是，对于涉及到诸如男女亲密举动这类有可能打色情擦边球的图片内容，灵犬的算法相对会更为谨慎，在客观检测的基础上，为了避免矫枉过正、草木皆兵的误伤，还是会触发人工审核。
Facebook 就曾经因为“裸露”，误删了一张著名的越战新闻照片，内容是一位小女孩遭到汽油弹炸伤、浑身赤裸奔跑，事件发生后引起了美国新闻界的巨大争议。
离不开人工的一个更重要原因是，涉及政治的内容机器难以直接处理，此类内容一旦出现问题将造成严重影响，必须交由人工进行审核判断。
甚至很多时候，人工也不知道是该还原真相，还是“净化”网络环境。
如果发生误删，也可能会引发霸凌，伤害一个或者更多的生命。
今天这篇文章，主要是想让大家知道，在科技的背后，还有一群人在辅助审核，去做算法无法做到的事情。在任何信息都可以无障碍出现在你的电脑页面的今天，是这群人帮我们过滤掉了淫秽、虐童和极端主义……让我们拥有了一个相对干净的网络环境。