新书速递 | 《幕后之人：社交媒体时代的内容审核》

你了解过互联网审核员吗？看过2021年大热剧《我的巴比伦恋人》的观众或许会记得，女主角陈美如从事的便是商业性内容审核，她需要快速处理网站上他人恶意上传的情色内容，用手动筛查的方式处理掉隐蔽的图片。冷静、快速是他们工作的第一要点，任何情绪反应都需要被克制，用冷漠的心态去应对各种令人不适的画面，以及机械、重复、日复一日的工作。通过它，我们可以瞥见互联网里不被看到的一角，领会真实世界里的商业性内容审核员生存的艰难。比起普通的蓝领，他们需要具备更强的心理素质和抗压能力，去处理各种令人不适的画面，直面人性中最阴暗龌龊的角落，这些都不可避免地会带来精神上的损害，焦虑与压力如影随形。而作为不被看见的群体，他们的工作福利也得不到保障，时薪低，工作安排精细到分钟，上厕所要报备都是常事，得到的报酬与需要承受的心理损害并不匹配。他们是互联网上不可缺少的重要一环，如果没有他们，互联网将被撕开一个口子，并马上被垃圾填满。但这又是一份不为人所知的工作，是五光十色、绚丽光彩的互联网里被刻意隐藏的一个环节。“我希望他们可以离开阴影处，从屏幕后面走出来，走到光亮的地方来。”从2010年开始，美国学者莎拉·罗伯茨就一直高度关注互联网审核员的生存境遇，为此还突破了互联网公司各种保密协议、地域限制等层层阻碍，访谈了许多在职或离职的一线审核员，以及业内人士、学者、律师、记者等更大的群体，为读者勾画出一个详细的商业性内容审核员工作场景。那如何改善从业者的工作待遇呢？从看见他们开始吧，从不称呼他们为“鉴黄师”开始。

“我曾经称自己为食罪者”         

 ——互联网审核员的坦白  

编者按：一个互联网内容审核员每天要应对的是什么样的内容，他们的情绪会受到多大的影响？内容审核在多大程度上影响了他们对互联网的看法，甚至是对人性的观察？这份访谈记录可以带我们一窥究竟。

在YouNews做了一段时间的商业性内容审核员之后，梅琳达发现自己越来越难以自拔，即使在下班后，她也会想着在她没有进行审核的这段时间里会发生什么事情。她开始投入更多的时间，甚至超出了劳动合同的要求。由于审核论坛内容所引发的焦虑和不安，她的精神状态每况愈下。她越来越焦虑，越来越觉得自己有责任去进行干预，保护他人，特别是她删除的很多攻击性内容都把矛头指向某些阶级、种族和性取向。

实际上我哭了很多次。做那份工作的时候，我总是觉得自己很脏。我很焦虑，你能明白吗？我每周只需要工作40个小时，但实际上我的工作时长要长得多。就是因为我不能……你知道的，我会躲在课堂外面查看论坛，尤其是我和某个人发生口角的时候，我更无法忍受把那些内容继续留在上面。我知道它们对我产生了怎样的影响，我不希望别人也受到类似的影响。在生活中，我会尽量避免和那些没素质的人渣争吵，尤其是当牵涉我的各种身份、我的朋友和我关心的人之时。所以实际上，直接跟他们交涉是相当难的。一段时间过后你会有些震惊。而且你真的会非常投入。我觉得我可能更多地扮演了保护者的角色，这也算是一种自我保护的方式，能够使自己不会对某些内容耿耿于怀。我经常会幽默一下。我会嘲笑一些特别不好的评论，因为它们太糟糕了。我从来没有见过用户上传的儿童色情照片，但我进行过两次上报，当时有人发表了一些关于强奸儿童的评论，十分令人不适。

同时，梅琳达也认识到自己的能力有限，无法带来任何改变。这让她感到沮丧和无助。

梅琳达·格雷厄姆：我的意思是，这是互联网，言论自由。我只能说，你可以随意谈论强奸儿童的事情。（苦笑） 

我：你只能把它们删除并上报。

梅琳达·格雷厄姆：这是我唯一能做的事情。这份工作能做的事情很少。

我：你会感到沮丧吗？ 

梅琳达·格雷厄姆：非常沮丧。我曾经称自己为食罪者（sin-eater）。

我：食罪者？ 

梅琳达·格雷厄姆：是的。我吸收了所有的负能量。而正如你所知道的，我没起到任何作用，因为他们可以跑到别的地方去发言。如果你登录weather.com……weather.com…… 这可是个天气网站啊 ！上面整页整页的内容都在引用经文来说同性恋者都会死、都会下地狱。这是个天气网站！即使你发了一只猫的图片，都会有人评论说：“死基佬。”可能就只有两条评论会说：“噢，猫咪真可爱。”你能明白吗？（苦笑） 所以，我真的搞不清楚，我想告诉自己，这些人只不过是一小撮坐在地下室里反社会的青少年罢了。但这样的人非常多。这真的让我对人性都不那么乐观了。恶心的言论这么多，不可能都是由一小撮人发表的。

“食罪者”是在威尔士和英格兰广为流传的一个民间传说形象，作为净化者，他/她要吃掉摆放在刚离世的死者身上的面包或麦芽酒，它们代表了死者不可饶恕的罪恶。食罪者通常是社区里的穷人，他/她通过这种方式背负死者的罪恶，从而获得经济补偿。因此，那些经济不稳定的人更有可能成为食罪者。作为一名商业性内容审核员，梅琳达在这个被遗忘的英国传说形象身上找到了自己的影子，而不是某个在科技行业或社交媒体行业的人。

我们访谈到这里的时候，梅琳达的伴侣回到了我们所在的昏暗客厅里，做了一番总结陈词。作为多年的网络用户和运营过大型在线媒体网站的专业人士，她状似漫不经心地开口：“如果你给互联网开一个口子，”然后抿了一口葡萄酒继续道，“它就会被狗屎填满。”

梅琳达在各种在线网站和社交媒体平台上做过很长一段时间的志愿审核员，这使她能够将商业性内容审核工作和志愿审核工作进行比较，这是一种有趣的对比。她指出，相较其他在线空间而言，YouNews的审核工作缺乏职权和控制力，在遇到问题时，她不知道要在哪里获得资源和支持，也不知道如何将问题提交给上级处理。她也强调了在线社群的本质，比如DearDiary的论坛，参与者将自己看作社群的一分子，发表的内容会经过严格审核，有非常清晰的规则，所有发言者都要遵守。事实上，梅琳达觉得在YouNews的环境下使用“社群”的概念是带有误导性的。她认为YouNews 的论坛不像是一个社群，而更像是一个相互攻击、恶语相向的地方，这正好是她理解的“社群”的反面。

梅琳达在YouNews从事审核工作的效果使她怀疑，像这样的综合性在线论坛到底能不能促进人们之间的对话和理解。事实上，她觉得YouNews反而起了相反的作用，像这样的论坛和在线空间不仅毫无益处，还会造成破坏性的影响。

你可以看看YouNews上面那些普通猫咪文章底下的评论，你看不到那些人对社群的认同，你看不到他们对社群的建设。他们只是在丢人现眼，你知道吧？他们没有为文明发言和真正的对话做出任何贡献。HuffPost网站没那么严重，那里会有一些约束措施，点开用户的小头像，你可以看到那个人发表的其他评论。还有些社群的自我管理机制很有趣，它们会根据用户的行为好坏给予奖赏或惩罚。用户可以通过点赞和点踩让恶意内容沉下去。在YouNews这种地方根本没有这样的机制。你唯一能做的就是点击举报，投诉它是侮辱性内容或者表示反对。就是这样，点击。

这些经历给她在线上和线下的人际交往蒙上了一层阴影： 

我觉得我的沮丧和孤立感很大程度上来源于这份工作。我以前在认识新朋友的时候，会假定他们没有恶意，但现在我对别人的态度不像以前那么乐观了。你能懂吗？当身处公共场合或者遇到朋友的朋友，我会比以前更加敏感，觉得他们可能会在心里咒骂我。如果知道我的各种身份，他们可能会笑着和我握手，同时希望我下地狱。

最后，梅琳达对综合性论坛的作用提出了质疑，她觉得它们永远不会起好的作用，相反，它们总是会把那些脏话连篇的喷子吸引过来。梅琳达认为，这些论坛本身就导致了她审核的这些负面内容的产生。

我真心觉得有90%的在线论坛用户并不想进行任何对话。他们就没这个想法。他们只想把心里的话喷出来。如果被骂得狗血淋头，他们会兴高采烈地继续喷下去。我觉得在现实中他们不会这样说话，因为如果在现实中也是这样，就会有人会拿着一块肥皂追着他们打。我知道很多人都有这样的想法，觉得在这些论坛里可以想说什么就说什么。但我认为那些话就是他们真正的想法。丑恶的人就是这么多。

梅琳达以职业审核员的身份参与到在线新闻论坛中，因此她面临着一个艰难的抉择。如果允许人们在这些空间里自由发言，网站上就会充斥着各种辱骂和仇恨言论、与主题无关的评论和垃圾内容；如果对这些空间进行严格的监督和审核，虽然会侵犯人们的自由表达权，但可以使大多数访客正常使用网站。显然，梅琳达倾向于后者，但令她失望的是，雇佣她从事商业性内容审核工作的论坛无一例外地都倾向于前者。归根结底，梅琳达在YouNews的任务是保护和管理品牌，她在访谈最后也强调了这一点。她主张人们应该关闭社交媒体网站上的这类评论区和论坛。果不其然，在接下来的几年里，包括《大众科学》《高等教育纪事报》在内的许多大型在线媒体网站纷纷采取行动，对内容发布流程进行了大幅整改，加入了强制性的审核环节。

的确，威斯康星大学2014年的一项研究表明（《纽约时报》关于《大众科学》网站关闭评论区的文章中也提到），如果读者看到了新闻报道底下的负面评论，他们会更有可能对这篇报道本身产生负面的印象。

梅琳达简单地总结道：“人类太可怕了！（笑）讲起这些事情，我仿佛又回到了从前的日子。如果你拥有一个网站，而且找不出一个很好的理由来设立论坛，那就不要设立。它的风险很大，会出现很多负面言论，对你的品牌没有任何好处，还会伤害他人。所以不要设立它。”

本文节选自《幕后之人：社交媒体时代的内容审核》

新书速递

点击下方图书封面👇，即可购买

《幕后之人：社交媒体时代的内容审核》

作者：[美]莎拉·罗伯茨

译者：罗文

ISBN: 978-7-218-16424-3

定价：68元

精装·248页

出版时间：2023年5月

广东人民出版社·万有引力

内容简介

进入社交媒体时代，互联网上的内容日益混乱驳杂，商业性内容审核已成为一项广泛存在、极为必要的工作。而抵御不良内容的主要屏障并非是机器算法，而是人。数以百万计的审核员承担了大量的工作，他们评估社交平台用户上传的信息，筛选和移除色情、暴力、仇恨言论等不良内容。然而，出于各种原因，这个行业长期游离于社会关注之外，从事相关工作的审核员群体也不被大众所知。

在本书中，作者对商业性内容审核这一行业进行了充分的社会研究。基于对从硅谷到菲律宾、专业审核公司和主要社交媒体的一线员工的采访，本书对这个不被人所知的行业进行了全面分析，考察了互联网商业性内容审核工作的不同类型（短期合同工、专业公司、外包、零工），揭示了审核员们的社会待遇、身心健康、日常生活、职业发展等，并针对内容审核过程中出现的政策争议、犯罪制止、社会影响等进行了分析和阐述。本书对于互联网内容审核员这一“幕后之人”群体的揭示性调查，不仅对商业互联网的现实做出了独到的描述，还提供了对数字时代全球化劳动力未来的洞察。

作者简介

[美]莎拉·罗伯茨（Sarah T. Roberts）美国加利福尼亚大学洛杉矶分校教育与信息研究院助理教授。她是2018年卡内基学者（Carnegie Fellow），并于2018年凭借在互联网内容审核方面的研究成果，荣获美国电子前哨基金会（EFF）巴洛先锋奖。

译者简介

罗文广东阳春人，毕业于深圳大学哲学系，师从著名尼采研究专家杨茂明教授。

编辑推荐

★“如果你给互联网开一个口子……它就会被‘垃圾’填满”登陆一个网站，打开一个APP，我们享受其中的优质内容，并沉浸其中；然而，我们所看到的一切并非它原本的面貌。一个隐秘且庞大的内容过滤机制，已经事先为用户扫除了无数劣质、不良的内容。而无论是这套商业过滤机制的操控者，还是具体筛查工作的执行者，仍然是活生生的人。
★“我希望他们可以离开阴影处，从屏幕后面走出来，走到有光亮的地方来。”在一个自动化、智能化的时代，互联网的商业性内容过滤机制为何仍然需要大量人力的投入？从事这项工作的普通员工，他们每天如何开展工作，面对的是什么，又遭遇了什么？他们的经济权益、身心健康是否得到了保护？他们对于自己的劳动、社交媒体经济乃至互联网的文化和政策，又有哪些敏锐的理解和洞察？
★潜心八年、突破重重阻碍的田野调查，揭示互联网的真实生态和幕后运作《幕后之人》源自本书作者莎拉·罗伯茨2010—2018年长达八年时间的调查研究。她突破了互联网公司保密协议、地域限制等重重阻碍，访谈了许多离职及在职的商业性内容审核员，以及包括业内人士、学者、律师、记者等在内的更大群体，全面考察了互联网商业性内容审核工作的不同类型，揭示了审核员们的生存境遇，并针对内容审核过程中出现的政策争议、犯罪制止、社会影响等进行了分析和阐述。

专家、媒体推荐

莎拉·罗伯茨这项新研究意义重大，它表明，在线内容审核是运作在劳动力剥削基础之上的全球性产业。——约翰·诺顿，英国《卫报》
莎拉·罗伯茨是数字时代的一名先锋研究者，打开了一扇了解内容审核这一晦暗不明世界的窗口。《幕后之人》是数字经济这一关键领域的权威著作，必将影响未来几年的政策和研究。不仅如此——这真是一本好书！——大卫·凯依，联合国特别报告员
这本书将会令我们对现代互联网的思考更为清晰。罗伯茨巧妙地戳破了社交媒体上内容自由流动的神话，并且引起了对数字劳动者工作的批判性关注。无论你之前如何看待互联网的运作方式，现在都要准备好重新审视它的一切。所有使用、信任互联网客观性的人，都须阅读该书。——萨菲娅·乌莫贾·诺布尔，著有《算法压迫》
《幕后之人》是最优秀的社会科学著作之一。罗伯茨对内容审核员的劳动进行了深入研究，她从同情和共情的角度出发，深刻理解了内容审核员在全球数字劳动力市场中的位置，这为传播政治经济学研究提供了一个引人入胜的理论框架。对于关心互联网如何限制、构建和推动在线言论这一主题的读者来说，这本书是必读之作。——弗兰克·帕斯奎尔，著有《黑箱社会》
萨拉·罗伯茨会带你进入一个隐秘的世界，深入了解那些在全球公共领域中发挥着巨大作用但鲜为人知、不受赞誉的人们所付出的艰苦的情感劳动。《幕后之人》是必读之作，适合所有想要认识、理解在线言论私人治理的人。——丽贝卡·麦金农，著有《联网者的同意》
技术学者的职责，是要揭开某个系统的神秘面纱，以使读者能够认识到那些看似巫师手笔的操作背后实际上是人类双手和智慧的结晶。莎拉·罗伯茨以动人而清晰的文字揭示了影响我们在Facebook等平台上所见内容的劳动和判断力量，以及这些平台无法实现它们所承诺的一切的事实。——西瓦·维迪雅纳坦，著有《反社交媒体》

图书目录

序　言 互联网的背后 1994年夏，威斯康星州麦迪逊
第一章 幕后之人 2010年夏，伊利诺伊州尚佩恩 被掩藏的数字劳动：商业性内容审核机器中的幽灵：数字系统中的人为痕迹结语 
第二章 理解商业性内容审核 “后工业社会”的知识劳动简史工作的新本质：数字时代的知识劳动全球化的知识劳动力：修辞和实践中的“外包”Facebook的数字计件工作商业性内容审核的重要性
第三章 硅谷的审核工作 没有攀岩墙，没有寿司，没有保险：MegaTech的合同工文化 MegaTech的审核：工厂式的环境 谁来决定？MegaTech的内部政策制定和应用 MegaTech与国际外交：商业性内容审核的隐形外交政策职能在线犯罪制止者：MegaTech的阴暗面和商业性内容审核的司法面向 “你无法摆脱它”：工作压力、孤立和影响 “在泥潭之中”：审核工作对员工及其亲友的影响旋转门：MegaTech的企业文化和商业性内容审核员的架构 “低垂的果实”：MegaTech和全球商业性内容审核外包 没有商业性内容审核的互联网 
第四章 “我称自己为食罪者” OnlineExperts：云端上的小型专业公司  远程办公，云端工作 品牌保护方面的社交媒体专长员工价值观与公司需求：OnlineExperts的员工“有时候会词不达意”：作为商品的本土文化语言知识  “我已经把它抛在一边了”：应对OnlineExperts的工作 “玻璃心者勿入”：网络的性质和商业性内容审核的干预 早期对新闻的审核 身份、禁止不雅用语、言论自由的范围“我曾经称自己为食罪者” “社群”的本质，线上和线下
第五章 “现代英雄”：马尼拉的审核工作 马尼拉的商业性内容审核：怡东城的约会应用数据把关人 菲律宾和作为基础设施的商业性内容审核 菲律宾的商业性内容审核工作环境：城市化、经济特区和IT园区 波尼法秀环球城 后殖民时代的遗产、BPO公司和菲律宾“怡东城的现代英雄” 
第六章 数字人文 2018年夏，加利福尼亚州洛杉矶
注　释致　谢