他们的身体和心灵，是互联网的垃圾过滤器
▲美国加州大学洛杉矶分校教育与信息研究院助理教授莎拉·罗伯茨 图/Stella Kalinina
与绝大多数互联网平台的使用者不同，平台的内容审核员看到的是互联网的另一面，他们是各种有害内容的过滤者，而他们所承受的精神压力甚至创伤鲜为人知。同时更值得追问的是，为什么这种工作不得不大量存在，且规模并没有随着技术发展而减少？
文 / 南方人物周刊记者 陈洋
编辑 / 李屾淼 lishenmiao1989@126.com
作为商业性内容审核员，梅琳达负责审核社交媒体平台上用户上传的内容。每当遇到用户举报的不恰当内容，她就会依据平台政策，判断是否需要删除并上报。
商业性内容审核员的工作节奏很快，一天往往要审核成千上万份图片、视频或文本，内容通常会涉及暴力、色情、骚扰、仇恨言论等令人不适或潜在有害的内容。这些图文影像会成批出现在任务队列中，且没有固定的节奏和规律。
“可能一个暴力视频后，会收到三个仇恨言论视频，再收到一个骚扰视频，紧跟着两个暴力视频。你会看到很多恶意，看到人类的阴暗面，而且要看一整天，”梅琳达一位曾在硅谷工作的同行这样描述道。
“食罪者”是在威尔士和英格兰广为流传的民间传说形象。他们需要吃掉摆放在逝者身上的面包，喝掉麦芽酒，这些代表着逝者生前不可饶恕的罪恶。食罪者通常是社区里的穷人，他们通过这种方式替死者背负罪恶，从而获得经济补偿。
梅琳达在这个古老的传说中找到了自己曾经的职业的影子。
数字平台的特点是有趣、迷人、容易访问、永远在线，商业性内容审核是让这一切成立的前提之一。为此，这个隐身幕后的庞大群体不得不化身为以身心为滤芯的“食罪者”。只是数字世界的“面包和麦芽酒”愈发难以下咽。有人会因此对人性不再乐观；也有人开始反思，或许正是社交媒体平台本身导致了他们审核的这些负面内容的产生，并对互联网文化和政策背后复杂而病态的一面感到厌倦。
“这份工作损害你的大脑，让你认为暴力是正常的，杀戮他人、肆意轰炸是正常的，你会看到一个人被轰炸，四肢散落各处，头和腿飞在空中……我可以跳过那些视频，但如果质检部发现了，就会被记过。一个月我只被允许出现三次过失。” 2018年在圣丹斯电影节首映的纪录片《The Cleaners（网络审查员）》中，一位匿名的内容审核员这样自述。
莎拉·罗伯茨出任上述纪录片的顾问，梅琳达也是她的访谈对象之一。罗伯茨是美国加州大学洛杉矶分校教育与信息研究院助理教授。2010年起，她开始研究这项“被刻意掩藏的数字劳动”，持续至今。通过访谈分布世界各地，有着不同年龄、学历和专业背景的商业性内容审核员，她希望能从阴影中拼凑出商业性内容审核的轮廓，并以此为切入点，呼吁改善数字劳工的工作条件，提高公众对商业性内容审核所产生的社会成本和政治影响的关注，以及对信息环境和数字人文的反思。
跟其他技术挑战不同，内容审核这类问题很难通过投入大量工程师来解决。人工智能技术的进步仍然无法满足该领域的当下需求。相反，随着人们对数字技术的愈发依赖，反而催生了更多新生的劳动形式。全球以兼职或全职方式从事这项有偿职业审核工作的人数有增无减。
罗伯茨将其多年研究成果写进了《幕后之人：社交媒体时代的内容审核》，近期，该书中文版在国内上市。南方人物周刊专访了罗伯茨，与她就数字零工市场、信息商品化、社交媒体平台影响力、言论自由边界以及互联网伦理等问题展开了讨论。
技术无法解决内生于经济体系的诸多问题
南方人物周刊：你在书中将内容审核员的工作模式分为：在科技公司内部工作、为小型专业公司工作、在呼叫中心工作，以及通过零工平台工作。不同模式的从业者之间似乎存在着一条鄙视链？
罗伯茨：是的。企业通常会将薪酬和地位较低的工作外包出去，这既是出于成本考虑，也能帮大型公司规避很多责任。拥有全球用户群的网站和平台需要依靠这种混合用工策略来满足他们大规模、全天候的内容审核需求，同时节省审核开支，并由此引入一种复杂的分层组织结构和汇报层级。
“鄙视链”确实存在，并与员工所处的地理位置、社会地位、性别、种族等因素相关。那些工作地点就在审核内容最终流入平台和公司的审核员，会觉得自身地位高于那些工作地点远离平台和公司的外包人员。
然而，无论这些商业性内容审核员身在加利福利亚的科技公司，还是菲律宾的呼叫中心，都会被当地管理者拿来与印度同行比较。管理者会催促员工加速完成更大量级的工作，否则他们的饭碗就会被印度人夺走。无论这种情况是否属实，都起到了鞭策本地员工的效果。但问题是，印度本地的数字劳工也并未从这种格局中获益。
南方人物周刊：全球数字零工市场的现状如何？
罗伯茨：人们最初曾乐观地设想，新型技术性知识工作能为参与其中的各类工作者提供更高质量的工作和生活、更丰富的人生和更多的休闲时间，但事实并非如此。以商业性内容审核为例，审核员们的工作环境并没有人们想象中的美好，除了需要大量的劳动力，并不需要特别高的技能。这只是一份重复性很高的无聊工作。商业性内容审核员不得不长年累月地处理包括色情、血腥暴力及包含仇恨言论等的有害内容。
很多内容审核员最初接受这份工作是希望能以此为敲门砖，进入热门的科技行业，给自己的简历加分，可这一边缘性岗位无法帮助他们在大型科技公司获得一份永久性职位。而且，随着社交媒体公司在全球范围内招募那些愿意从事数字计件工作的劳动者，审核员的薪酬甚至进一步降低了。在线内容审核更像是经历了一种反乌托邦式的、由技术进步导致的恶性竞争。全球性的数字零工市场没有最低工资限制，这也使得劳动力的价值由全球出价最低的工作者决定。
新技术的出现以及后工业时代的新型网络结构，并不能神奇地消除那些内生于世界经济体系中的诸多问题。恰恰相反，在让一些人获利的同时，它也将不平等强加给另一些人，甚至制造了新的不平等。
南方人物周刊：这个领域最近有哪些值得关注的案件？
罗伯茨：在美国，与内容审核员相关的案件多为集体诉讼，且往往在诉讼前就达成了和解，并签署了保密协议。总体来看，美国政府监管科技公司的政治意愿非常低。国会面向科技公司举办的听证会常常沦为政治表演，而非真正意义上的严肃探讨。
前段时间公众关注度较高的是国会众议院能源和商业委员针对短视频社交平台TikTok的听证会。我并不了解背后的具体曲折。但有一点是比较清楚的，如果议员们认为，一家公司会因为拥有广受欢迎的社交媒体工具而对其他国家构成生存威胁，那他们恰恰给了其他国家抨击Facebook及其他类型美国实体的论点。美国人会意识到，“哦，糟糕！我们也在做同样的事情。”
我只是希望我们的政治家能够提出更好的论点，并拷问其中的逻辑。遗憾的是，因为中美之间的紧张关系，人们并不关注其中的逻辑谬误，也不会对自身做批判性审视。我们必须正视社交媒体在全球政治中扮演的角色。这也是我最初对内容审核萌生兴趣的原因之一。
▲纪录片 《The Cleaners （网络审查员） 》
社交媒体不只是暴力和辱骂内容的清理者，更是招揽者
南方人物周刊：你对纪录片《The Cleaners（网络审查员）》中的内容并不陌生，但在观看时你还是落泪了。
罗伯茨：是的。我在过去的访谈过程中听到过许多类似的故事，但讲述者的面容和语调中流露出的痛苦，依然会刺痛我。我对他们的经历充满同情。这也促使我反思，为了维系这种商业模式，就要把这些普通人置于如此境地，真的值得么？我们可以做出哪些改变？
南方人物周刊：你访谈的一位前商业性内容审核员提到，为了能处理海量被举报的暴力和色情内容，他需要尽量克制自己的情绪反应，冷漠应对。这些心理策略真的能奏效么？
罗伯茨：有两种可能。一种是人们认为自己把情感抽离了，但实际并未做到。比如有访谈对象告诉我，他没有因为这份工作而产生身心负担。但几分钟后，他又不自觉地提到，从事这份工作期间，体重和酒精摄入量都增加了，也不太愿意和朋友谈论自己的工作。这可不是超然的表现。当然，也可能有人真的能做到情感抽离，但这意味着你对本应令人震惊或不安的事情变得麻木了，你也因此失去了一部分人性。
南方人物周刊：内容审核员能接触大众无法观看到的互联网的另一面。这会让他们对网络世界的理解更全面，还是走向另一种片面？
罗伯茨：一位访谈对象对我说，总体上他对人性非常敬畏，因为每当他觉得人类没法更邪恶的时候，总有人能做到；每当觉得自己已经看到了最黑暗的东西，第二天还会有更黑暗的东西出现。另一位女性审核员甚至在离职三年后都拒绝与人握手，因为她对他人失去了信任，会对他人抱有最坏的预设。内容审核员的工作让他们更多看到人类的阴暗面，这可能会导致他们对人性得出片面的结论。而如果涉及到跨文化内容的审核，审核员既有的部分刻板印象可能会被强化。
南方人物周刊：您的研究是否影响了你对社交媒体的使用？
罗伯茨：我很喜欢使用社交媒体，在这里你可以结识新的朋友，看到丰富而精彩的人生经历，但互联网也有另一面。当这些网站的商业模式就是依靠源源不断的用户生成内容来吸引其他用户的眼球和关注时，就很难将那些展现人性之恶的东西挡在门外。所以我的一些访谈对象会认为，社交媒体不只是暴力和辱骂等有害内容的清理者，还是这些内容最初的招揽者。
实际上，我们这些用户并非网站服务的核心对象，他们真正的顾客是广告主。平台通过跟踪和记录用户的浏览痕迹等隐私信息，建立相应的用户画像，并推送给他们的品牌客户，实现广告的精准投放。我们以为自己是在免费使用这些服务，实际上我们是在无偿出售自己。
2023年是我使用互联网的第30个年头，我希望它能向更好的方向发展。这促使我去思考一系列问题，比如线上互动的本质是什么？人类的自我表达是否应该被出售？我们使用这类产品的代价是什么？有什么可以改进的地方？我们如何以一种更好的方式进行线上互动？在线上空间花费如此多的时间，是否会牺牲其他类型的互动，这是否会导致公众想象力的减弱？又会如何影响线下交流……
南方人物周刊：内容审核员也会像普通人一样沉浸于各类数字应用吗？
罗伯茨：这让我想到了邱林川（注：香港中文大学新闻与传播学院教授）的《信息时代的世界工厂》。他在调研中发现，很多在手机代工厂工作的年轻女工会将大部分薪水用于购买自己参与制造的最新款智能手机。我接触的商业性内容审核员大多有智能手机，我并不掌握他们每个人的数字应用使用习惯，但和那些年轻的手机制造工人一样，他们也渴望成为其参与塑造的文化的一部分。
南方人物周刊：一些社交媒体平台会邀请部分用户加入社区委员会，对有争议的用户投诉进行判定，也是希望剥离一部分内容审核责任。
罗伯茨：对。企业希望用户能承担一部分自我管理责任。在当前以成本为中心的模式下，能被审核处理的内容仍然只占很少一部分。举个不恰当的例子，美国实行判例法，法官判决遵循先例，但在网络世界里，当没有足够的人对不恰当的行为进行判定时，公司内容审核的内部“司法体系”无疑会漏洞百出。当然，这些公司是否有权拥有内部“司法体系”也值得探讨。
▲制图/卢俊杰
数字时代对知识劳动力的依赖会增大
南方人物周刊：社交媒体平台Meta公司CEO扎克伯格在2021年3月的国会听证会上表示，该公司依靠人工智能可以清除95%以上的“仇恨言论内容”。你对此持质疑态度。
罗伯茨：虽然一些人工智能专家声称他们已经可以借助先进的技术解决大部分内容审核问题，但即便是Facebook，它也承认在全球仍雇佣着成千上万名内容审核员。轻率地表示内容审核已经可以被技术解决的说法是不负责任的，这掩盖了大量人类内容审核员的付出。
让人不安的是，十多年前商业性内容审核员们跟我提及的问题，仍然困扰着他们的后继者。从当前在柏林和爱尔兰工作的访谈对象那里，我得知大公司在技术方面的投入真的很不足，除非有充分的财务激励。平台会一直寻求更便宜的人力，人类员工在成本和能力上仍然优于机器。我不相信人性会发生什么改变，所以这项工作不会消失，会沿着全球化的轨迹，不断向那些拥有大量廉价劳动力的地方转移。
我也不认为未来数年，计算机有可能接替人类完成所有的内容审核工作。相反，我们正在看到平台对该岗位的需求越来越大。这一现象不只表现在内容审核行业，我们也将看到各种新的职业类型在数字链条的不同环节涌现。只要我们还在进行人机交互，就会需要越来越多的人类劳动力以意想不到的方式嵌入数字系统中。
南方人物周刊：你在书中同时列举了两个观点，一是“言论自由似乎总是让侮辱他人的用户比被侮辱的用户拥有更大的权力”，二是“在商业网络平台上没有真正的言论自由”。
罗伯茨：言论自由是指每个人都有权利在不被恶意攻击的情况下发表自己的观点。但在美国的政治体系下，言论自由的概念似乎更多地适用于一部分人。很多时候，人们并不是在行使言论自由，更像是在滥用权力来欺凌他人的自由。此外我们也会看到，虽然一些网络平台宣称自己是言论自由的前哨，但当平台与大广告主的关系受到威胁时，用户便有可能被限制言论自由。
南方人物周刊：另一个不幸的事实是，保护自己的责任长期落在网络暴力的受害者肩上。除了谴责和对施暴者依法惩处外，我们还应该做些什么？
罗伯茨：人们需要对自己的线上行为负责。但令人沮丧的是，当前的美国，人们在日常生活中容易大声争吵，甚至要拔枪相向。可在线上，对于一些重要议题的有益的公共讨论热度又跌落到了历史低点。除了每个人应该承担更多的个人责任外，平台营造的环境也会让人们不断挑战言论自由的边界。平台从它创造的网络环境中获利，却可以免于承担与之对应的责任。它们会说，我们只是提供了一个大众交流平台，对他们要说什么，我们无法负责。但实际上，平台有责任设定规则和基调，需要辨明什么才是可以获得经济激励的表达。平台应该反思，是什么导致你的用户表达变得极端化？
南方人物周刊：面对这些难以改变的问题，会有无力感么？
罗伯茨：确实会有，但我也能获得一些正向的反馈。我的书被翻译成不同的语言，我可以跟不同国家和地区的人交流这些重要议题，他们也会继续和周围人分享。确实有太多我无法解决的现实问题，但我能做的是激发更多的批判性思考，更多拥有选票的人会向政治家发问，要求他们提出关键问题的解决方案。我经常告诉我的年轻学生，虽然有些问题在上一代并未受到广泛关注，但年轻一代可以用上一代人无法做到的方式促成改变。我们任何人都无法独自解决问题，需要一同努力。所以，我还在继续研究，继续筹备新书，虽然这些工作真的很累，但是我应该去做的。