点击上方蓝字“将军箭”,充电关注~❶北京冬奥会开幕那一天,国内视频类龙头Bilibili(B站)迎来年轻人的欢腾与追捧。然而,B站员工管先生(花名“暮色木心”)却永远也感受不到了这一切了。因为这位年轻人:过年期间值班,在晚上9点到早上9点(12小时)的工作强度下,2月5日凌晨脑出血猝死。然而,在B站的内部信和随后的道歉信中,管先生的离世是一个意外,他是按照工作计划正常上下班的,连加班都算不上。不过,在春节期间,良心的B站还体贴地管先生这样的正常上班员工提供了3倍工资。但残忍的是,1月12日,管先生就要满25岁了。也就是说:他的头七,也是他的生日。一个巨大的疑问在于,管先生从事的是什么特殊职业,连春节期间晚9早9都是正常上班呢?答案从此前B站的招聘要求可以得知:此岗位有夜班、通宵班,每天工作12小时,做一休一。团队并实行三班倒机制,早班9:00-21:00、晚班21:00-9:00、中班12:30-24:30。而管先生的身份,从B站内部通报邮件中的身份披露亦可见一斑:武汉AI审核组代组长。我们可以大胆推测,管先生是一名优秀的员工。不仅因为他入职不到2年就升任代组长,而且因为他在春节期间给自己排了不少21:00-9:00的晚班。颇具黑色幽默的是,即使是这份姗姗来迟的道歉信,也是B站员工加班发布的。审核工作的特殊属性当然不只是“全天候”那么简单。事实上,当B站上众多视频热议管先生时,相关讨论(包括视频、弹幕)迅速被列为违规,审核不予通过。可见:管先生的同事是化悲愤为力量,坚决执行工作纪律的。铁人同志在哀悼列宁的发言中说到:我们XXXX是具有特种性格的人,我们是由特殊材料制成的。我认为从事全天候特殊属性工作的B站审核员也是。❷我国的网络审查员制度,是随着互联网的发展而诞生、壮大的。从1998年新闻出版署的联合声明,到后续工信部的具体规定,再到门户网站的兴起,网络审查从政府行为趋于企业行为,工作内容也有了新的变化。我对审查员的初印象源于大学毕业前夕,一位同学兴高采烈地冲进宿舍,向我们昭告的一条招聘信息。阅片上万的猎奇心理、颇有竞争力的薪酬待遇、党员优先…让我们叹为观止。这个职业被简称为:网络鉴黄师。但事实上,淫秽物品鉴定仅是审查员的部分工作职能。现如今,审核工作已经成为各大平台内容发布的前置步骤,直接影响内容数据。一般说来,在经过初审后,再由复审团队把初审团队评定为“安全”的内容,人工打上“优”、“良”、“一般”的标签,从而决定内容的曝光推荐级别。而在时效性上,大原则是“当日内容当日审核完毕”,有些公司更是规定,用户上传的内容在2小时内审核完毕。这么庞大的工作量与深刻的利益纠葛,使得审核方法也不断改良,逐步形成了AI(人工智能)初审+人工复核的模式。人工复核且放一边,先来说说被寄以厚望的AI初审吧。它的原理就是把大量人工审核结果作为样本,供算法系统进行学习;然后用成长的AI替代人工审核。其优点在于标准统一,且处理效率极高。但AI审核并不能完全取代人工。其中原因是多方面的。一方面,内容标准难以量化。打个比方,假设“如果”成为审核关键词,那么“罐头不如果汁好吃”算不算违规呢?假设身体裸露涉嫌违规,那么二次元人物(甚至动物卡通形象)的判断标准又有什么不同?另一方面,是“道高一尺,魔高一丈”的用户对抗策略。例如,除了普遍运用的谐音梗,更成熟的方法是利用机器学习的弱点,有针对性地增加机器噪声,从而欺骗算法。举个例子,在图像识别中,就可以通过人眼难以感知的像素图像叠加,使AI把左图中的熊猫形象识别为长臂猿。而更现实的问题是,训练AI是要花钱的,而且价格高昂。MIT的研究表明,大多数AI模型需要超过10万个数据样本,才能初步展示出良好的训练效果。以谷歌的BERT