抖音水逆？印尼被封，视频出海须避开的内容审核坑
进了 7 月，抖音也进入了水逆期。7 月 1日，抖音因投放广告中含有对英烈不敬内容，广告业务被监管部门叫停；7 月 3 日，抖音印尼版本被印尼通信与信息技术部封锁，原因是存在大量不良内容，对青少年产生不良影响。
印尼政府对于抖音此次的处理规定是封锁域名系统，应用商店内仍然可以下载抖音，只是打开 app 后无法看到内容，好在监管部门表示不良内容清除后，抖音可恢复正常运营。
抖音于去年 8 月启动出海进程，一路高更猛进，2018 年 5 月已跻身 iOS+Google Play 全球下载总榜 Top 10，位于第 5 位，仅次于 Facebook 旗下的四大金刚。但很明显，随抖音海外用户一同快速增长的还有平台内容审核的需求及难度。
踩过的坑折射监管底线
其实抖音并不是被印尼政府封锁的首款视频出海应用。2016 年 12 月，直播平台 BIGO LIVE 因涉黄被罚，处理措施同样是封锁域名。事后，BIGO LIVE CEO 李学凌很快就涉黄问题与印尼 IT 部门部长 Rudiantara 会面并采取了一系列措施。BIGO LIVE 目前在 Google Play 印尼畅销总榜第 11 名的位置。
这与 BIGO 团队在事后的一系列应对有关，除了最高领导人尽快赴印尼交涉之外，BIGO 表示会在印尼成立法务部门，聘用本地居民负责内容审核。2017 年，BIGO 在印尼设立办公室，当地的内容审核团队利用人工智能技术 24 小时监控直播内容。
2017 年年底有外媒传出消息，印尼通信部人员参观 BIGO，并有意将 BIGO 树立为直播行业的典范。
BIGO LIVE 的先例在前，可作为今日头条对此次事故的处理参考。
此次印尼版本下架对抖音的影响不小，根据白鲸出海之前所作分析，印尼应该是除日本之外，抖音在短视频出海赛道占优的一个市场、也是最初启动变现的两个市场之一（可参阅文章《5 月榜单|快手挤掉火山小视频，首次杀入全球应用下载 Top 10》）。
而从印尼监管部门以往对 BIGO LIVE 和 Blued 的不同处罚决定来看，黄色、暴力等问题虽必须清除，但明显违反伊斯兰教义的内容可能更加无法被容忍，从此次民众要求关闭抖音的请愿书中也可以看到一些蛛丝马迹。
请愿中主要提及的两段视频，一个是今天多被媒体提及的 Wiz Khalifa 的跳舞视频，里面出现了亲人遗体，另一条视频被提及的原因则是，一些年轻女孩在跳舞的时候违反了宗教文化，露出了在伊斯兰教义中本应被遮盖的身体部分。
在印尼、土耳其、沙特等被中国企业作为出海目标市场的伊斯兰国家，尤其须注意不要违反伊斯兰教义，除暴力、物质主义、色情等还需注意更多细节性问题。而且，经济越发达的海湾六国，对女性的约束更加严格。
另外，虽然此次抖音印尼被禁并没有波及头条系在印尼的其他产品，但并不等于这些产品在其它市场也安全无虞。
《Porn is not the worst thing on Musical.ly》
在 Twitter 上广泛传播
2018 年 3 月份，外媒 Medium 发布了一篇文章《Porn is not the worst thing on musical.ly》，得到了病毒式传播。这其实并非个例，在 musical.ly 推出的几年间，伴随着大量批评的声音，涉及黄色内容、校园霸凌等未成年保护问题。
欧美发达国家对于未成年人的保护十分重视，举个生活中的实际例子，一个已经 16 岁的留学生对男老师表示“You’re so sexy”也会引起学校重视。
除暴力、色情，中东非洲及部分亚洲国家的伊斯兰教义及欧美对未成年人的保护是出海企业尤其须注意的两个方面。
内容审核之外，出海企业可利用的几个小细节
目前，AI 技术+人工审核是绝大多数出海企业采用的审核策略，且许多公司如 Mico、BIGO 等都采用目标市场的当地团队来进行多一层的内容审核以确保效果。
以 BIGO 为例，据白鲸出海从BIGO公司了解到的情况，公司为了产品内容不与穆斯林文化相冲突，实施了三层监控。
第一层为 AI 图像识别系统、第二层是总部的内容监控团队通过全天候人工巡查来过滤危险信息；最后一层交由中东的本土团队，主要用来监管当地语言类违规内容。BIGO LIVE 告诉白鲸出海，中东的本土团队中有超过一半的人员负责直播内容监管工作。
但 AI 技术的部署有一定门槛，对于一些较小的企业，可选择第三方解决方案。而且人工智能目前依然处于一种辅助的角色，要不然也不会出现 Steve Stephens 在 2017 年上传 57 秒的一段自杀+谋杀视频，2 个多小时之后 Facebook 才将视频下架的情况。所以，内容审核重点依然在人工层面，Snapchat 在 2017 年年底重新设计产品时也表达了相同观点。
而其实在审核之外，还有其它一些较为有效的办法可帮助提高审核效率。白鲸出海在此总结了平时见到的一些方法
1、禁止边缘化关键词的搜索以及潜在危险标签的分享
Musical.ly 3 月份的危机，其中一个原因是在该 app 中搜索“自残”、“饮食紊乱”等关键词，会出现上千条相关内容。虽然，musical.ly 已经关闭了这些关键词的搜索，但其实如果加强对竞品的研究可以发现，许多社交产品早在几年之前就已经采取措施解决了这一问题，例如 Tumblr。
Instagram 还会禁止分享可能产生不良影响的内容的一些标签。Instagram 也是通过该方法封锁了助长饮食失调问题的一些内容。Instagram 是如何确定禁止使用哪个标签的，目前还不得知，许多社交媒体的研究人员也在分析，但标签是用户连接的主要方法，禁止特定标签的分享可有效帮助减缓问题的恶化。
2、查阅社交媒体上与产品相关的话题
以 musical.ly 为例，平台问题引发热议，许多起源于 YouTuber 发布的视频，因此，社交媒体上的信息可作为产品团队发现问题的一个来源。
RiceGum YouTube 页面
例如，2015 年 12 月，在 YouTube 上有 1000 多万粉丝的一个账号 RiceGum 连续发布了一系列These Kids Must Be Stopped 的视频。视频被广泛分享，最高一条视频的观看量为 1454 万次。
如果产品团队能够尽早发现问题并及时解决、公开回应，更有利于正面品牌形象的树立。基于文化原因，品牌建设对以欧美为主要市场的企业尤为重要。
3、鼓励社区参与，开放反馈信息收集入口
同样以青少年作为主要用户的直播平台，YouNow 采取的做法是鼓励用户标注含有不当内容的视频，之后由审核团队会决定该视频到底适不适合出现在网站上。
YouTube 和 Reddit 也采用了这种方式。
YouTube 在发布的内容审核报告中，表示 2017 年第四季度他们删除了 830 万条视频，也是通过技术+人工的方法。此外，他们的一个做法是鼓励社区参与，向所有用户开放一个“Reportying History dashboard”的功能，用户可以看到他们所举报的内容的状态，以此鼓励用户积极参与违规内容的举报。
4、搭建用户信誉评分系统
举一个比较极端的例子，面对一个长期上传视频、但一次都没有被举报过的用户和一位新加入平台的用户，你会更担心哪一个？
依照这个思路下去，对每一个新用户的首条上传视频进行人工审核是非常必要的。然后依据用户被举报的历史记录建立一个信誉评分体系，对低分用户进行重点审查。
该方法的作用在于通过评分体系，将更有必要接受人工审核的视频筛选出来，提高效率。
最后，回头去看这件事情，对于今日头条来说可能并不是件坏事。2017 年，是短视频集中出海期，经历将近一年的运营，产品在海外快速发展的同时，问题也随之暴露。对以 TopBuzz 2015 年 8 月海外上线为起点、执行全球化策略不满三年的今日头条来说，或许难以招架抖音快速的全球扩张。问题暴露并及时解决或许更有利于品牌的长期发展。(本文作者：Amber Yin）
了解更多抖音知识，发送“抖音”给您看白鲸出海策划的最新文章！
本文由 jqyjr 编辑排版
推荐阅读