点击拥有：APP不下架的内容合规秘籍！
9月起，知道创宇为各行业用户打造了主题为“行业真安全”的系列活动，旨在通过分享创宇多年积累的安全实践，以自身的技术、产品和服务，为各行业客户筑起“真安全”防护屏障。
本文整理了第一场活动中嘉宾刘智敏针对互联网行业内容安全进行的分享。
01
互联网改变生活
据艾瑞统计显示，2020年上半年，我国人均手机日均使用时长为4.26小时；移动终端设备总量增长到14.3亿台。移动互联网正在深度改变我们的生活。
未来，人类将进入万物互联的时代，互联网在给予我们方便的同时也会带来内容安全隐患。
02
内容安全问题，事关你我
恐怖活动颠覆政权
恐怖分子以互联网的方式扰乱民心、制造恐慌，并利用互联网指挥暴力活动。
网络诈骗
互联网诈骗层出不穷、花样繁多，网络兼职诈骗、网上交友诈骗、仿冒身份诈骗、贷款诈骗、虚构险情诈骗、钓鱼木马诈骗以及众多新型诈骗手段，防不胜防。
网络兼职诈骗
2020年4月，吉林大学在校学生姚同学，兼职刷单被骗14.9万元，把父母的钱都搭进去。
网上交友诈骗
2020年3月，邓发士在某网认识一男子，确立恋爱关系，在其怂恿下投钱获取高额回报，被骗74万元。
仿冒身份诈骗
徐州小伙解某曾被人假冒微信好友诈骗了钱财，他如法炮制，加了张女士的微信。由于名字和朋友一样，朋友圈内容也相似，张女士没起疑心，先后借了7万给解某。当再被借钱时，张女士联系了朋友才知上当受骗。
影响青少年健康成长
当前互联网平台上低俗、色情等违规性内容众多，既有文字、图片形式，也有音频和视频形式，会极大影响青少年的健康成长。
2019年1月至4月，国家网信办、教育部等有关部门开展了对教育平台的专项治理：
▶ 删除内容低俗及与学习无关的文章5.5万余篇；
▶ 关停420余个专栏及320多个违规账号；
▶ 清理下架以青少年为主要用户的二次元和社交类违法违规程序1.21万款。
截至2019年6月：
▶ 累计清理淫秽色情、赌博诈骗等有害信息1.1亿余条；
▶ 注销各类平台中传播色情低俗、虚假谣言等信息的违法违规账号118万余个；
▶ 关闭、取消备案网站4644家。
大国之争
信息流引领资金流和人才流，会构成一个国家或地区的实力。网络信息是跨国界流动的，信息流是国家竞争力的重要内容，因此，当今世界对于信息的竞争十分激烈。网络安全是一个十分重要的问题，其中的内容安全事关每一个人，因此也越来越受到国家的重视。
03
加大治理力度，建立内容安全机制
互联网不是法外之地。面对互联网内容乱象问题，国家加大了对内容安全的治理。
出台政策法规
2000年9月 国务院第31次常务会议通过《互联网信息管理办法》
2016年1月 北京通过《互联网直播平台自律公约》
2017年6月 全国人大常委颁布《网络安全法》
2017年10月 国家互联网信息办公室发布《互联网跟帖评论服务管理规定》
2017年9月 网信办颁布《互联网群组信息服务管理规定》
2019年1月 全国人大常委通过《中华人民共和国电子商务法》
2019年1月 网络视听节目服务协会发布《内容审核标准100条公约》
2019年9月 网络视听节目服务协会发布《网络短视频平台管理规范》
2020年5月 国家网信办颁布《网络信息内容生态治理规定》
2017年6月，《网络安全法》正式实施，其中指出平台中不得存在涉政、涉暴、虚假、色情等信息。2019年4月，国务院办公厅对监管工作年度考核指标中指出，平台内容中若出现反动、暴力、色情等违规内容，则判定为不合格的网站。今年5月，国家网信办颁布了《网络信息内容生态治理规定》，规定中要求，平台内发布的所有信息，平台必须承担起主体责任。
加大宣传力度
国家每年都会举办以“网络安全为人民，网络安全靠人民”为主题的网络安全宣传周，向公众传递网络安全知识，营造网络安全人人有责，人人参与的良好氛围。网络安全正在走进机关、企业、社区、学校等社会的各个角落。
加大处罚力度
多部门对内容平台提出监管要求，对于各大平台自身的内容安全专业度提出更高的要求，不仅要求有专业的审核团队、审核机制，还要求有更为严谨的风控策略，以保证平台的健康发展。
落实企业生态治理责任
统计数据表明，今年我国被下架的APP达89万款，被下架的原因主要是平台中出现了违规内容，平台没有做好风险管理。企业应健全制度，建立内容安全机制。
从企业角度来讲，需要做好以下四个方面：
▶ 制定内容审核机制；
▶ 强化技术攻关能力：包括平台的开发、AI智能审核能力的提升；
▶ 配置专业人才进行审核；
▶ 定期发布生态治理报告：对平台内容的合规性要做到实时把控。
04
划重点：内容安全治理的重难点
内容治理应关注的重点
平台中不能出现以下内容：
涉政
暴恐
色情：影响青少年健康成长，色情直播、色情游戏、色情小说、色情动漫等传播低俗色情的内容；
违法违规：诈骗，赌博，毒品、人身攻击，以及黑色产业链。
内容安全治理面临的难点
🔹 面广监管难以全面覆盖
据统计，目前全球网民达44亿，网民多，信息内容多且复杂多源、传播途径多样化，不良信息让人防不胜防。
🔹 形式多样化，变化快，无法固化监管
不良信息的违规背离主流价值观、过度娱乐化，使用缩写词汇、变种词汇、替代词汇等，让内容变得更加隐蔽。
🔹 需要大量的积累样本和规则，单一平台很难做到
需要结合多个场景，平台的业务情况需要一定时间的积累与打磨才能形成完善的规则。对于规则尺度的把控，既不能触及政策法规的红线，又需要保证用户体验。并且规则的制定并非一成不变，要根据政策及现实情况的变化进行调整，因此单一的平台能力有限。
🔹 成长型平台资源和专业度有限，很难做好内容安全治理
内容审核的涉及范围广，包括历史与现实，政治，社会公德，国家、企业及个人，所需要的专业知识较多，除了要求审核人员具备政治、历史、文化、国家法律等知识外，还必须了解热点事件。因此平台和企业在短期内很难打造出一支专业的审核团队进行内容安全治理。
05
护架卫士：拦截不良内容，杜绝下架风险
知道创宇自2012年开始提供内容安全服务，联合百度、腾讯、金山，打造互联网反恶意网站平台“安全联盟”，为超过30家客户提供内容安全服务，涵盖国内2000万家企业，每日拦截恶意内容超20万条。
经过3年打磨，知道创宇打造了专门应对内容合规性问题的产品——护架卫士。
产品功能及优势
👉 提供实时图像、文字、音视频内容审核服务，高效过滤涉政暴恐、色情低俗、广告等不良信息。
👉 提供智能可靠的内容安全解决方案，拦截不良内容，杜绝下架风险。
👉 具备完善的信息安全策略。
以上是本次分享的全部内容
如需下载“APP不下架的内容安全治理之道”PPT及了解更多“护架卫士”产品信息
请扫描下方二维码 👇
⬆ 扫码下载分享PPT
⬆ 扫码了解更多“护架卫士”产品信息
👇 点击“阅读原文”，观看视频回放~