独家对话｜草料二维码的内容安全体系建设之路
扫码乘车，扫码打开一个网页，扫码进入小区……二维码的触角已经伸向生活的各个领域，正在看到这篇推送的你，或许刚刚完成扫码支付，你是否尝试生成过一个自己的二维码？
今天小珊对话的小程序团队——草料二维码，致力于帮助用户生成和管理自己的二维码（内容支持文本、网址、图片等形式），其创始团队更是早在2011年就看到了二维码技术的大有可为。那么在草料二维码的发展过程中，他们是如何健全自己的内容安全体系的呢？
为万物构建履历的小程序平台
打开草料二维码官网，可以看到首页挂着这样一句介绍——人人都可免费使用的二维码生成及管理平台。草料二维码作为一款便捷的工具，为用户提供二维码生成、内容管理、数据存储、标签印刷排版、扫码记录管理，数据分析为一体的在线服务。
草料二维码的愿景是构建万物的履历，目前，他们已经有超过700多万的注册用户，数万家付费企业，其中包括中铁、中建、国家电网、宜家家居、中国石油等知名企业。
2017年，草料二维码看中微信几乎覆盖全国的用户量，于是在H5网页版之外，开发和上线了草料二维码微信小程序。如开发团队所说，“微信的小程序生态，可以更方便团队构建二维码访问、记录等相关能力的权限体系，小程序自带的插件和API，也能带来更好的用户体验。”
△ 草料二维码为用户提供存储等一体式支持
目前，草料二维码日活跃用户达120万，2019年二维码扫描量2.4亿，位列全国工具类小程序排行榜12位。目前累计生成几十亿二维码，覆盖贸易零售、建筑施工、生产制造、教育培训、生活服务等行业。
承载如此多的日活用户背后，是草料二维码一套成熟的技术框架：
前端采用小程序原生体系开发，在此基础上内部向上封装了一套开发框架，来提升开发效率和开发体验，如全局响应式数据流设计，跨页面的通信机制等。在后端架构上，后端服务进行了水平拆分，并完全容器化上云。使用了Kubernetes、云存储、云数据库、消息队列、负载均衡等技术。
△ 技术框架
在内容安全方面，草料二维码结合了云服务提供的机器审核与人工审核相结合。并总结和研发了一套违规内容特征识别、自动筛查处理，能够快速定位违规用户，保障平台内容安全。
2018年秋，一个安全系统上的小bug以及一个违规内容引发的相关部门警告，让草料二维码团队惊出了一身冷汗。安全团队对此采取了快速响应和及时处理，并对相关问题和事件进行复盘，自此以后，草料二维码团队更加重视安全系统的测试和日常功能稳定性检查，同时审核系统也开始接入了敏感内容机器审核。
经过多年的不断完善，草料二维码的安全体系日益强化，一次次的「实战」也让安全团队在内容安全防控方面积累了不少经验，草料二维码更是跟小珊分享了自己的一套避坑指南（敲黑板）。
WHERE：明确风险来自哪里； WHY: 根据业务判断恶意内容会怎么出现在你的产品中（分重点）； ORDER: 根据风险高低和你的业务制定对应的安全框架需求（分优先级）； HOW: 根据安全需求，进行安全系统开发和第三方服务采购（重要性/可行性）； STASBILITY: 确保后续所有新上功能，都能正确接入这套体系，不会出现内容失察的情况； CHECK：定期功能检查和内容巡查，确保系统稳定，没有其他漏洞bug被利用。
从这一套避坑指南我们不难看出，拥有海量用户的草料二维码团队非常重视内容安全，事实上，一切功能开发和用户运营都要安全意识先行。以上，希望对此刻看到文章的小程序开发者/运营者们有所启发