独家对话小打卡 ｜ 论一个日活百万小程序的自我修养
3年前，朝九晚五的工作让徐佳义感到焦虑，想突破的他看到了微信生态圈的巨大潜力，于是利用业余时间开发了一款微信小程序，取名小打卡。他希望小打卡的出现能够让人与人之间的联系更为紧密。
3年后，小打卡用户日活早已突破百万。用户养成一个习惯，去打卡；学会一个技能，也去打卡；享受美食、健身运动，还去打卡。
小打卡无疑加速了“万物皆可打卡”时代的到来，让打卡具有了社交属性，对于小打卡的用户而言，一个人的坚持和自律是没有灵魂的，相同圈子的人一起坚持相互陪伴，才更有意义。
被万千乘风破浪的姐姐青睐的打卡平台
在朋友圈美食打卡、旅行打卡、阅读和健身打卡随处可见的今天，打卡的定义变得异常丰富，⼩打卡已然成为当下最活跃的小程序兴趣平台之一。小打卡提供的社群打卡服务覆盖英语、阅读、亲子、绘画、手办等上百万个社群圈子，服务数千万用户。
在点赞和评论的用户中，女性和学生居多。数据显示，小打卡女性用户占比高达73%，深受小姐姐们的青睐，因为小打卡除了满足女性用户健身、瑜伽、学习等自我提升的需求，也满足了她们在平台上陪着孩子学习打卡的需求。上半年疫情原因，各大学校不能开学，也加速了更多学生用户的涌入。
随着越来越多的人使用和爱上小打卡，平台的内容越来越丰富，因此涉及的内容审核问题也越来越复杂，大量文本、音频、图片、视频等不同形式的内容，在促进小打卡产品迭代的同时，也考验着其内容安全体系。
论一个日活百万小程序背后的自我修养
2017年8月，小打卡在没有做任何宣传的情况下，用户量已经达到了将近20万。而从2018年小打卡开始公司化运作至今，用户量已经突破6000万。
在用户不断增长的过程中，小打卡也在不断迭代和完善自己的安全体系。
总体来说，在内容安全体系建立初期，小打卡比较依赖机器等技术力量，后来才引入了更多的人力。转变发生在2018年，一条违规信息引发的运营风险，让小打卡加快了完善内容安全体系的步伐。
2018年中，徐佳义接到属地主管部门的一通电话，要求他们迅速处理小打卡上一条违规内容。第一次接到主管部门电话的小打卡团队有些紧张，对团队来说，这不仅仅是对产品技术的考验，也是对他们处理违规内容能力的考验。放下电话后，小打卡团队马上锁定违规信息的发出者，删掉违规内容的同时，核查了该用户所有历史发布内容。在规定时间内处理好了这条违规内容。虽然有惊无险，但这次经历促使小打卡立下了建立更强大的团队和安全机制的决心。
“确保内容安全，让用户健康成长，是开发者不容推卸的责任，需要团队投入精力和人力来保障。”徐佳义这么说。安全工作需要多方参与，于是他们组建了一个由产品经理、研发、运营等多团队构成的内容安全工作小组，在内容安全团队的搭建、审核标准和流程、安全技术调研和安全功能需求开发等多方面下功夫。很快，当年10月，小打卡就跑通了安全工作体系，采用多个团队协同参与的工作方式，将更多的人力投入到内容安全体系的升级与维护。
在不断完善内容安全体系的进程里，小打卡的团队愈来愈清楚地意识到，内容安全是所有平台的生命线，内容安全的守护必须与小打卡的成长同步。
小打卡在内容安全技术和流程方面投入了大量精力，开发了内容安全监控及告警，比如天级别/小时级别的大流量页面监控、高流量内容自动二次审核等，支持内容安全相关功能开发，如用户投诉处理功能、实时敏感内容拦截及处理、用户禁言封禁管理等。
小打卡在内容流程上还设定了自己的一套标准，例如如何处理用户投诉，如何针对文本内容进行人工二次审核等等，这一套标准流程设定完成后，具体依靠“机器+人工”的方式来执行。机器识别是第一道防线，人工审核团队做最后的把关。
2019年，小打卡开始使用微信珊瑚安全API识别文本和图片信息，从而大大提高了小打卡的审核效率。在此过程中，小打卡也得到了珊瑚安全团队前置评估预警的帮助。针对小打卡产品的内容安全潜在风险，珊瑚安全团队主动发出预警，协助小打卡完善内容安全审核标准及流程。
以文本审核为例，小打卡对用户每天在小程序中发布的文本内容，借助微信珊瑚安全API完成自动扫描后，其中潜在的违规内容都可以被有效识别。在珊瑚安全识别后，再进入到人工复核环节的内容大大减少。微信珊瑚安全作为第一道防线，为小打卡节省了大量的后期人力审核成本。珊瑚API每天可以帮小打卡识别超过100万条的文本，其中不到500条会进入人工复审，最终会有不到10条的违规内容确认。对于用户发布的图片，小打卡每天识别数百万张，每天不到3000张会被自动冻结，并进入人工复审，最终认定的违规图片数在几张到数十张之间波动。
回顾内容安全体系完善的这两年的经历，徐佳义说：“珊瑚给小打卡小程序安全运营带来的帮助是巨大的，尤其在成长初期的阶段，大大提高了小打卡对内容的审核效率，这对初创团队而言，是非常宝贵的助力支持。”
可以说，珊瑚安全为小打卡团队节省的时间和人力成本，让小打卡安全团队有更多的精力去开发更符合小打卡平台用户特性和平台内容安全方面需求的功能。
比如建立自己的敏感词库，开发算法模型，利用计算机视觉技术过滤二维码和广告，进行运营层面的引导，再比如建立社区公约，设置社区小黑屋，引导产品和运营者积极向善等等。
因为亲子用户居多，小打卡平台的内容相对积极正面。在使用珊瑚安全API过滤之后，每天会有50条左右的违规内容。而这些违规内容多出自打卡学习的小朋友，其违规内容多为谩骂、盗图等。为了以更柔性的方式让小朋友们减少这些行为，小打卡设置了一个虚拟人设「唐安安」。
让小打卡安全团队没有想到的是，在对违禁小朋友禁言或者关入小黑屋处罚的过程中，平台的其他小朋友，也会加入进来一起对违规小朋友进行劝导。比如当小打卡团队视情节轻重对内容违规的小朋友进行禁言三天或者十天的处罚时，会把处罚名单贴到社区公告里，这时被处罚的小朋友通常会去找自己的朋友向平台求情，其他小朋友也会对违规小朋友进行劝导，呼吁其遵守社区规则，一起维护绿色网络环境。
小打卡这种柔性的运营方式起到了引导积极正向的作用，增加了小朋友之间的互动，也大大提高了整个平台的用户活跃度。
最后，小打卡创始人徐佳义在谈到内容安全体系建设时对珊瑚团队说：
把内容安全放在第一位是对社会、公司和用户负责，但做好内容安全同样也需要投入大量的人力、财力和精力。
感谢珊瑚团队提供的协助，和一直以来的支持！在此之前，小打卡每年10多亿次的内容检测，投入了数百万的费用。在珊瑚团队的帮助下，小打卡进一步完善了产品的安全检测标准和审核机制，通过接入珊瑚安全提供的检测能力，搭建了内容安全相关的多个扫描拦截和审核系统。省下安全费用成本，保证平台内容的合规安全，也使得社区内容氛围、调性正向积极发展。
”
小珊想说，小打卡一路走来的每个选择，都是基于小程序乃至整个微信生态的考量，其中对内容安全体系的深刻理解和安全运营方式的思考值得同行借鉴。
上周，微信鉴客圈在江湖发起召集令，我们与开发者、运营者以及爱好者们在线上齐聚一堂，一起探讨交流，现在召集仍在继续，今日加入鉴客圈，还有机会直接对话小打卡等更多行业大咖哦。