独家对话小年糕 丨 如何守护银发社区的生命线

“
年过半百的王阿姨最近迷上了一款小程序，她经常用这款小程序把生活照和旅游照编辑成精美的音乐相册分享在朋友圈，这款小程序就是今天小珊要给大家介绍的小年糕+。”

小年糕：被中老年人宠幸的黑马小程序

当80/90/00后市场被争得头破血流的时候，一款产品却绕开了年轻人的赛道，直奔中老年用户。小年糕就是这样一款中老年用户占比超过60%，操作极简，可以把照片制作成音乐相册并制作分享短视频的微信小程序。

由于使用简单，功能丰富，同时为用户提供高质量的推送内容，小年糕迅速获得大量用户的认可。在通过用户体验获得极好的口碑传播后，又基于UGC内容建立内容社区，大力发展银发社交。

不同社会群体都有身份认同需要，小年糕充分了解用户的需求，为此用心设计了一系列机制，例如优秀糕粉（小年糕社区的粉丝昵称）的作品集以及背后的故事可以公开展示，小圈子的点赞评社交光环在小年糕更多平台上得以放大，对于KOL是已有作品的奖励，对于普通用户则是未来作品的激励。

小年糕“佳作”标签

幸运又努力的小年糕

备受中老年用户“宠幸”的小年糕合伙人、审核负责人白帆坦言他们是比较幸运的，一半以上都是无比热爱生活，享受老年生活的用户，他们受过的传统教育，经历的人生，让他们有很多正能量。这些数量庞大的老年人有时间、有愿望通过一些新事物证明自己的学习能力，并希望在社交网络上获得认同。

基于微信生态开发的小年糕恰好为银发用户提供了学习和社交场所，无论是国家大事、社会热点还是生活百科、旅行养生，运动晒娃等都能很快获得这群“好学”用户的关注。

但由于中老年人对互联网的接触和了解远远不及年轻人，平台更须警惕互联网上各种虚假不实信息，为此小年糕做了很多努力，为这些银发用户安全快乐地使用产品保驾护航。

“绝大多数用户违规都是无意的，主要在养生方面容易夸大其词，一不小心成为不实信息。基于中老年人的这个特点，平台对保健品、古法偏方都设置了关键词库，过滤掉这类内容。今年小年糕计划上线一个辟谣平台，帮助中老年人识谣辨谣。”白帆介绍。

同时，针对招嫖、传销这类会危害到中老年用户的黑产，小年糕建立了一套用户信用机制，通过敏感词拦截，将这类黑产帐号加入重点监控名单，这个名单上的用户发送的内容默认是用户不可见的，每一条都需要需要人工审核复审通过后才能发出来，如果人工审核不通过，这个帐号则会被永久封禁。

守住内容安全就是守住平台的生命线

小年糕能有这样的安全意识和不断完善的安全体系也非一日之功。2019年年中，小年糕月活破2亿。一位用户发布了几条用错乱字符分隔敏感词的文字，绕过了安全策略，敏感词没有被平台发现，但被主管单位注意到并很快联系了小年糕的安全负责人。小年糕安全团队迅速反应，为此投入大量人力，研发了分隔符识别机制，提升了语义识别和抗干扰能力。

这件事给了小年糕管理团队很大的触动。安全无小事，小年糕的内容安全体系要和用户群体一起成长，基于对网络环境和内容行业的判断，升级小年糕的内容安全体系迫在眉睫。但当时无论是人力资源还是运营成本，公司短期内都无法负荷，幸好这些问题最后通过和微信珊瑚安全合作而得到迅速有效解决。

小年糕首先进一步优化了安全体系，完善了内容安全风控部门和人工审核团队的职能架构，更加深化内容安全系统建设、数据分析、网络内容政策研究、社区规定制定和指导等业务。进而在微信珊瑚安全小程序的帮助下采取“AI审核+人工审核”双重审核机制，全面覆盖社区内容生态，有效减少内容创作和传播中的安全风险。

具体而言，所有内容先通过机器审核，如果命中敏感信息转作人工审核。而在此过程中，珊瑚安全可以提供精准高效的内容审核技术，用较低的成本就能为企业搭建内容安全体系。

在AI审核方面，平台会将电子相册制作、视频剪辑、互动社区等入口接入珊瑚安全API，当用户制作相关内容时，这些内容就会同步给珊瑚安全进行检测，对有害信息的覆盖比例得到有效提升。

在保证内容安全系数的情况下，对珊瑚安全API识别出的有害信息进行召回，交由人工审核。

在安全体系不断完善的同时，更重要的是，小年糕全员视内容安全为生命线，安全团队由合伙人直接管理，一切功能开发和用户运营都要安全意识先行。

小年糕内容安全维护的独家秘籍分享

在海量用户UGC 的洗礼下，小年糕的安全体系日益强化。而总结各方面的经验，小年糕内容安全维护的要点主要有三：用户引导、多重复审和老内容复审机制。

小年糕认为“堵不如疏，疏不如引”，建立社区规则，并且在日常宣传中有效引导用户去关注正能量内容，远离和抵制有害内容生长，培养用户内容安全意识非常重要。

人工审核与审核者的经验阅历和主观判断有关。一次人工审核人员在推荐页巡查时，发现了一条轻微的有害内容出现在推荐页上，倒查发现这是经过人工审核过的，但是因为审核者的主观判断失误，导致出现了漏网之鱼，于是小年糕就建立了多重复审的机制，来降低人工的误判。

对于那些在内容安全体系完善以前就发布的内容，小年糕还建立了老内容复审机制。如果一条旧内容再次被观看和传播，它就会被系统判定为新内容，开启“AI审核+人工审核”双重审核制度。一是针对历史内容，二是应对政策变化，这个规则也能帮助小年糕避免一些安全隐患。

小珊也和小年糕聊了关于珊瑚安全API的话题。

小珊：

珊瑚安全API给小年糕内容安全运营带来了什么帮助？

小年糕：

我们利用珊瑚的敏感词识别技术建立文本审核机制，并进一步构建用户信用机制。

微信珊瑚安全API对审核的内容会返回清晰的标识，尤其是涉嫌违规内容的恶意类型，具体特征和风险概率，这对于人工审核人员无形中做了内容审核培训，辅助提升了人工审核效率；

同时小年糕基于珊瑚安全审核标识的违规内容告知用户，向用户指出内容的不规范之处，也增强了用户的内容安全意识。

小珊：

对珊瑚安全API 改善和未来发展的建议?

小年糕：

希望珊瑚安全以后可以提供更详细、更具有时效性的更新使用指南，方便内容审核相关人员迅速了解珊瑚安全更新的功能，更好更快应用于工作实践中。

故事征集

我们诚挚邀请各位开发者、运营者讲述自己建立内容安全体系的故事，通过、公众号对话框和推文留言的方式向小珊投稿。

我们还将深入采访更多开发者，将你的故事和经验分享给大家。

这是一个长期的活动，每次被采用发布的故事投稿人，将获得小珊精心准备的一份礼物。

期待你的投稿，作为与珊瑚安全一同前行的见证，也供更多开发者、运营者学习内容安全体系建设的经验。

为了微信内容生态的更好发展，小珊将一直关注和记录内容安全领域的故事。期待有你，一路同行。

 今日推荐阅读