腾讯寻找未成年人
The following article comes from 腾讯 Author 腾讯
2017年6月底的炎热盛夏。
马化腾、刘炽平、任宇昕、马晓轶等腾讯总办成员以及游戏负责人连夜“拉”起一个微信群，讨论一个至关重要的话题。
这是腾讯的惯例，很多重要决定就在深夜凌晨里诞生，通过邮件、微信群的方式，讨论、明确，次日便开始施行。
当时，一场《王者荣耀》与未成年防沉迷的话题被全社会讨论，微信、微博等社交媒体舆论四起，从央媒到地方媒体都在讨论，一时无俩。
而在腾讯内部，早几年前便关注到未成年人触网年龄下降的趋势，并开启了一系列研究和探索。鼓励家长与孩子沟通的【成长守护平台】已运营5个月，伴随而生的【腾讯游戏健康系统】已于6月初发布。
但外界的热议像是一条鲶鱼，激起同事们高昂的情绪。媒体上关于游戏与未成年人关系的几大观点，也映射在腾讯公司这个内部微信群里：
有同事说，“游戏只是游戏，不应该承担这个责任”；
有同事表示：“腾讯已经做了一些事情，不该受到这样的指责”；
有同事认为：“越来越多未成年人玩游戏，是应该管一管”；
交杂的声音，有分野、有焦虑、有愤懑……所有人都在等待一个重要决定
最后，马化腾等总办成员发声：
“未成年人缺乏自控力，如果过度沉迷，肯定是不好的。我们要主动做出更多事情，而不是等政府监管的规定下来才去做！”
一锤定音。次日，《王者荣耀》健康系统加速对外公布了更严格的策略：
限玩和宵禁。
2017年7月4日开始，12周岁以下（含12周岁）未成年人每天限玩1小时，晚上9时以后禁止登陆功能；12周岁以上未成年人每天限玩2小时。
但这仅仅是开始。
“在马路上确定一个未成年人，你从容貌、身高、声音就可以区分出来。但要在茫茫的网路上，区分一个玩家是不是未成年人，要复杂得多。“
纵观国内外同行，没有企业做过类似的事情。他们要面对是技术应用、用户体验、隐私保护等诸多难题，对面是一群贪玩又机灵的未成年人，以及难以揣测的人性。
一项寻找未成年人的的工作，一场【决心】与【疑虑】战斗，于2017年炎夏深夜进入新征程。
两面墙，快速“包抄”
Lanky是腾讯未成年人守护的负责人。
他拿到的任务是——“开发一个系统性解决方案，能够帮助游戏玩家，尤其是未成年玩家更健康地游戏。”
很快， Lanky拉来Mandy，一一把需求拆解开来，在A4纸上画了好几版方案。当他们内心忐忑拿着方案向总办汇报时，得到的回复只有6个字：
“按照最严施行”。
于是，腾讯迅速建立了两面墙， “包抄”寻找未成年人。
一面墙是叫家长控制。鼓励家长与小孩良好沟通、组队监督，它叫【成长守护平台】，支持家长关联孩子账号，同步了解孩子游戏登陆和消费信息，同时提供一键禁玩、消费限额、成长资讯，提供游戏健康指导等功能。
另一面墙称之为游戏控制。通过游戏大数据以及实名验证身份信息，基于不同身份所匹配的防沉迷策略，它叫【腾讯游戏健康系统】。
凭借不断优化和改进，至2018年2月份，【成长守护平台】上线一周年时，守护用户近400万，效果显著，未成年人游戏时长较守护前一个月平均下降25%。
【腾讯游戏健康系统】也包抄到了一大批《王者荣耀》未成年用户。甚至有小朋友模仿大人的声音，声称自己是误登记身份信息，要求解绑。最后被腾讯客服的同事识破。
计划内的意外，从小黑屋开始
问题随之出现。
抽样调查中发现，一批未成年人用户漏过【腾讯游戏健康系统】的限时设定。因为孩子输入了成年人的身份证号，绕过了健康系统。
“不能指望任何玩家都是诚实的”，工程师Harlan说。
Harlan有一个3岁半的女儿，他知道，在天真贪玩的孩子眼里，还没建立起对与错，只有要与不要。
Harlan与女儿
但在Mandy的构想里，这些“意外”都是计划内的。她设想的这面平台高墙，身份识别是一个三期工程：
一期内嵌在《王者荣耀》上，实现单一游戏的未成年人登录校验；
二期升级为所有游戏的通用模块，实现未成年玩家与公安的实名校验；
三期是人脸识别，对疑似未成年玩家进行人脸识别。
她将纸上的要点归类，画线连接。随着运行逻辑的延伸，层级越来越多，架构图看起来像一个复杂的电路图。
压力如山。
Mandy知道“按照最严施行”，意味着“再难也是要上”。当前，最现实和最迫切的事是集中力量办大事——调拨人手。
二期三期启动，Harlan、Brian等人就临时被拉入“小黑屋”， Harlan负责技术，Brian统筹产品，这对“未来CP“，进入长达三个月的封闭开发期。
封闭开发，两个极端
封闭开发，是所有互联网公司对于高优先级项目的“行话”，是指要在一定时间、空间内专心致志完成一项开发任务。
高级办公室腾讯大厦，三、四十平米的办公室内，有时会有一种绿皮火车车厢的即视感：没喝完的红牛挥发甜腻气味，半碗泡面敞开着碗口，一把塑料叉子和面搅在一起。
Harlan拍于封闭开发期间
周末，Harlan偶儿会带女儿来公司，女儿在办公室探索全新的世界，他则撸起代码，处理手尾工作。
“技术不算难，难在很多技术要做业界首创的应用”，Harlan坦诚。
二三期工程最重要的目标——是把【腾讯游戏健康系统】从王者荣耀剥离出来，从游戏之内的功能，变成游戏之上的插件，并在这个插件上实现公安实名校验、人脸识别比对等。
它有更高的适配度，不用每个游戏都做一套健康系统；它有更高的管控度，能够从登录端就限制用户的访问。
恰恰因为如此，它更难推进。
Brian、Harlan拿着架构图向游戏工作室逐条解释。
讲到实名认证环节时，一个同事指出，在一款游戏中，频繁让用户进行认证，这对用户体验的破坏太大了。
另一位游戏项目组成员提出，如果用户本来就是成年人，但没有进行实名认证，被游戏强制下线，我可能再也不会回来。
“寻找未成年人，其实是破坏成年人体验的过程”。Brian说
他和Harlan等人，试图通过技术的手段找两个极端，一端尽可能的找到未成年人，一端尽可能的不干扰成年人。
“志愿”加入，未成年建库
一个更复杂的技术解决方案出炉，不断有新成员光顾小黑屋。
有一位叫Kidd的同事 “志愿”加入，他着手建立一个疑似未成年人玩家库， 数据分析是他的强项，眼尖的他经常能通过样本，发现常人难以发现的未成年数据维度。
项目组在重庆实地调研时发现，有一批玩家，身份证登记都是超过60岁的，在一天内玩了两三个小时的游戏，这个其实是不符合规律和不正常的。
“调研发现，用的其实是爷爷奶奶的身份证”。
这是典型的留守儿童的特征。
父母不在身边，祖父母成为他们“捣蛋”的对象。最终，他们被Kidd“志愿”入库了，并对留守儿童开始开发针对性的防沉迷策略。
为了能够找到疑似未成年人，Kidd建立了一套的逻辑算法。它通过样本学习，找出特征，最后找出对应特征玩家，去判断是否为未成年人。
比如，游戏时段集中在寒暑假，或者是中休、晚休时间，那这群玩家很可能会被打上“疑似未成年玩家”的标签。再根据这群样本，分析其游戏行为数据，更好地辅助疑似未成年人玩家库的建立。
甚至还动用了一些前沿的科学家的力量。
腾讯手机管家的一位博士，正在把安全领域技术应用到这上来，通过手指的按压弧长、力度、反应等维度，去判断未成年人。这是区别于数据分析的一种行为判断，如果事成，将成为一个很好的辅助判断工具。
时至今年11月，疑似未成年人用户库渐越庞大且精准，且正在不断更新完善中。
人脸识别 “证明你妈是你妈”
最大的阻碍仍旧存在。
那就是“证明你妈是你妈”的问题——“证明未成年人是未成年人”或“证明成年人是成年人”。
2018年9月，有媒体报道称《腾讯健康系统形同虚设》，有电商网站公开售卖身份信息，宣称可以“破解”系统。
卖家向记者表示，“现在的确比以前严多了，如果认证过，买个成年人身份证号开个新号就可以了”，“认证过的又不想开新号，其实破解不了的，原理只是换绑为成人身份证。”
部分未成年人可以通过电商、搜索引擎等不合法渠道获取成年人姓名和与之对应的身份证号，绕过限制。
Brian看到新闻后，想解释些什么，但欲言又止。
因为最好的解决办法，就贴在“小黑屋”的墙Lanky画的A4纸上，“按照最严施行”的方案中重要的一环——
人脸识别。
人脸识别的数据与公安部的身份信息数据库进行验证，这一直是金融级的安全验证手段。从未在游戏中大规模使用。
团队小心又大胆地尝试，需要找到最可靠的方式。一开始，就有两套方案并行讨论可行性。
人脸识别直植入到系统插件内。
运用微信、QQ的基础能力，跳转至微信、QQ进行人脸识别较校。
方案一，团队内自产自销好实现，但缺点在于稳定性差。一个轻量的插件要做到适配所有的机型，兼容性较弱、误差率较高。
方案二，效果较好，但难在要跨团队推进亿级产品微信、QQ开发人脸识别模块。
在进行过多版测试后，团队确定实施方案二。
“虽然难，但却更照顾用户体验。”
工程师做推广 紧张测试
两个亿万用户的产品，牵一发而动全身，要推动他们的难度可想而知。
这项业务推广工作，落在了耿直的工程师Harlan身上。
不过，事实却比想象中简单。说明了来意与设想后，两个产品讨论完一口气答应了。
人脸识别模块相继进入了微信和QQ新版本排期里。
2018年9月，微信开启人脸识别模块。当月，【腾讯游戏健康系统】以《王者荣耀》为试点，在北京和深圳两个城市以视频认证的方式进行小规模人脸识别技术测试。
上百条待测试的规则列在屏幕上，每一条都待验证。Lanky、Mandy、Brian、Harlan、Kidd等所有同事都紧张不安。
“大概是因为之前还没人在游戏产品里干过类似的事吧。”
它是一个闭环操作。
不仅验证的是人脸识别的可行性，也是验证公安实名校验、疑似未成年人玩家库的之间的关联性、稳定性、和准确性。
最终，系统显示从1000名玩家中验证出958名未成年玩家，准确率95.8%。
2018年11月，QQ跟进上线人脸识别模块。当月15日，【腾讯游戏健康系统】在QQ上完成测试。
2018年11月28日，【腾讯游戏健康系统】在《王者荣耀》上开启了人脸识别验证。验证对象包括经过公安实名校验确认为成年人，但游戏内行为特征却疑似未成年人的《王者荣耀》用户。
其中，考虑到留守儿童冒用祖父母身份的可能，针对实名信息为60周岁及以上、存在疑似未成年人游戏行为、且在近一周的某一天有过较长时间游戏的用户，健康系统均进一步加大验证力度。
当天，不断有未成年用户收到验证弹窗。
有近一半的用户“脸证合一”，成功通过了验证。但在未通过验证的用户中，有98.2%的用户属于“拒绝进行人脸识别”的情况。
“可能是用户本人与实名信息不符”Brian说，系统的作用开始生效了。
这些拒绝人脸识别验证的用户，将被视作12周岁及以下未成年用户，纳入健康系统进行游戏时长限制。
来自未成年人的“投诉”
腾讯客服还出动了主动服务，以防有“漏网之鱼”。
一开始，对于疑似未成年人当天消费达500元的，客服团队尝试主动联系相关支付账户的所有人进行提醒和确认。
指标不断向更严厉的方向刷新，近30天内累计消费达500元、近30天内累计消费达300元......目标是让疑似未成年用户的消费，得到监护人的知情和确认。
腾讯成长守护平台的客服也成为玩家和父母一个情绪的输出口。
有父母来电表示无奈，不知如何管教孩子，客服给了他们许多专业机构提供的指导，并建议父母通过成长守护平台，与孩子形成协作关系。
有一个小孩被妈妈通过成长守护平台实名绑定为小孩，为了逃脱妈妈的监管，打电话给腾讯客服，声称也被“误绑”了。客服请她用人与身份证拍合照发过来时，她把妈妈的身份证和正在睡觉的妈妈拍了一张合影，以为这样子就可以蒙混过关。
弄得客服人员啼笑皆非。
讲起这个案例时，Harlan笑了。“这就是孩子的天真可爱之处“
未完 待续
技术在寻找路上的两个极端也偶尔造成了冲突——尽可能的找到未成年人，难免会干扰到成年人。
“首先我们尽可能的避免，如果实在不能避免的话，前者优先度更高”Harlan说。
他和Brian这对“难兄难弟“，近半年来呆在一起的时间比家人还多，形成很好的默契度。
Harlan讲完，Brian又补充说了一句： “如果这个过程对于部分成年人带来了一定程度的干扰，希望大家理解。”
【腾讯游戏健康系统】正在覆盖更多的腾讯游戏。
【成长守护平台】在发布后的628天里，共迭代了79个大版本，服务用户超过1000万， 82%绑定账号的游戏时间出现不同程度下降。
但，这不是腾讯一家企业就能做好的事情，需要更多的盟友加入。
就在上个月，【成长守护平台】与五大硬件厂商华为，OPPO，vivo，小米，三星达成合作。现在，在小米、三星手机上，也置入成长守护平台（包括超级家长、WeTeam）的入口。
Harlan与女儿
短期内，Harlan、Brian大概率还是会周末加班，Harlan的女儿偶尔也会来探索办公室。
他希望能年前能放一个长假，花更多的时间陪陪她的女儿。也希望更多的父母，花更多的时间与儿女一起探索这个世界。
本文来源：腾讯（ID:tencent）
QQ“嘀嘀嘀嘀嘀嘀”的提示音正式成为首个经司法确认的声音商标