TGDC丨《王者荣耀》技术总监孙勋：王者荣耀后台分享
9月23日，首届“梦想·匠心”腾讯游戏开发者大会于深圳举行，在技术分论坛上，腾讯互动娱乐《王者荣耀》项目技术总监孙勋，率先以《王者荣耀后台分享》为题,分享了《王者荣耀》的一系列后台技术。孙勋参与过《QQ三国》的研发，主导参与《QQ封神》、《霸闪过ol》、《王者荣耀》的开发工作。论坛上，孙勋分享了《王者荣耀》最初的整体架构，并说明游戏在上线后做出的各项具体调整。对《王者荣耀》的网络同步方案等后台技术，孙勋也逐一作了详细讲解。
以下内容为分享实录
孙勋：大家好！今天由我带来《王者荣耀》后台技术上面的分享。
我叫孙勋，是一名后台开发程序员。2005年加入腾讯，最开始不是做游戏，到2007年一直做拍拍网，2007年加入成都卧龙工作室，也就是现在的天美L1工作室。最开始参与过《QQ三国》、《封神记》、《霸三国OL》，到后来的《王者荣耀》，现在是王者的技术总监。
今天分几部分和大家介绍王者后台开发过程中的一些内容和思考：包括王者整个背景的介绍，后端的架构，上线之后做了什么样的调整，还有网络同步方案，反作弊方案等。
现在王者后端的机器大概是4600多台机器，我们的容量也有一定的扩展，进程数目是4万多个。
王者游戏背景
2012年，我们当时做端游游戏，是王者的前身。最开始是偏向RTS的游戏，后来我们把它改成端游的MOBA，后来做手机上面的MOBA即王者。从2012年开始做RTS游戏到2013年，从多控制单位的RTS游戏 变成MOBA游戏，到2014年启动王者的预研，再到2015年2月份我们把很多的人力（大概100多号人）投入做王者开发，时间比较短。6月份的时候，大概4个月开发时间，我们就开启了王者的对外技术测试，8月份开始做不删档测试，听了主论坛就知道，那时候我们叫英雄战迹。再到后来《王者荣耀》10月开始不限号。时间很短，任务也很重，压力也很大，主要全量的开发时间就是3-4月，这也决定我们当初技术选型方面的考虑。
做王者之前，我们做的霸三国，最开始是偏RTS的游戏，后来我们改成了PC上的MOBA游戏。
《霸三国》的玩法是玩家可以在战前通过排兵布阵构成自己局内的策略，通过控制多个单位，技能释放、兵种特性的释放形成对抗。我们最开始做《霸三国》的时候客户端引擎是unreal，但在做王者的时候引擎用unity，3-4个月的时间，本身从代码层面没有任何东西是搬过来用的，全部都需要重写。
针对之前这块，我们不做过多介绍。
《霸三国OL》的一些启示
做端游《霸三国OL》的这段经历，给我们做王者带来很多相应的启示，比如策划、程序及整个团队对MOBA的理解。另外当时在做端游RTS、MOBA的时候，我们采用了CLIENT-SERVER的模式，但其实在过程中有借鉴类似帧同步的概念：例如在断线重回对视野的处理这块。
传统的做法是重回时会发当前的镜像和后续的其他下行通知信息，但传统做法会有一个问题，如果新增其他的场景内模块的时候，根据场景内包含的当前的各种物件、所在状态的各种各样信息，都需要把这些东西打包发下去，在后续开发、维护的时候挺麻烦的。我们的做法，就是类似帧同步的理念，把服务器下发的所有序列包做缓存和按顺序重发，让客户端做快进的表现，它的概念和帧同步其实是比较类似的。还有一点，就是预留设计弹性，最开始RTS每个玩家最多可以操作5-8个进行对抗，到后来改成MOBA游戏，只能操作一个英雄，加入各种各样的场景，我们本身的技术框架没有进行颠覆性的大改。
整体架构
王者目前后台的整体架构的设计是源自产品的需求，大家玩过王者的就知道，PVP的对抗是不分区服的，你登录微信1区可以和微信2区一起PVP，甚至ios平台可以和Android平台的人一起玩PVP，但是同时又保留了分区的概念，比如战队、排行榜是基于区的概念，区在王者里面就是编号，是打在玩家新建角色上的Logo。我们最开始做架构实现的时候，服务器当时做得比较简单，从原型开始只是保留了大厅和PVP服务器这两块，是分开的。PVP服务器的使用类似CGI调用，可以分配资源使用，用完之后回收，不负责其他的东西，需要的东西从大厅拿，用了之后回给大厅，让大厅回写DB。包括大厅和PVP之间做直联，后来把直联改成中间的转发，在王者里面我们叫Proxy，相当于代理服务器，屏蔽本身后端很多进程分布的细节。因为王者本身的机器、进程很多，还有不同的路由规则，某些排行榜或者战队根据逻辑区的编号来确定有哪台机器或者多台机器进行处理，有些消息采用随机转发或者多发广播，都是由Proxy负责路由。之后又加入了房间服务器，它负责的是王者里面匹配、排位相关的功能，怎么样把实力比较接近的人糅合到一块儿玩，是由房间匹配服务器来做相应的负责的。也会有战队和其他的服务器。最后我们在上面加入了一个Adapter，作用是用本身已经部署的大区资源实现跨服匹配的功能。王者的后端架构，除了战队这样的服务器之外，所有其他的模块都可以在线扩容，或者在发现在线下降的故障时，从整个架构里自动屏蔽掉。因为路由方式会限定比如一区、二区、三区到这台机器处理，如果故障，影响的只是某几个逻辑区玩家请求的处理，降低故障影响范围。
王者目前的机器数量，可能每周都会发现有机器坏掉，至少有一台机器宕掉，在架构里面保证模块自动屏蔽，和在线扩容，是非常重要的事情。整体结构比较像MMO的三层结构，MMO在腾讯有比较典型的三层级别的结构。大厅服务器会根据玩家的所在区登录具体区的大厅服务器。单个大厅进程可以承载2万人，单个PVP可以承载1.2万，小区登录微信一区还是二区就是角色Logo打在他身上。王者就是全区全服的结构，如果剥离了战队，不管是大厅还是PVP服务器，其实每个都是按组的概念。我们可以在线扩容，如果组里面某个宕掉，不会有什么太大的影响。王者现在外网有四个大区，比如Android手Q、Android微信、iOS手Q、iOS微信，还有抢先服。我们会用程序开关的方式，在大版本发布之前，优先更新抢先服，这时候它不能和正式服玩家匹配在一起，因为他们的版本不一致。当全服发布之后，它的版本更新一致之后，我们会打开开关，抢先服的玩家可以和正式服的玩家一起进行PVP的匹配。除此之外，我们还有专门的体验服，是给策划验证相关设计的，体验服保留可能删档的操作，但在正式环境这是绝对不允许的。另外，以前的传统手游偏单机，就会做很多协议兼容，客户端版本没有更新可以玩。但是王者里的主要玩法是PVP，同时结合实现方式，不同版本的玩家不能匹配一起，所以我们没有做多版本协议兼容。
上线后的调整
上线后，王者本身的后台架构，整个结构没有做太大的改动，因为我们做端游的时候，对这套结构比较清楚，我们知道哪个地方可能有什么样的问题，所以整个结构一直比较稳定。
但是我们做了相应的微调，做得最多的是网络本身的优化。王者上线的时候，市面上要求网络及时性强的即时PVP游戏是比较少的。我们做了各种各样的尝试，比如在网络做CPU方面的性能优化、延迟、丢包等等，，网络本身花的时间是最多的。
架构上的微调，像刚才提到的中转模块，我们架构中大厅机器很多，PVP机器很多，架构中不需要每个进程知道详细信息，比如大厅服务器不需要知道后面有多少房间服务器，只需要知道后面有房间服务器，可以访问就OK。怎么划分、平衡负载、怎么屏蔽后端故障节点，都是由Proxy路由功能在负责。因为大厅、pvp机器太多，我们通过Proxy将整个架构划分成彼此之间没有交集的树枝的概念，每组Proxy只负责一部分的大厅和PVP服务器。这两种服务器在王者的服务器里面最多，但是后端通联之外，Proxy之间再建立连接，减少单个Proxy通道数的同时，保持整个结构的通联。
ProxyAdapter是上线后加入的，最开始上线只有四个大区，手Q、微信、Android、iOS四个环境，最开始Android的玩家不能和iOS开黑。开始Android和iOS分开也有一定原因，我们之前设想Android会先更新，iOS后跟新，以保持版本更新的稳定性。但后来我们希望Android和iOS的玩家可以因为关系链一起开黑。所以当Android、iOS版本更新频率一致时，我们希望不需要部署太多额外的机器资源和开发，直接利用Android和iOS已有的PVP服务器和大区资源，打通Android和iOS的pvp。当Android玩家登录Android大区会连接到Android大厅，iOS登录之后连接iOS大区的大厅，当他们需要开黑的时候，我们通过Adapter把中转模块所有的大区桥接起来，通过一定的算法投递到某个大区，投递的选择和大区资源占比有直接关系。
网络同步方案
之前做霸三国的时候采用CLIENT-SERVER的模式，服务器判定客户端表现，为什么我们在做王者的时候选用帧同步的方式呢？ CLIENT-SERVER模式的好处在于：首先是安全，因为都是服务器计算，客户端只是负责表现层面的功能，不会影响各种判定的结果。另外CLIENT-SERVER模式因为是基于结果的表现，所以中间可以出现丢包，丢包是可以被接受和处理的，只要最终的结果补发一致。帧同步在端游用得比较多，大家比较熟悉的dota，还有星际，都是用的帧同步技术。帧同步本身对网络要求更加严苛，下发的执行序列是不允许丢包的，需要严格保证顺序性，包是12345，就必须是12345，如果丢包，必须要等到丢的包到达之后才能顺序后续执行。MOBA本身的单位比较多，同屏时客户端最多有将近100个单位，假如一个AOE技能打到20个单位，然后种了一个debuff，CLIENT-SERVER状态模式需要发这些信息下去，可能潜在的同步状态信息是比较多的。另外一个CLIENT-SERVER模式本身开发的方式，客户端表现与服务器的判定，要完美的匹配是比较困难的。
我们之前做端游MOBA的时候，一个英雄的技能我们开发要两三周的时间。王者开发的时间是三四个月，这样的时间压力下面，我们用CLIENT-SERVER的方式搞不定，时间不够。不过当时心里也会比较紧张，因为当时市面上并没有看到用这种方式做的强PVP的高及时性的手游。帧同步网络抗抖动能力比较弱，因为不能丢包。帧同步的基本原理，大家有兴趣可以下来自己了解一下。一般会有区分，是网络还是主机模式。该技术的要点在于局内的运算都是基于客户端运算，10个人每个人各自算一份，有相同的起始、相同的输入、完全相同的中间运算逻辑，不存在随机过程，这时候运算的结果，理论上应该是一致的。甚至包括浮点数运算都不应该存在，它有精度的问题。包括很多碰撞，动画，还有基本的数学运算库都是后台自己实现的，要去浮点整形化，避免客户端的本地逻辑，这是最容易犯的错误，这是出现不同步最常见的原因。如果某个经验不是很足的客户端程序，写程序时候用本地的代码做相应的逻辑，可能跑得越来越远，10个人都是平行的世界。
整体的网络结构，大体看来是分三层，服务器、客户端逻辑层，客户端表现层。
服务器主要负责的功能有两部分：一是收集所有玩家上行的输入，把它按定时的间隔打包成输入的序列，投放给所有客户端；二是当客户端出现丢包的时候，服务器进行补发；还有把客户端上行冗余的信息替换掉，比如有新的输入到了，就把老的输入Drop或者替换掉。王者我们的逻辑是66毫秒一次，1秒同步15个包，这是不能少的，因为帧同步不能丢包，数据包必须有严格的执行序列。
客户逻辑层理解为客户端本地的服务，就是所有客户端运行的结果必须强一致，不能有真的随机，不能有本地逻辑，不能有浮点数的运算，拿到相同的输入，产生结果必须一致。
客户端表现层是根据逻辑层的数据去做Copy或者镜像，然后在表现层进行平滑，帧数不一样，但是不会影响最终的运算结果，只影响动画和动作的表现。
PVP最开始上线时我们是用的TCP技术。TCP在局域网的情况下表现还是不错的，没有什么问题，但是当外网出现丢包或者抖动的时候，受限于实现方式，比如窗口、慢启动各方面的原因，会发现当出现重联的时候会非常卡，所以后来我们没有用TCP，改为了采用udp。如果出现丢包，服务器会在应用层做补发。udp受限于mtu的大小，大于mtu，会出现分包，可能也会出现整包的丢失。所以我们也会有些比较大的包会在APP层由服务器做分包，中间出现丢包再由服务器补发，把零碎的包拼成整包再做解包。比较有价值的是udp包，如果手机因为信号抖动等出现丢包，下发的时候通过冗余方式，是比较有效的解决方法。
帧同步的消息比较小，按照理论1秒15个驱动帧来算，20分钟的录像是10M左右。但是我们外网统计，正常的5V5对局20分钟，录像的大小大概是3M左右。服务器会把玩家的操作做纯内存的存储，当出现丢包的时候，服务器会通过编号快速找到缓存信息进行下发，。同时根据丢包的情况，我们会计算给这个人发送冗余量的变化量。最开始发送每个包会冗余前面3帧的信息，如果丢包严重，我们会尝试冗余更多信息再下发。客户端拿到之后会尽量压缩逻辑执行的过程。帧同步有比较麻烦的模式在于，它不像CLIENT-SERVER的模式随进随出，崩溃之后重回必须从一开始运行，中间运算过程不能少掉。
另外，我们也尝试过其他的一些方法，比如客户端上行之后，不需要服务器定时的间隔去做收集然后下发，而是通过染色帧编号直接下发，这样响应更及时，操作反馈更强、更快。当时我们做出来的结果，对手感的提升微乎其微，但是带来的负面问题却很大，因为不再是一秒15个包固定的下发，下发包的数量非常多，完全和这个人的操作习惯有关系，有可能一个人一秒之内产生了十几二十个输入，就需要把这些输入打包之后对客户端下发。客户端因为收包很多,也发烫明显。我们也有和其他部门合作，做类似于tcp的技术，大家直观想到如果丢包就在io层做重发，但是实际的结果会发现，做的这个技术偏底层，所以对丢包的控制性不那么灵活，而且可能出来的结果还没有tcp本身好。
传统的帧同步的方式会做延迟投递，这个我们也有尝试过。如果间隔时间内出现丢包，或者出现包下行的时网络波动，可以通过延迟投递这种方式抹平抖和丢包的情况。我们尝试过这个方案但最终没有这样做的原因在于：王者里面一些英雄体验起来感觉偏动作，对反应要求比较快，延迟投递虽然确实抗抖动和抗丢包的能力不错，但是手感上达不到我们的要求。另外，做CLIENT-SERVER方式的实现，一般都会有一个套路，客户端提前表现，根据服务器的表现做平滑或者拉扯，这个方案我们也尝试过，但最终还是放弃了，因为这个技术会让角色本身的表现有点发飘。客户端本地动，马上客户端表现就跟着动，但根据服务器的下行，其实会做一些偏移或者修正。当网络抖动出现的时候，你会发现这个角色有一点发飘，所以这个方案我们放弃掉了。
帧同步方案，所有客户端进行运算，期望产生一致的结果，但如果因为bug或者某个人使用修改器，跑出来的结果会和其他人不一样，当不一样出现，我们的说法是不同步了。我们会定时把一些关键信息提取出来做hash，不同步的人的hash和其他人会不一样。王者不同步率上线时大概是2%，也就是100局可能有2局出现一个人或者多个人结果和其他人不一样。我们现在把不同步做到万分之三，一万局里面只有三局出现这个情况。是怎么提升的呢？如果你用帧同步一定会遇到不同步的问题，客户端写错了，用了本地逻辑，可能浮点数的运算误差达到那样的临界点，它就会产生运算结果不一致。我们的方法有很多：自动化测试，用机器人不断跑，比如上新英雄之前，有脚本测试不断跑，看会不会产生不同步的结果；有专门的体验服、抢先服大区，发布到正式网络之前先测试，先暴露问题，再解决问题；另外，当不同步的时候，我们会把这局整个录像和客户端间的log上传和保存下来，这样可以根据录像和中间执行的日志序列快速的定位是哪个地方出现问题。
我们对延迟和单局质量也有相应的监控，这一局有没有卡或者卡多少次，有没有出现丢包，丢包多少，最大的延迟、最大的抖动是多少，我们都是有相应的记录和统计。运营部的同学给我们提供了很多帮助，我们会有相关的网络测速、问题分析的SDK的合入。按照我们自己的统计，主要的原因有几个：一是小区的带宽比较繁忙，很多小区其实都是公用带宽出口，比如有人在下电影、看直播，占用了很高带宽，你玩游戏就可能会卡。二是wifi路由器延迟比较高，家里的wifi路由器长期没有重启，就会存在终端过多、信道干扰、其他大流量的应用下载情况，这也会影响你玩王者。还有手机信号差、信号抖动，wifi、4G空口丢包等。我们其实在网络优化上做了很多的尝试，例如根据丢包情况加大冗余，然后优化我们各方面执行的效率，去减少CPU的占用。王者后台方面，有两个点是我们一直努力在做的，网络优化和匹配机制，我们尝试用各种各样的方法，甚至后面也会尝试用AI深度学习的方法，来更加精准的定位玩家本身的真实水平，让他能够匹配到更加真实的同等水平的对手和队友。
关于腾讯游戏开发者大会
腾讯游戏开发者大会是面向资深游戏行业从业者展开的行业盛会，旨在搭建一个开放的行业经验交流平台，并首次对外公布腾讯内部精品课程，期望通过分享最新的游戏开发经验以及国际前沿资讯与技术，让各专业领域人员可以一起探索游戏的更多可能性，打造出有风格有特色的精品游戏，让更多人能够感受到游戏作为第九艺术的魅力。
关于腾讯游戏学院
腾讯游戏学院由腾讯互动娱乐发起，致力于打造游戏知识分享和交流平台，专注建设游戏职业培训和发展体系。学院通过提供游戏类专业培训课程、建设游戏职业发展通道、开展丰富的校园活动及行业活动，帮助在校生和游戏从业者提升职业竞争力，成就游戏创想梦。
关于腾讯游戏
腾讯游戏，全球领先的游戏开发和运营机构，国内最大的网络游戏社区。以“用心创造快乐”的理念，腾讯游戏通过在多个产品细分领域的耕耘，对多元化四大平台的打造，致力为玩家提供“值得信赖的”、“快乐的”和“专业的”互动娱乐体验。
腾讯游戏，用心创造快乐！