酷家乐专项测试之弱网实战
一、专项背景
在酷家乐设计工具迭代中,发生了若干个线上故障,最后排查后发现在弱网情况下触发。那么从测试的角度来说,需要额外关注的场景就远不止断网、网络故障等情况了。对于我们的设计工具来说,弱网下工具的前端显示效果,数据的稳定性,给出正确提示尤为重要
1.1故障背景
去年某月—部分用户在弱网环境下,触发云图保存数据操作,引发接口回调过慢,最终导致方案大量数据发生丢失情况。
并且该故障在三周内增加2000+客诉,在一定程度上反映出了当前用户网络情况:仍然有不少用户的网络环境并没有预期的好,并且该事例体现出数据稳定对于酷家乐设计工具的重要性。
二、进行弱网测试的目的
最重要的四个目的:
1.保证方案数据的一致性和准确性。例如:网络状况比较差时,不能发生方案内的数据丢失或者数据异常。
2.保证界面显示的正确性。例如:加载方案时,页面的加载可以一直在刷加载动画, 但是白屏或者黑屏是不好的用户体验。
3.保证请求不发生堆积,导致数据错乱。例如:弱网情况下,商家用户频繁触发充值,导致请求堆积,金额被扣但充值实际未到账,或被扣金额只有一笔,但实际充值到账多于预期的情况,涉及公司资损。
4.保障异常网络状态下各类处理机制。例如:网络不稳定时,给与合理提示时的用户体验,对比无提示但页面显示异常时的用户体验。
三、什么是弱网
3.1 弱网定义
按照移动的特性来说,一般应用低于2G速率的都属于弱网,也可以将3G划分为弱网。除此之外,弱信号的Wifi通常也会被纳入到弱网测试场景中。
酷家乐设计工具与APP测试有所不同,主要是在电脑端进行设计(网页与客户端),根据不同的业务特定,对弱网的判断定义也有所不同,根据工具之前发生的故障,可以认为3G网速下,对于设计工具来说已经是弱网了,此次暂时排除2G状态。
以下是弱网下各网络参数,网页端也可参考
3.2 更多的弱网场景
同时,可根据ping的结果判断,参考了一些游戏测试,ping的结果超过100,则可能会出现卡延迟了,举个例子
3.3 名词解释
上行速率:用户的电脑向网络发送信息时的数据传输速率。
下行速率:是指网络向用户电脑发送信息时的传输速率。
丢包率:测试中所丢失数据包数量占所发送数据组的比率。
网络抖动:网络延时随时都在不停的变化称为抖动(延时的变化称为抖动)
四、现状分析
4.1 测试分析
根据酷家乐工具现状,可以由以下几方面入手,测试工具在弱网下的状况
4.2 不同业务下的思考
不同业务可根据业务可行,选择不同网络状况进行测试。
PC:PC由于使用有线网络更为通用,网络状态更为稳定。调整上下速率最为常用。
移动端:移动端由于环境因素的影响,可考虑:网络延迟,抖动,丢包,网络环境等网络状态。
特别网络的一些限制:如部分网络限制DNS等。
弱网测试用于覆盖所有场景显然是不合理的,更倾向与选择覆盖高P,显示或数据层面的场景。
4.3 归纳
各类网络状况下产品的前端呈现与接口层面的表现:关注交互的表现,功能的使用状况,页面的响应时间等。同一场景在不同网络状态下呈现的表现是否符合预期
各类网络状况下工产品的是否出现数据异常,数据丢失等情况,保障安全性
4.5 测试场景细化
根据工具场景优先级,进行场景测试用例细化,工具弱网测试用例:
4.6 模拟弱网场景
弱网环境搭建方法:
弱网搭建一般有软件与硬件方式,软件搭建成本低,效率更高,一般使用模拟带宽丢包率等参数进行网络控制,从而模拟弱网下的一些条件。硬件方式更倾向于对网络有高要求的场景,但较麻烦。本次工具使用软件模拟方式进行弱网设置。
三种网络控制工具的优劣势介绍,可根据不同需求进行选择与使用:
chrome浏览器设置网络
优势:快捷,不需要其他工具辅助,在network页即可设置
缺点:复杂网络状态无法模拟,仅限于当前tab页下的操作
2.fiddler代理设置弱网
优势:不局限于浏览器,适用于测试客户端等场景
缺点:复杂网络状态无法模拟
设置方法:fiddler里的rules下的Customize Rules打开后,在OnBeforeRequest中修改上行和下行速度
3.通过charles设置网络情况
Charles其实是一款代理服务器,通过成为电脑或者浏览器的代理,然后截取请求和请求结果达到分析抓包的目的
优势:可模拟更丰富的网络状态,如丢包,抖动,延迟等,且适用于客户端
缺点:安装与配置操作需要花费一定时间
配置参数:
Bandwidth:带宽,即上行、下行数据传输速度
utilisation :带宽可用率,大部分modern是100%
round-trip latency :第一个请求的时延,单位是ms
MTU :最大传输单元,即TCP包的最大size,可以更真实模拟TCP层,每次传输的分包情况。
Releability :指连接的可靠性。这里指的是10kb的可靠率。用于模拟网络不稳定,模拟丢包。
Stability :连接稳定性,也会影响带宽可用性。用于模拟移动网络,移动网络连接一般不可靠,模拟网络抖动。
Only for selected hosts:可以指定域名拦截。
五、弱网测试的介入标准
判断是否需要弱网测试的基础:
理解当前业务数据结构交互
理解数据的读写与流转流程
什么阶段判断是否需要进行弱网测试:
Devdesign阶段,根据实际代码设计评估是否需要介入
数据变更相关。例如:涉及前后端数据交互方式变更
数据发送,回调方式变化
前端设计显示相关变更
六、持续展望
弱网测试作为异常测试中的一种,不同场景需要大量时间进行验证,在有限的人力条件下,更有效的提升效能的方式:纳入持续集成。
关于纳入持续集成的展望,考虑可通过前,后端自动化测试,配合网络设置,进行高P场景覆盖:
网络设置:考虑使用混沌工程/机器上配置接口延迟进行网络状态模拟
前端自动化:基于高P场景的模拟操作,进行前端重要数据的验证。需要有数据层面校验能力支撑。
后端自动化:进行接口延迟时自动化结果对比。
后续可在前后端自动化场景中探索可行性。
七、小结
弱网测试是对网络不稳定或网络交较差情况下,用户体验的重要保证。弱网状态下,工具有正确的表现与适当的引导,可以给予用户体验一部分保障。
弱网状态下数据的安全与稳定性是工具重要的指标,甚至可能可以对性能评估方面做一定的辅助作用。
弱网测试作为移动端健壮性测试的重要部分,同样也可以对提升酷家乐工具的稳定性,提高用户体验做贡献。
推荐阅读
1. 酷家乐测试团队 影响力运营小组:回顾那个从0到1的过程
公众号:酷家乐技术质量 知乎:酷家乐技术质量
TesterHome:kujiale-qa (酷家乐质量效能)