首页
下载应用
提交文章
关于我们
问卷:你怎么看自由微信?
🔥 热搜 🔥
1
上海
2
习近平
3
新疆
4
鄂州父女瓜
5
乌鲁木齐
6
疫情
7
H工口小学生赛高
8
习明泽
9
芊川一笑图包
10
印尼排华
分类
社会
娱乐
国际
人权
科技
经济
其它
首页
下载应用
提交文章
关于我们
问卷:你怎么看自由微信?
🔥
热搜
🔥
1
百度
2
今日热点
3
微信公众平台
4
贴吧
5
opgg
6
dnf私服
7
百度贴吧
8
知乎
9
dnf公益服
10
百度傻逼
分类
社会
娱乐
国际
人权
科技
经济
其它
白石洲拆迁后,那些上学奔波的孩子都去哪儿了?
一个医保局长之死
给宠物做保姆的中国留学生
本以为吴京大儿子叫“吴所谓”够随意了,听到二儿子名字,真服了
法院4.2元拍卖一瓶雪碧,限自提!被执行人回应:没有更多可供执行财产
生成图片,分享到微信朋友圈
查看原文
其他
MQ,究竟如何做到削峰填谷?
Original
58沈剑
架构师之路
2022-07-22
收录于合集 #架构
78个
MQ,很多的应用场景,是消息的订阅发布,是系统上下游的解耦,
MQ
的还有一个
典型应用场景
是
缓冲流量,削峰填谷
,本文将简单介绍下,
MQ
要怎么实现缓冲流量
,削峰填谷
。
站点与服务上下游之间,一般如何通讯?
有两种常见的方式。
一种是“直接调用”,通过RPC框架,上游直接调用下游。
一种是“MQ推送”,上游将消息发给MQ,MQ将消息推送给下游。
这两种方式,能否缓存流量,能否削峰填谷?
不能。不管采用“直接调用”还是“MQ推送”,都有一个
缺点
,下游消息接收方无法控制到达自己的流量,如果调用方不限速,很有可能把下游压垮。
举个
栗子
,秒杀业务:
上游:
发起下单操作。
下游:
完成秒杀业务逻辑(库存检查,库存冻结,余额检查,余额冻结,订单生成,余额扣减,库存扣减,生成流水,余额解冻,库存解冻)。
上游下单业务简单,每秒发起了10000个请求,下游秒杀业务复杂,每秒只能处理2000个请求,很有可能上游不限速的下单,导致下游系统被压垮,引发雪崩。
如何避免下游被压垮呢?
为了避免雪崩,
常见的优化方案
有两种:
(1)业务上游队列缓冲,限速发送;
(2)业务下游队列缓冲,限速执行;
不管哪种方案,
都会引入业务的复杂性
,有“缓冲流量”需求的系统都需要加入类似的机制,正所谓“通用痛点统一解决”,需要一个通用的机制解决这个问题。
能否通过MQ实现缓冲流量?
可以,但需要简单修改。
MQ要怎么改,能缓冲流量?
由MQ-server推模式,升级为MQ-client拉模式。
MQ-client根据自己的处理能力,每隔一定时间,或者每次拉取若干条消息,实施
流控
,达到保护自身的效果。并且这是MQ提供的通用功能,无需上下游修改代码。
如果上游发送流量过大,MQ提供拉模式确实可以起到下游自我保护的作用,会不会导致消息在MQ中堆积?
下游MQ-client拉取消息,消息接收方能够批量获取消息,需要下游消息接收方进行优化,方能够提升整体吞吐量,例如:批量写。
结论
(1)MQ-client提供拉模式,定时或者批量拉取,可以起到削平流量,下游自我保护的作用(MQ需要做的);
(2)要想提升整体吞吐量,需要下游优化,例如批量处理等方式(消息接收方需要做的);
架构优化要整体考虑,需要通用服务和业务方一起优化升级。
真人出镜,欢迎
关注+点赞
您可能也对以下帖子感兴趣
{{{title}}}
文章有问题?点此查看未经处理的缓存