查看原文
其他

老板问你数据库在“瞎忙”还是“真忙”?怎么回答?

digoal PostgreSQL码农集散地
2024-09-30

文中参考文档点击阅读原文打开, 同时推荐2个学习环境: 

1、懒人Docker镜像, 已打包200+插件:《最好的PostgreSQL学习镜像

2、有web浏览器就能用的云起实验室: 《免费体验PolarDB开源数据库

3、PolarDB开源数据库内核、最佳实践等学习图谱:  https://www.aliyun.com/database/openpolardb/activity 

关注公众号, 持续发布PostgreSQL、PolarDB、DuckDB等相关文章. 


第40期吐槽:PG 缺少qps计数器

1、产品的问题点

  • PG 缺少qps计数器

2、问题点背后涉及的技术原理

  • qps: 包括insert, update, select, delete.

    • 通常需要支持 nestloop、top选择(由于function 有内置sql的存在).

3、这个问题将影响哪些行业以及业务场景

  • 通用

4、会导致什么问题?

  • 无法统计qps, 缺少展现业务吞吐的指标. 其他指标无法直接反映业务吞吐. 

    • CPU负载、IOPS无法体现业务指标. 不能说负载高业务吞吐就高(有可能是SQL没有优化导致的瞎忙)

    • TPS可以, 但是只算commit、rollback两个维度, 并且不包括只读的事务, 体现维度较弱. (而且纯粹的查询无法通过tps反映)

    • 索引扫描了多少条目、表扫描了多少行数、插入行数、删除行数、更新行数.

《PostgreSQL tuples_returned , tuples_fetched 说明》

blks_read | bigint | | |
blks_hit | bigint | | |
tup_returned | bigint | | |
tup_fetched | bigint | | |
tup_inserted | bigint | | |
tup_updated | bigint | | |
tup_deleted

5、业务上应该如何避免这个坑

  • 通过 pg_stat_statements 的calls进行计算, 但是无法完美计算qps, 因为记录的sql容量有限(参数控制)

    • 《PostgreSQL 实时健康监控 大屏 - 低频指标 - 珍藏级》

    • 《PostgreSQL 实时健康监控 大屏 - 高频指标(服务器) - 珍藏级》

    • 《PostgreSQL 实时健康监控 大屏 - 高频指标 - 珍藏级》

  • 或者自己写个插件,改一下pg_stat_statement也能支持qps.

6、业务上避免这个坑牺牲了什么, 会引入什么新的问题

  • qps监控指标的获取非常麻烦, 而且不准确, 而且可能重复统计, 例如function和sql. 同时区分 insert,update,delete,select 需要做文本匹配, 有性能损耗.

7、数据库未来产品迭代如何修复这个坑

  • 建议内核层支持qps指标. 在pg_stat_database中支持insert,update,delete,select各项指标.

    • 支持到database特别有意义, 因为很多saas类或者dbaas类业务每个database都对应一个独立的客户, 能反应更加精准意义的业务指标, 有业务价值的功能就是好功能.


往期吐槽文章:
欢迎大家留言或联系我把踩过的坑发过来, 一起鞭策开源和国产数据库: 
德哥邀你鞭策数据库第1期 - PG MVCC
Tom Lane老师, 求求你别挤牙膏了, 先解决xid回卷的问题吧
3 为什么增加只读实例不能提高单条SQL的执行速度?
4 德哥邀你鞭策数据库第4期-逻辑日志居然只有全局开关
第5期吐槽:经常OOM?吃内存元凶找到了:元数据缓存居然不能共享
第6期吐槽:2024了还没用上DIO,不浪费内存才怪呢!
7 第7期吐槽:今年才等来slot failover,附上海DBA招聘信息
8 第8期吐槽:高并发短连接性能怎么这么差?
9 第9期鞭策:“最先进”的开源数据库上万连接就扛不动了,怪研发咯?
10 第10期吐槽:说删库跑路的都是骗子,千万别信,他们有的宝贝你可能没有!
11 第11期吐槽:关闭FPW来提升性能,你想过后果吗! 本期彩蛋-老板提出变态的要求,你会答应吗?
12 第12期吐槽:SQL执行计划不对?能好就见鬼了!优化器还在用几十年前的参数模板,环境自适应能力几乎为零
13 第13期吐槽:十个中年人有九个发福的,数据库用久了也会变胖!这一期吐槽PG膨胀收缩之痛,tom lane啊您为啥不根治膨胀呢?
14 吐槽(鞭策)PG以来我掉了“一半流量”!老外听不得忠言逆耳吗? (本期抽奖-掌上游戏机)
15 第15期吐槽:没有全局临时表,除了难受还有哪些潜在危害?
16 空缺,因为这一期的吐槽PG社区已经落实了.
17 第17期吐槽:被DDL坑过的人不计其数!严重时引起雪崩,危害仅次于删库跑路!PG官方不支持online DDL确实后患无穷
18 第18期吐槽:都走索引了为什么还要回表访问?原来是索引里缺少了“灵魂”
19 第19期吐槽:从DuckDB导入到PG后膨胀了5倍,把存储销售乐坏了!什么情况?
20 第20期吐槽:PG17新版本这么香,为什么不升级呢?居然是因为这个
21 第21期吐槽:90%的性能抖动是缺少这个功能造成的!也是DBA害怕开发去线上跑SQL的魔咒
22 第22期吐槽:DB容灾节点延迟了,网络带宽瓶颈?用CPU换啊!该“魔法”PG还不支持!
25 第25期吐槽:PG的物理Standby无法Partial导致单元化架构/SaaS使用不灵活
99 第99期吐槽:SQL hang住锁阻塞性能暴跌!抓不到捣蛋SQL的DBA很尴尬。
26 第26期吐槽:开发者使用PG的第1件事-配置访问控制策略,体验有待加强
27 第27期吐槽:block size既大又小!谁把成年人惯成这样的?
28 想撼动Oracle,PG系国产你还不配!吐槽你连最基本的空间分配都没做好
29 吐槽PG表空间搞得跟"玩具"一样,全靠ZFS来凑
30 快改密码!你的PG密码可能已经泄露了
31 注意别踩坑!PG大表又发现一处隐患
100 直播+吐槽: 看看你的PG有没有被注水? 聊聊孤儿文件
32 第32期吐槽: PG大表激怒架构师,分区后居然不能创建唯一约束?
33 有奖谜题:PG里100%会爆的定时炸弹是什么?
34 第34期吐槽:PG做SaaS/DBaaS?隔墙有耳。(本期彩蛋PG岗位招聘)
35 "富人"的烦恼
36 PG商业上失败的重要原因之一
38 猪怕过年,DBA怕什么?

39 连老司机都不敢随便刷新PG的物化视图

本期彩蛋-招商中,有需要的小伙伴可联系嵌入...


文章中的参考文档请点击阅读原文获得. 


欢迎关注我的github (https://github.com/digoal/blog) , 学习数据库不迷路.  

近期正在写公开课材料, 未来将通过视频号推出, 欢迎关注视频号:


个人观点,仅供参考
继续滑动看下一个
PostgreSQL码农集散地
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存