查看原文
其他

Bytebase: 让你爱上 MySQL 的开源审核神器

蒋明 Bytebase 2023-05-09

原文链接 | https://zhuanlan.zhihu.com/p/617471574

要保证 MySQL 运行,首先要缩小数据库容量。保证每个 SQL 只需要查询当前需要查询的内容,尽量取更少的数据,节约单个服务器的 IO。
  • 使用分页、分表、分区等技术,控制单表的数据量和查询范围,这种就是保证读取的少

  • 使用缓存、读写分离、集群等技术,提高并发处理能力和可用性

  • 根据业务特点和数据类型,设计合理的数据模型和架构

  • 定期清理过期或无用的数据,避免数据膨胀,比如只保留一个月

  • 存储引擎、索引等,减少数据访问和存储的开销 -- 重要的是别用 varchar。如果一定要用 varchar,保持在 100 以内,数据库大了不好处理,varchar 最容易使数据库增大,utfmb4 是一个汉字用四个字节存储的。
以上所有工作都是为了保证数据不膨胀太大。之前 Oracle 数据库超过 100T 就无法维护了,就是这个原因。MySQL 不能超过 1T,虽然说 MySQL 的容量可以无限扩展,但查询有代价,表太大了性能就差。


工作流程
dev 环境接入审核机制。
每个 SQL 都有审核,审核有据可查。多人负责能找到责任人。
对于 DDL 表单,需查看一些表设计是否符合规范。可以自己建立一套 SQL 审核体系。
对于 DML 保证有据可查是谁改的。改错了可以快速回退。
对于 DDL 的变动:dev > test > stg > prod
执行时间限制:dev 2s > test 2s > stg 2s > prod 10s
把运行卡顿的 SQL 拒绝在门外,你可以限制执行时间,也可以记录慢 SQL 让开发改造。在没有修复慢 SQL 前不准上线,因为每到一个新的环境,执行的成本就越高。其实也可以做物理上的限制来要求开发的 SQL 性能要好,比如 dev 环境 2 核心,test 环境 4 核心,stg 环境 8 核心。


具体步骤
根据我的搜索结果,Bytebase 是一个数据库管理平台,可以帮助你管理 MySQL 的架构变更、备份、记录变更历史等。它也支持 SQL 审核、SQL 建议、SQL 编辑器、GitOps 工作流等功能,可以提高你的数据库开发和维护效率。
如果你想使用 Bytebase 优化 MySQL 的字段类型、字符集、存储引擎、索引等,你可以参考以下的步骤:
  • 在 Bytebase 中创建一个 MySQL 数据库实例,并连接到你的数据库服务器
  • 在 Bytebase 中创建一个数据库项目,并选择你要优化的数据库
  • 在 Bytebase 中创建一个变更请求 (migration request),并编写 SQL 语句来修改你的表结构
  • 在 Bytebase 中提交变更请求,并等待 SQL 审核和执行
  • 在 Bytebase 中查看变更请求的执行结果和变更历史
  • 避免使用不走索引的查询条件,如模糊查询, in, or, null 等,或者使用 union, exists, between 等替代。
  • 避免在 where 条件中使用表达式或函数,避免使用 text, blob 等大字段
  • 使用 explain 分析线上慢的查询执行计划,优化 SQL 语句的结构和逻辑

这些都可以自动化,下期我来具体讲讲 😁。
剩下的就是指定 SQL 审核规范,可以通过 Bytebase 来限制,比如遵循一些命名、建表、索引等规范,保证数据库的可维护性和可扩展性。

建表规约

  1. 【强制】表达是与否概念的字段,必须使用 is_xxx 的方式命名,数据类型是 unsigned tinyint( 1 表示是,0 表示否)。说明:任何字段如果为非负数,必须是 unsigned。正例:表达逻辑删除的字段名 is_deleted,1 表示删除,0 表示未删除。

  2. 【强制】表名、字段名必须使用小写字母或数字,禁止出现数字开头,禁止两个下划线中间只出现数字。数据库字段名的修改代价很大,因为无法进行预发布,所以字段名称需要慎重考虑。说明:MySQL 在 Windows 下不区分大小写,但在 Linux 下默认是区分大小写。因此,数据库名、表名、字段名,都不允许出现任何大写字母,避免节外生枝。正例:aliyun_admin, rdc_config, level3_name;反例:AliyunAdmin, rdcConfig, level_3_name。

  3. 【强制】表名不使用复数名词。说明:表名应该仅仅表示表里面的实体内容,不应该表示实体数量,对应于 DO 类名也是单数形式,符合表达习惯。

  4. 【强制】禁用保留字,如 desc, range, match, delayed 等,请参考 MySQL 官方保留字。

  5. 【强制】主键索引名为 pk_字段名;唯一索引名为 uk_字段名;普通索引名则为 idx_字段名。说明:pk_  即 primary key;uk_  即 unique key;idx_  即 index 的简称。

  6. 【强制】小数类型为 decimal,禁止使用 float 和 double。说明:float 和 double 在存储的时候,存在精度损失的问题,很可能在比较值的时候得到不正确的结果。如果存储的数据范围超过 decimal 的范围,建议将数据拆成整数和小数分开存储。

  7. 【强制】如果存储的字符串长度几乎相等,使用 char 定长字符串类型。

  8. 【强制】varchar 是可变长字符串,不预先分配存储空间,长度不要超过 5000,如果存储长度大于此值,定义字段类型为 text,独立出来一张表,用主键来对应,避免影响其它字段索引效率。

  9. 【强制】表必备三字段:id, gmt_create, gmt_modified。说明:其中 id 必为主键,类型为 unsigned bigint、单表时自增、步长为 1。gmt_create, gmt_modified 的类型均为 date_time 类型,前者现在时表示主动创建,后者过去分词表示被动更新。

  10. 【推荐】表的命名最好是加上「业务名称_表的作用」。正例:alipay_task / force_project / trade_config。

  11. 【推荐】库名与应用名称尽量一致。

  12. 【推荐】如果修改字段含义或对字段表示的状态追加时,需要及时更新字段注释。

  13. 【推荐】字段允许适当冗余,以提高查询性能,但必须考虑数据一致。冗余字段应遵循:① 不是频繁修改的字段。② 不是 varchar 超长字段,更不能是 text 字段。正例:商品类目名称使用频率高,字段长度短,名称基本一成不变,可在相关联的表中冗余存储类目名称,避免关联查询。

  14. 【推荐】单表行数超过 500 万行或者单表容量超过 2GB,才推荐进行分库分表。说明:如果预计三年后的数据量根本达不到这个级别,请不要在创建表时就分库分表。

  15. 【参考】合适的字符存储长度,不但节约数据库表空间、节约索引存储,更重要的是提升检索速度。正例:如无符号值可以避免误存负数,且扩大了表示范围。对象年龄区间类型字节表示范围。


索引规约

  1. 【强制】业务上具有唯一特性的字段,即使是多个字段的组合,也必须建成唯一索引。说明:不要以为唯一索引影响了 insert 速度,这个速度损耗可以忽略,但提高查找速度是明显的;另外,即使在应用层做了非常完善的校验控制,只要没有唯一索引,根据墨菲定律,必然有脏数据产生。

  2. 【强制】超过三个表禁止 join。需要 join 的字段,数据类型必须绝对一致;多表关联查询时,保证被关联的字段需要有索引。说明:即使双表 join 也要注意表索引、SQL 性能。

  3. 【强制】在 varchar 字段上建立索引时,必须指定索引长度,没必要对全字段建立索引,根据实际文本区分度决定索引长度即可。说明:索引的长度与区分度是一对矛盾体,一般对字符串类型数据,长度为 20 的索引,区分度会高达 90% 以上,可以使用 count(distinctleft(列名, 索引长度))/count(*) 的区分度来确定。

  4. 【强制】页面搜索严禁左模糊或者全模糊,如果需要,请走搜索引擎来解决。说明:索引文件具有 B-Tree 的最左前缀匹配特性,如果左边的值未确定,那么无法使用此索引。

  5. 【推荐】如果有 orderby 的场景,请注意利用索引的有序性。orderby 最后的字段是组合索引的一部分,并且放在索引组合顺序的最后,避免出现 file_sort 的情况,影响查询性能。正例:where a=? andb =? order by c; 索引:a_b_c;反例:索引中有范围查找,那么索引有序性无法利用,如:WHERE a>10 ORDER BY b; 索引 a_b 无法排序。

  6. 【推荐】利用覆盖索引来进行查询操作,避免回表。说明:如果一本书需要知道第 11 章是什么标题,会翻开第 11 章对应的那一页吗?目录浏览一下就好,这个目录就是起到覆盖索引的作用。正例:能够建立索引的种类:主键索引、唯一索引、普通索引,而覆盖索引是一种查询的一种效果,用 explain 的结果,extra 列会出现 usingindex。

  7. 【推荐】利用延迟关联或者子查询优化超多分页场景。说明:MySQL 并不是跳过 offset 行,而是取 offset+N 行,然后返回放弃前 offset 行,返回 N 行,那当 offset 特别大的时候,效率就非常的低下,要么控制返回的总页数,要么对超过特定阈值的页数进行 SQL 改写。正例:先快速定位需要获取的 id 段,然后再关联:SELECT a.* FROM 表1 a, (select id from 表1 where 条件 LIMIT 100000,20 ) b where a.id=b.id。

  8. 【推荐】SQL 性能优化的目标:至少要达到 range 级别,要求是 ref 级别,如果可以是 consts 最好。说明:① consts 单表中最多只有一个匹配行(主键或者唯一索引),在优化阶段即可读取到数据。② ref 指的是使用普通的索引(normal index)。③ range 对索引进行范围检索。反例:explain 表的结果,type = index,索引物理文件全扫描,速度非常慢,这个 index 级别比较 range 还低,与全表扫描是小巫见大巫。

  9. 【推荐】建组合索引的时候,区分度最高的在最左边。正例:如果 where a=? and b=? ,a 列的几乎接近于唯一值,那么只需要单建 idx_a 索引即可。说明:存在非等号和等号混合判断条件时,在建索引时,请把等号条件的列前置。如:where a>? and b=? 那么即使 a 的区分度更高,也必须把 b 放在索引的最前列。

  10. 【推荐】防止因字段类型不同造成的隐式转换,导致索引失效。

  11. 【参考】创建索引时避免有如下极端误解:① 宁滥勿缺。认为一个查询就需要建一个索引。② 宁缺勿滥。认为索引会消耗空间、严重拖慢更新和新增速度。③ 抵制唯一索引。认为业务的唯一性一律需要在应用层通过「先查后插」方式解决。


SQL 语句

  1. 【强制】不要使用 count(列名) 或 count(常量) 来替代 count(),count() 是 SQL92 定义的标准统计行数的语法,跟数据库无关,跟 NULL 和非 NULL 无关。说明:count(*) 会统计值为 NULL 的行,而 count(列名) 不会统计此列为 NULL 值的行。

  2. 【强制】count(distinct col) 计算该列除 NULL 之外的不重复行数,注意 count(distinct col1, col2) 如果其中一列全为 NULL,那么即使另一列有不同的值,也返回为 0。

  3. 【强制】当某一列的值全是 NULL 时,count(col) 的返回结果为 0,但 sum(col) 的返回结果为 NULL,因此使用 sum() 时需注意 NPE 问题。正例:可以使用如下方式来避免 sum 的 NPE 问题:

    1. SELECT IF(ISNULL(SUM(g)),0,SUM(g)) FROM table;

  4. 【强制】使用 ISNULL() 来判断是否为 NULL 值。说明:NULL 与任何值的直接比较都为NULL。① NULL <> NULL 的返回结果是 NULL,而不是 false。② NULL = NULL 的返回结果是 NULL,而不是 true。3)NULL <> 1的返回结果是 NULL,而不是 true。

  5. 【强制】在代码中写分页查询逻辑时,若 count 为 0 应直接返回,避免执行后面的分页语句。

  6. 【强制】不得使用外键与级联,一切外键概念必须在应用层解决。说明:以学生和成绩的关系为例,学生表中的 student_id 是主键,那么成绩表中的 student_id 则为外键。如果更新学生表中的 student_id,同时触发成绩表中的 student_id 更新,即为级联更新。外键与级联更新适用于单机低并发,不适合分布式、高并发集群;级联更新是强阻塞,存在数据库更新风暴的风险;外键影响数据库的插入速度。

  7. 【强制】禁止使用存储过程,存储过程难以调试和扩展,更没有移植性。

  8. 【强制】数据订正时,删除和修改记录时,要先 select,避免出现误删除,确认无误才能执行更新语句。

  9. 【推荐】in 操作能避免则避免,若实在避免不了,需要仔细评估 in 后边的集合元素数量,控制在 1000 个之内。

  10. 【参考】如果有全球化需要,所有的字符存储与表示,均以 utf-8 编码,注意字符统计函数的区别。说明:

    1. SELECT LENGTH(“轻松工作”);返回为 12

    2. SELECT CHARACTER_LENGTH(“轻松工作”);返回为 4

    3. 如果需要存储表情,选择 utfmb4 存储,注意它与 utf-8 编码的区别

  11. 【参考】TRUNCATETABLE 比 DELETE 速度快,且使用的系统和事务日志资源少,但 TRUNCATE 无事务且不触发 trigger,有可能造成事故,故不建议在开发代码中使用此语句。说明:TRUNCATETABLE 在功能上与不带 WHERE 子句的 DELETE 语句相同。


ORM 映射

1.【强制】在表查询中,一律不要使用 * 作为查询的字段列表,需要哪些字段必须明确写明。说明:① 增加查询分析器解析成本。② 增减字段容易与 resultMap 配置不一致。
2.【强制】POJO 类的布尔属性不能加 is,而数据库字段必须加 is_,要求在 resultMap 中进行字段与属性之间的映射。说明:参见定义 POJO 类以及数据库字段定义规定,在其中增加映射,是必须的。在 MyBatis Generator 生成的代码中,需要进行对应的修改。
3.【强制】不要用 resultClass 当返回参数,即使所有类属性名与数据库字段一一对应,也需要定义;反过来,每一个表也必然有一个与之对应。说明:配置映射关系,使字段与 DO 类解耦,方便维护。
4.【强制】sql.xml 配置参数使用:#{},#param# 不要使用 ${} 此种方式,容易出现 SQL 注入。
5.【强制】iBATIS 自带的 queryForList(StringstatementName,intstart,intsize) 不推荐使用。说明:其实现方式是在数据库取到 statementName 对应的 SQL 语句的所有记录,再通过 subList 取 start,size 的子集合。


Bytebase 1.15.0 - SaaS 版本发布!
SQL Chat - 基于对话式交互的 SQL 客户端
Bytebase vs Flyway
业界数据库工具结合 ChatGPT 的(不完全)汇总

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存