查看原文
其他

阿里不让多表 join?我偏要!不服,你咬我啊!

谢斌 搜云库技术团队 2020-02-05

1击上方“搜云库技术团队”关注,选择“设为星标

回复“1024”或“面试题”获取4T架构师资料

阿里规范中强制要求不要多表join。那么问题来了,阿里强制不让用,但是你偏要用,究竟会有什么后果? 本文将用数据角度告诉你,你偏要用的话,会有什么后果,因此强烈建议跟着思路看完!

提出问题和环境准备

《阿里巴巴JAVA开发手册》里面写超过三张表禁止join,这是为什么?

对这个结论,你是否有怀疑呢?也不知道是哪位先哲说的不要人云亦云,今天我设计sql,来验证这个结论。(实验没有从代码角度分析,目前达不到。可以把MySQL当一个黑盒,使用角度来验证这个结论) 验证结论的时候,会有很多发现,各位往后看。

实验环境:

vmware10+centos7.4+MySQL5.7.22 ,centos7内存4.5G,4核,50G硬盘。MySQL配置为2G,特别说明硬盘是SSD。

最新粉丝福利

腾讯云1核2G,1年88元,3年268元限量秒杀

我概述下我的实验:

有4张表,student学生表,teacher老师表,course课程表,sc中间关系表,记录了学生选修课程以及分数。具体sql脚本,看文章结尾,我附上。中间我自己写了造数据的脚本,也在结尾。

实验是为解决一个问题的:

查询选修“tname553”老师所授课程的学生中,成绩最高的学生姓名及其成绩。查询sql是:

  1. select Student.Sname,course.cname,score

  2. from Student,SC,Course ,Teacher

  3. where Student.s_id=SC.s_id and SC.c_id=Course.c_id and sc.t_id=teacher.t_id

  4. and Teacher.Tname='tname553'

  5. and SC.score=(select max(score)from SC where sc.t_id=teacher.t_Id);

我来分析一下这个语句:

4张表等值join,还有一个子查询。算是比较简单的sql语句了(相比ERP动就10张表的哦,已经很简单了)。我 还会分解这个语句成3个简单的sql:

  1. select max(score) from SC ,Teacher where sc.t_id=teacher.t_Id and Teacher.Tname='tname553';

  2. select sc.t_id,sc.s_id,score from SC ,Teacher

  3. where sc.t_id=teacher.t_Id

  4. and score=590

  5. and Teacher.Tname='tname553';

  6. select Student.Sname,course.cname,score

  7. from Student,SC ,course

  8. where Student.s_id=SC.s_id and sc.s_id in (20769800,48525000,26280200) and course.c_id = sc.c_id;

我来分析下:

第一句,就是查询最高分,得到最高分590分。第二句就是查询出最高分的学生id,得到

  1. 20769800,48525000,26280200

第三句就是查询出学生名字和分数。这样这3个语句的就可以查询出来成绩最高的学生姓名及其成绩。

接下来我会分别造数据:

1千万选课记录(一个学生选修2门课),造500万学生,100万老师(一个老师带5个学生,挺高端的吧),1000门课,。用上面查询语句查询。其中sc表我测试了下有索引和没有索引情况,具体见下表。

再接下来,我会造1亿选课记录(一个学生选修2门课),5000万学生,1000万老师,1000门课。然后分别执行上述语句。最后我会在oracle数据库上执行上述语句。

测试结果


敲黑板划重点

仔细看上表,可以发现:

1、步骤3.1没有在连接键上加索引,查询很慢,说明:“多表关联查询时,保证被关联的字段需要有索引”;

2、步骤6.1,6.2,6.3,换成简单sql,在数据量1亿以上, 查询时间还能勉强接受。此时说明MySQL查询有些吃力了,但是仍然能查询出来。

3、步骤5.1,MySQL查询不出来,4表连接,对我本机MySQL来说,1.5亿数据超过极限了(我调优过这个SQL,执行计划和索引都走了,没有问题,show profile显示在sending data.这个问题另外文章详谈。)

4、对比1.1 和5.1 步骤sql查询,4表连接,对我本机MySQL来说,1.5千万数据查询很流利,是一个MySQL数据量流利分水岭。(这个只是现象,不太准确,需要同时计算表的容量)。

5、步骤5.1对比6.1,6.2,6.3,多表join对MySQL来说,处理有些吃力。

6、超过三张表禁止join,这个规则是针对MySQL来说的。后续会看到我用同样机器,同样数据量,同样内存,可以完美计算 1.5亿数据量join。针对这样一个规则,对开发来说 ,需要把一些逻辑放到应用层去查询。

总结:这个规则超过三张表禁止join,由于数据量太大的时候,MySQL根本查询不出来,导致阿里出了这样一个规定。(其实如果表数据量少,10张表也不成问题,你自己可以试试)而我们公司支付系统朝着大规模高并发目标设计的,所以,遵循这个规定。

在业务层面来讲,写简单sql,把更多逻辑放到应用层,我的需求我会更了解,在应用层实现特定的join也容易得多。

让我们来看看oracle数据库的优秀表现

看步骤7.1,就是没有索引,join表很多的情况下,oracle仍然26秒查询出结果来。所以我会说MySQL的join很弱。

看完本篇文章,另外我还附加赠送,所谓搂草打兔子。就是快速造数据。你可以自己先写脚本造数据,看看我是怎么造数据的,就知道我的技巧了。

附上部分截图

附上sql语句和造数据脚本

  1. use stu;

  2. drop table if exists student;

  3. create table student

  4. ( s_id int(11) not null auto_increment ,

  5. sno int(11),

  6. sname varchar(50),

  7. sage int(11),

  8. ssex varchar(8) ,

  9. father_id int(11),

  10. mather_id int(11),

  11. note varchar(500),

  12. primary key (s_id),

  13. unique key uk_sno (sno)

  14. ) engine=innodb default charset=utf8mb4;

  15. truncate table student;

  16. delimiter $$

  17. drop function if exists insert_student_data $$

  18. create function insert_student_data()

  19. returns int deterministic

  20. begin

  21. declare i int;

  22. set i=1;

  23. while i<50000000 do

  24. insert into student values(i ,i, concat('name',i),i,case when floor(rand()*10)%2=0 then 'f' else 'm' end,floor(rand()*100000),floor(rand()*1000000),concat('note',i) );

  25. set i=i+1;

  26. end while;

  27. return 1;

  28. end$$

  29. delimiter ;

  30. select insert_student_data();

  31. select count(*) from student;

  32. use stu;

  33. create table course

  34. (

  35. c_id int(11) not null auto_increment ,

  36. cname varchar(50)

  37. note varchar(500), primary key (c_id)

  38. ) engine=innodb default charset=utf8mb4;

  39. truncate table course;

  40. delimiter $$

  41. drop function if exists insert_course_data $$

  42. create function insert_course_data()

  43. returns int deterministic

  44. begin

  45. declare i int;

  46. set i=1;

  47. while i<=1000 do

  48. insert into course values(i , concat('course',i),floor(rand()*1000),concat('note',i) );

  49. set i=i+1;

  50. end while;

  51. return 1;

  52. end$$

  53. delimiter ;

  54. select insert_course_data();

  55. select count(*) from course;

  56. use stu;

  57. drop table if exists sc;

  58. create table sc

  59. (

  60. s_id int(11),

  61. c_id int(11),

  62. t_id int(11),

  63. score int(11)

  64. ) engine=innodb default charset=utf8mb4;

  65. truncate table sc;

  66. delimiter $$

  67. drop function if exists insert_sc_data $$

  68. create function insert_sc_data()

  69. returns int deterministic

  70. begin

  71. declare i int;

  72. set i=1;

  73. while i<=50000000 do

  74. insert into sc values( i,floor(rand()*1000),floor(rand()*10000000),floor(rand()*750)) ;

  75. set i=i+1;

  76. end while;

  77. return 1;

  78. end$$

  79. delimiter ;

  80. select insert_sc_data();

  81. commit;

  82. select insert_sc_data();

  83. commit;

  84. create index idx_s_id on sc(s_id) ;

  85. create index idx_t_id on sc(t_id) ;

  86. create index idx_c_id on sc(c_id) ;

  87. select count(*) from sc;

  88. use stu;

  89. drop table if exists teacher;

  90. create table teacher

  91. (

  92. t_id int(11) not null auto_increment ,

  93. tname varchar(50) ,

  94. note varchar(500),primary key (t_id)

  95. ) engine=innodb default charset=utf8mb4;


  96. truncate table teacher;

  97. delimiter $$

  98. drop function if exists insert_teacher_data $$

  99. create function insert_teacher_data()

  100. returns int deterministic

  101. begin

  102. declare i int;

  103. set i=1;

  104. while i<=10000000 do

  105. insert into teacher values(i , concat('tname',i),concat('note',i) );

  106. set i=i+1;

  107. end while;

  108. return 1;

  109. end$$

  110. delimiter ;

  111. select insert_teacher_data();

  112. commit;

  113. select count(*) from teacher;

  114. 这个是oracle的测试和造数据脚本

  115. create tablespace scott_data datafile '/home/oracle/oracle_space/sitpay1/scott_data.dbf' size 1024m autoextend on;

  116. create tablespace scott_index datafile '/home/oracle/oracle_space/sitpay1/scott_index.dbf' size 64m autoextend on;

  117. create temporary tablespace scott_temp tempfile '/home/oracle/oracle_space/sitpay1/scott_temp.dbf' size 64m autoextend on;

  118. drop user scott cascade;

  119. create user scott identified by tiger default tablespace scott_data temporary tablespace scott_temp ;

  120. grant resource,connect,dba to scott;

  121. drop table student;

  122. create table student

  123. ( s_id number(11) ,

  124. sno number(11) ,

  125. sname varchar2(50),

  126. sage number(11),

  127. ssex varchar2(8) ,

  128. father_id number(11),

  129. mather_id number(11),

  130. note varchar2(500)

  131. ) nologging;

  132. truncate table student;

  133. create or replace procedure insert_student_data

  134. is

  135. q number(11);

  136. begin

  137. q:=0;

  138. for i in 1..50 loop

  139. insert /*+append*/ into student select rownum+q as s_id,rownum+q as sno, concat('sutdent',rownum+q ) as sname,floor(dbms_random.value(1,100)) as sage,'f' as ssex,rownum+q as father_id,rownum+q as mather_id,concat('note',rownum+q ) as note from dual connect by level<=1000000;

  140. q:=q+1000000;

  141. commit;

  142. end loop;

  143. end insert_student_data;

  144. /

  145. call insert_student_data();

  146. alter table student add constraint pk_student primary key (s_id);

  147. commit;

  148. select count(*) from student;

  149. create table course

  150. (

  151. c_id number(11) primary key,

  152. cname varchar2(50),

  153. note varchar2(500)

  154. ) ;

  155. truncate table course;

  156. create or replace procedure insert_course_data

  157. is

  158. q number(11);

  159. begin


  160. for i in 1..1000 loop

  161. insert /*+append*/ into course values(i , concat('name',i),concat('note',i) );

  162. end loop;

  163. end insert_course_data;

  164. /

  165. call insert_course_data();

  166. commit;

  167. select count(*) from course;

  168. create table sc

  169. (

  170. s_id number(11),

  171. c_id number(11),

  172. t_id number(11),

  173. score number(11)

  174. ) nologging;

  175. truncate table sc;

  176. create or replace procedure insert_sc_data

  177. is

  178. q number(11);

  179. begin

  180. q:=0;

  181. for i in 1..50 loop

  182. insert /*+append*/ into sc select rownum+q as s_id, floor(dbms_random.value(0,1000)) as c_id,floor(dbms_random.value(0,10000000)) t_id,floor(dbms_random.value(0,750)) as score from dual connect by level<=1000000;

  183. q:=q+1000000;

  184. commit;

  185. end loop;

  186. end insert_sc_data;

  187. /

  188. call insert_sc_data();

  189. create index idx_s_id on sc(s_id) ;

  190. create index idx_t_id on sc(t_id) ;

  191. create index idx_c_id on sc(c_id) ;

  192. select count(*) from sc;

  193. create table teacher

  194. (

  195. t_id number(11) ,

  196. tname varchar2(50) ,

  197. note varchar2(500)

  198. )nologging ;

  199. truncate table teacher;

  200. create or replace procedure insert_teacher_data

  201. is

  202. q number(11);

  203. begin

  204. q:=0;

  205. for i in 1..10 loop

  206. insert /*+append*/ into teacher select rownum+q as t_id, concat('teacher',rownum+q ) as tname,concat('note',rownum+q ) as note from dual connect by level<=1000000;

  207. q:=q+1000000;

  208. commit;

  209. end loop;

  210. end insert_teacher_data;

  211. /

  212. call insert_teacher_data();

  213. alter table teacher add constraint pk_teacher primary key (t_id);

  214. select count(*) from teacher;


来源:http://suo.im/5dpLga

近期技术热文
1、IDEA的这几个调试的骚操作,用了都说爽! 
2、
全球43亿个IPv4地址,今日正式耗尽,将向IPv6过度 
3、
是时候扔掉 Postman 了,试试IDEA自带的高能神器! 
4、
手写一个简版的Redis,实现高性能的key/value服务 
5、
Spring Cloud 分布式服务限流实战,为你排好了 
6、
面试官:Redis功能强大,那也顶不住被滥用啊!

    您可能也对以下帖子感兴趣

    文章有问题?点此查看未经处理的缓存