为什么阿里巴巴规定超过3张表,禁止JOIN?
时间:2022-04-14 18:00 | 分类: 句子大全 | 作者:51CTO | 评论: 次 | 点击: 次
《阿里巴巴JAVA开发手册》里面写超过三张表禁止join,这是为什么?
二、问题分析
对这个结论,你是否有怀疑呢?也不知道是哪位先哲说的不要人云亦云,今天我设计sql,来验证这个结论。(实验没有从代码角度分析,目前达不到。可以把mysql当一个黑盒,使用角度来验证这个结论) 验证结论的时候,会有很多发现,各位往后看。
三、 实验环境vmware10+centos7.4+mysql5.7.22
centos7内存4.5G,4核,50G硬盘。mysql配置为2G,特别说明硬盘是SSD。四、我概述下我的实验有4张表,student学生表,teacher老师表,course课程表,sc中间关系表,记录了学生选修课程以及分数。具体sql脚本,看文章结尾,我附上。中间我自己写了造数据的脚本,也在结尾。
实验是为解决一个问题的:查询选修“tname553”老师所授课程的学生中,成绩最高的学生姓名及其成绩。
查询sql是:
我来分析一下这个语句:4张表等值join,还有一个子查询。算是比较简单的sql语句了(相比ERP动就10张表的哦,已经很简单了)。我 还会分解这个语句成3个简单的sql:
我来分析下:第一句,就是查询最高分,得到最高分590分。第二句就是查询出最高分的学生id,得到
第三句就是查询出学生名字和分数。这样这3个语句的就可以查询出来 成绩最高的学生姓名及其成绩 。
接下来我会分别造数据:1千万选课记录(一个学生选修2门课),造500万学生,100万老师(一个老师带5个学生,挺高端的吧),1000门课,。用上面查询语句查询。其中sc表我测试了下有索引和没有索引情况,具体见下表。
再接下来,我会造1亿选课记录(一个学生选修2门课),5000万学生,1000万老师,1000门课。然后分别执行上述语句。最后我会在oracle数据库上执行上述语句。
五、下面两张表是测试结果六、仔细看上表,可以发现:
1、步骤3.1没有在连接键上加索引,查询很慢,说明:“多表关联查询时,保证被关联的字段需要有索引”;
2、步骤6.1,6.2,6.3,换成简单sql,在数据量1亿以上, 查询时间还能勉强接受。此时说明mysql查询有些吃力了,但是仍然嫩查询出来。
3、步骤5.1,mysql查询不出来,4表连接,对我本机mysql来说,1.5亿数据超过极限了(我调优过这个SQL,执行计划和索引都走了,没有问题,show profile显示在sending data.这个问题另外文章详谈。)
4、对比1.1 和5.1 步骤sql查询,4表连接,对我本机mysql来说 ,1.5千万数据查询很流利,是一个mysql数据量流利分水岭。(这个只是现象,不太准确,需要同时计算表的容量)。
5、步骤5.1对比6.1,6.2,6.3,多表join对mysql来说,处理有些吃力。
6、超过三张表禁止join,这个规则是针对mysql来说的。后续会看到我用同样机器,同样数据量,同样内存,可以完美计算 1.5亿数据量join。针对这样一个规则,对开发来说 ,需要把一些逻辑放到应用层去查询。
总结: 这个规则 超过三张表禁止join ,由于数据量太大的时候,mysql根本查询不出来,导致阿里出了这样一个规定。(其实如果表数据量少,10张表也不成问题,你自己可以试试)而我们公司支付系统朝着大规模高并发目标设计的,所以,遵循这个规定。
在业务层面来讲,写简单sql,把更多逻辑放到应用层,我的需求我会更了解,在应用层实现特定的join也容易得多。
七、让我们来看看oracle数据库的优秀表现:看步骤7.1,就是没有索引,join表很多的情况下,oracle仍然26秒查询出结果来。所以我会说mysql的join很弱。那么问题来了,为什么现在使用很多人使用mysql呢?这是另外一个问题,我会另外说下我的思考。
看完本篇文章,另外我还附加赠送,所谓搂草打兔子。就是快速造数据。你可以自己先写脚本造数据,看看我是怎么造数据的,就知道我的技巧了。
八、附上部分截图九、附上sql语句和造数据脚本
usestu;droptableifexistsstudent;createtablestudent(s_idint(11)notnullauto_increment,snoint(11),snamevarchar(50),sageint(11),ssexvarchar(8),father_idint(11),mather_idint(11),notevarchar(500),primarykey(s_id),uniquekeyuk_sno(sno))engine=innodbdefaultcharset=utf8mb4;truncatetablestudent;delimiter$dropfunctionifexistsinsert_student_data$createfunctioninsert_student_data()returnsintdeterministicbegindeclareiint;seti=1;whilei<50000000doinsertintostudentvalues(i,i,concat('name',i),i,casewhenfloor(rand()*10)%2=0then'f'else'm'end,floor(rand()*100000),floor(rand()*1000000),concat('note',i));seti=i+1;endwhile;return1;end$delimiter;selectinsert_student_data();selectcount(*)fromstudent;usestu;createtablecourse(c_idint(11)notnullauto_increment,cnamevarchar(50)notevarchar(500),primarykey(c_id))engine=innodbdefaultcharset=utf8mb4;truncatetablecourse;delimiter$dropfunctionifexistsinsert_course_data$createfunctioninsert_course_data()returnsintdeterministicbegindeclareiint;seti=1;whilei<=1000doinsertintocoursevalues(i,concat('course',i),floor(rand()*1000),concat('note',i));seti=i+1;endwhile;return1;end$delimiter;selectinsert_course_data();selectcount(*)fromcourse;usestu;droptableifexistssc;createtablesc(s_idint(11),c_idint(11),t_idint(11),scoreint(11))engine=innodbdefaultcharset=utf8mb4;truncatetablesc;delimiter$dropfunctionifexistsinsert_sc_data$createfunctioninsert_sc_data()returnsintdeterministicbegindeclareiint;seti=1;whilei<=50000000doinsertintoscvalues(i,floor(rand()*1000),floor(rand()*10000000),floor(rand()*750));seti=i+1;endwhile;return1;end$delimiter;selectinsert_sc_data();commit;selectinsert_sc_data();commit;createindexidx_s_idonsc(s_id);createindexidx_t_idonsc(t_id);createindexidx_c_idonsc(c_id);selectcount(*)fromsc;usestu;droptableifexiststeacher;createtableteacher(t_idint(11)notnullauto_increment,tnamevarchar(50),notevarchar(500),primarykey(t_id))engine=innodbdefaultcharset=utf8mb4;truncatetableteacher;delimiter$dropfunctionifexistsinsert_teacher_data$createfunctioninsert_teacher_data()returnsintdeterministicbegindeclareiint;seti=1;whilei<=10000000doinsertintoteachervalues(i,concat('tname',i),concat('note',i));seti=i+1;endwhile;return1;end$delimiter;selectinsert_teacher_data();commit;selectcount(*)fromteacher;
这个是oracle的测试和造数据脚本
createtablespacescott_datadatafile'/home/oracle/oracle_space/sitpay1/scott_data.dbf'size1024mautoextendon;createtablespacescott_indexdatafile'/home/oracle/oracle_space/sitpay1/scott_index.dbf'size64mautoextendon;createtemporarytablespacescott_temptempfile'/home/oracle/oracle_space/sitpay1/scott_temp.dbf'size64mautoextendon;dropuserscottcascade;createuserscottidentifiedbytigerdefaulttablespacescott_datatemporarytablespacescott_temp;grantresource,connect,dbatoscott;droptablestudent;createtablestudent(s_idnumber(11),snonumber(11),snamevarchar2(50),sagenumber(11),ssexvarchar2(8),father_idnumber(11),mather_idnumber(11),notevarchar2(500))nologging;truncatetablestudent;createorreplaceprocedureinsert_student_dataisqnumber(11);beginq:=0;foriin1..50loopinsert/*+append*/intostudentselectrownum+qass_id,rownum+qassno,concat('sutdent',rownum+q)assname,floor(dbms_random.value(1,100))assage,'f'asssex,rownum+qasfather_id,rownum+qasmather_id,concat('note',rownum+q)asnotefromdualconnectbylevel<=1000000;q:=q+1000000;commit;endloop;endinsert_student_data;/callinsert_student_data();altertablestudentaddconstraintpk_studentprimarykey(s_id);commit;selectcount(*)fromstudent;createtablecourse(c_idnumber(11)primarykey,cnamevarchar2(50),notevarchar2(500));truncatetablecourse;createorreplaceprocedureinsert_course_dataisqnumber(11);beginforiin1..1000loopinsert/*+append*/intocoursevalues(i,concat('name',i),concat('note',i));endloop;endinsert_course_data;/callinsert_course_data();commit;selectcount(*)fromcourse;createtablesc(s_idnumber(11),c_idnumber(11),t_idnumber(11),scorenumber(11))nologging;truncatetablesc;createorreplaceprocedureinsert_sc_dataisqnumber(11);beginq:=0;foriin1..50loopinsert/*+append*/intoscselectrownum+qass_id,floor(dbms_random.value(0,1000))asc_id,floor(dbms_random.value(0,10000000))t_id,floor(dbms_random.value(0,750))asscorefromdualconnectbylevel<=1000000;q:=q+1000000;commit;endloop;endinsert_sc_data;/callinsert_sc_data();createindexidx_s_idonsc(s_id);createindexidx_t_idonsc(t_id);createindexidx_c_idonsc(c_id);selectcount(*)fromsc;createtableteacher(t_idnumber(11),tnamevarchar2(50),notevarchar2(500))nologging;truncatetableteacher;createorreplaceprocedureinsert_teacher_dataisqnumber(11);beginq:=0;foriin1..10loopinsert/*+append*/intoteacherselectrownum+qast_id,concat('teacher',rownum+q)astname,concat('note',rownum+q)asnotefromdualconnectbylevel<=1000000;q:=q+1000000;commit;endloop;endinsert_teacher_data;/callinsert_teacher_data();altertableteacheraddconstraintpk_teacherprimarykey(t_id);selectcount(*)fromteacher;
来源:http://blog.itpub.net/30393770/viewspace-2650450