Join語句執(zhí)行流程

Hi，我是阿昌，今天學(xué)習(xí)記錄的是關(guān)于Join語句執(zhí)行流程的內(nèi)容。

在實際生產(chǎn)中，關(guān)于 join 語句使用的問題，一般會集中在以下兩類：

• 不讓使用 join，使用 join 有什么問題呢？
• 如果有兩個大小不同的表做 join，應(yīng)該用哪個表做驅(qū)動表呢？

創(chuàng)建兩個表 t1 和 t2 來說明。

CREATE TABLE `t2` (
  `id` int(11) NOT NULL,
  `a` int(11) DEFAULT NULL,
  `b` int(11) DEFAULT NULL,
  PRIMARY KEY (`id`),
  KEY `a` (`a`)
) ENGINE=InnoDB;

drop procedure idata;
delimiter ;;
create procedure idata()
begin
  declare i int;
  set i=1;
  while(i<=1000)do
    insert into t2 values(i, i, i);
    set i=i+1;
  end while;
end;;
delimiter ;
call idata();

create table t1 like t2;
insert into t1 (select * from t2 where id<=100)

可以看到，這兩個表都有一個主鍵索引 id 和一個索引 a，字段 b 上無索引。

存儲過程 idata() 往表 t2 里插入了 1000 行數(shù)據(jù)，在表 t1 里插入的是 100 行數(shù)據(jù)。

一、Index Nested-Loop Join

如果直接使用 join 語句，MySQL 優(yōu)化器可能會選擇表 t1 或 t2 作為驅(qū)動表，這樣會影響分析 SQL 語句的執(zhí)行過程。

所以，為了便于分析執(zhí)行過程中的性能問題，改用 straight_join 讓 MySQL 使用固定的連接方式執(zhí)行查詢，這樣優(yōu)化器只會按照指定的方式去 join。

來看一下這個語句：

select * from t1 straight_join t2 on (t1.a=t2.a);

在這個語句里，t1 是驅(qū)動表，t2 是被驅(qū)動表。

現(xiàn)在，來看一下這條語句的 explain 結(jié)果。

可以看到，在這條語句里，被驅(qū)動表 t2 的字段 a 上有索引，join 過程用上了這個索引，因此這個語句的執(zhí)行流程是這樣的：

從表 t1 中讀入一行數(shù)據(jù) R；從數(shù)據(jù)行 R 中，取出 a 字段到表 t2 里去查找；取出表 t2 中滿足條件的行，跟 R 組成一行，作為結(jié)果集的一部分；重復(fù)執(zhí)行步驟 1 到 3，直到表 t1 的末尾循環(huán)結(jié)束。

這個過程是先遍歷表 t1，然后根據(jù)從表 t1 中取出的每行數(shù)據(jù)中的 a 值，去表 t2 中查找滿足條件的記錄。

在形式上，這個過程就跟寫程序時的嵌套查詢類似，并且可以用上被驅(qū)動表的索引，所以稱之為“Index Nested-Loop Join”，簡稱 NLJ。它對應(yīng)的流程圖如下所示：

在這個流程里：

對驅(qū)動表 t1 做了全表掃描，這個過程需要掃描 100 行；而對于每一行 R，根據(jù) a 字段去表 t2 查找，走的是樹搜索過程。由于構(gòu)造的數(shù)據(jù)都是一一對應(yīng)的，因此每次的搜索過程都只掃描一行，也是總共掃描 100 行；所以，整個執(zhí)行流程，總掃描行數(shù)是 200。

能不能使用 join?

假設(shè)不使用 join，那就只能用單表查詢。

看看上面這條語句的需求，用單表查詢怎么實現(xiàn)。

• 執(zhí)行select * from t1，查出表 t1 的所有數(shù)據(jù)，這里有 100 行；
• 循環(huán)遍歷這 100 行數(shù)據(jù)：
  • 從每一行 R 取出字段 a 的值 $R.a；
  • 執(zhí)行select * from t2 where a=$R.a；
  • 把返回的結(jié)果和 R 構(gòu)成結(jié)果集的一行。

可以看到，在這個查詢過程，也是掃描了 200 行，但是總共執(zhí)行了 101 條語句，比直接 join 多了 100 次交互。

除此之外，客戶端還要自己拼接 SQL 語句和結(jié)果。

顯然，這么做還不如直接 join 好。

怎么選擇驅(qū)動表？

在這個 join 語句執(zhí)行過程中，==驅(qū)動表是走全表掃描，而被驅(qū)動表是走樹搜索。==假設(shè)被驅(qū)動表的行數(shù)是 M。

每次在被驅(qū)動表查一行數(shù)據(jù)，要先搜索索引 a，再搜索主鍵索引。

每次搜索一棵樹近似復(fù)雜度是以 2 為底的 M 的對數(shù)，記為 log2M，所以在被驅(qū)動表上查一行的時間復(fù)雜度是 2*log2M。

假設(shè)驅(qū)動表的行數(shù)是 N，執(zhí)行過程就要掃描驅(qū)動表 N 行，然后對于每一行，到被驅(qū)動表上匹配一次。

因此整個執(zhí)行過程，近似復(fù)雜度是 N + N*2*log2M。

顯然，N 對掃描行數(shù)的影響更大，因此應(yīng)該讓小表來做驅(qū)動表。

如果沒覺得這個影響有那么“顯然”， 可以這么理解：
N 擴大 1000 倍的話，掃描行數(shù)就會擴大 1000 倍；
而 M 擴大 1000 倍，掃描行數(shù)擴大不到 10 倍。

小結(jié)一下，通過上面的分析得到了兩個結(jié)論：

• 使用 join 語句，性能比強行拆成多個單表執(zhí)行 SQL 語句的性能要好；
• 如果使用 join 語句的話，需要讓小表做驅(qū)動表。

但是，需要注意，這個結(jié)論的前提是“可以使用被驅(qū)動表的索引”。

二、Simple Nested-Loop Join

再看看被驅(qū)動表用不上索引的情況。

現(xiàn)在，把 SQL 語句改成這樣：

select * from t1 straight_join t2 on (t1.a=t2.b);

由于表 t2 的字段 b 上沒有索引，因此再用圖 2 的執(zhí)行流程時，每次到 t2 去匹配的時候，就要做一次全表掃描。

你可以先設(shè)想一下這個問題，繼續(xù)使用圖 2 的算法，是不是可以得到正確的結(jié)果呢？

如果只看結(jié)果的話，這個算法是正確的，而且這個算法也有一個名字，叫做“Simple Nested-Loop Join”。

但是，這樣算來，這個 SQL 請求就要掃描表 t2 多達(dá) 100 次，總共掃描 100*1000=10 萬行。

這還只是兩個小表，如果 t1 和 t2 都是 10 萬行的表（當(dāng)然了，這也還是屬于小表的范圍），就要掃描 100 億行，這個算法看上去太“笨重”了。

三、Block Nested-Loop Join

當(dāng)然，MySQL 也沒有使用這個 Simple Nested-Loop Join 算法，而是使用了另一個叫作“Block Nested-Loop Join”的算法，簡稱 BNL。

這時候，被驅(qū)動表上沒有可用的索引，算法的流程是這樣的：

• 把表 t1 的數(shù)據(jù)讀入線程內(nèi)存 join_buffer 中，由于我們這個語句中寫的是 select *，因此是把整個表 t1 放入了內(nèi)存；
• 掃描表 t2，把表 t2 中的每一行取出來，跟 join_buffer 中的數(shù)據(jù)做對比，滿足 join 條件的，作為結(jié)果集的一部分返回。

這個過程的流程圖如下：

對應(yīng)地，這條 SQL 語句的 explain 結(jié)果如下所示：

可以看到，在這個過程中，對表 t1 和 t2 都做了一次全表掃描，因此總的掃描行數(shù)是 1100。

由于 join_buffer 是以無序數(shù)組的方式組織的，因此對表 t2 中的每一行，都要做 100 次判斷，總共需要在內(nèi)存中做的判斷次數(shù)是：100*1000=10 萬次。

前面我們說過，如果使用 Simple Nested-Loop Join 算法進(jìn)行查詢，掃描行數(shù)也是 10 萬行。因此，從時間復(fù)雜度上來說，這兩個算法是一樣的。但是，Block Nested-Loop Join 算法的這 10 萬次判斷是內(nèi)存操作，速度上會快很多，性能也更好。

在這種情況下，應(yīng)該選擇哪個表做驅(qū)動表。

假設(shè)小表的行數(shù)是 N，大表的行數(shù)是 M，那么在這個算法里：

• 兩個表都做一次全表掃描，所以總的掃描行數(shù)是 M+N；
• 內(nèi)存中的判斷次數(shù)是 M*N。

可以看到，調(diào)換這兩個算式中的 M 和 N 沒差別，因此這時候選擇大表還是小表做驅(qū)動表，執(zhí)行耗時是一樣的。

這個例子里表 t1 才 100 行，要是表 t1 是一個大表，join_buffer 放不下怎么辦呢？

join_buffer 的大小是由參數(shù) join_buffer_size 設(shè)定的，默認(rèn)值是 256k。如果放不下表 t1 的所有數(shù)據(jù)話，策略很簡單，就是分段放。

join_buffer_size 改成 1200，再執(zhí)行：

select * from t1 straight_join t2 on (t1.a=t2.b);

執(zhí)行過程就變成了：

• 掃描表 t1，順序讀取數(shù)據(jù)行放入 join_buffer 中，放完第 88 行 join_buffer 滿了，繼續(xù)第 2 步；
• 掃描表 t2，把 t2 中的每一行取出來，跟 join_buffer 中的數(shù)據(jù)做對比，滿足 join 條件的，作為結(jié)果集的一部分返回；
• 清空 join_buffer；
• 繼續(xù)掃描表 t1，順序讀取最后的 12 行數(shù)據(jù)放入 join_buffer 中，繼續(xù)執(zhí)行第 2 步。

執(zhí)行流程圖也就變成這樣：

圖中的步驟 4 和 5，表示清空 join_buffer 再復(fù)用。

這個流程才體現(xiàn)出了這個算法名字中“Block”的由來，表示“分塊去 join”。

可以看到，這時候由于表 t1 被分成了兩次放入 join_buffer 中，導(dǎo)致表 t2 會被掃描兩次。

雖然分成兩次放入 join_buffer，但是判斷等值條件的次數(shù)還是不變的，依然是 (88+12)*1000=10 萬次。

在這種情況下驅(qū)動表的選擇問題。

假設(shè)，驅(qū)動表的數(shù)據(jù)行數(shù)是 N，需要分 K 段才能完成算法流程，被驅(qū)動表的數(shù)據(jù)行數(shù)是 M。

注意，這里的 K 不是常數(shù)，N 越大 K 就會越大，因此把 K 表示為λ*N，顯然λ的取值范圍是 (0,1)。

所以，在這個算法的執(zhí)行過程中：

• 掃描行數(shù)是 N+λNM；
• 內(nèi)存判斷 N*M 次。

顯然，內(nèi)存判斷次數(shù)是不受選擇哪個表作為驅(qū)動表影響的。

而考慮到掃描行數(shù)，在 M 和 N 大小確定的情況下，N 小一些，整個算式的結(jié)果會更小。所以結(jié)論是，應(yīng)該讓小表當(dāng)驅(qū)動表。

在 N+λNM 這個式子里，λ才是影響掃描行數(shù)的關(guān)鍵因素，這個值越小越好。

剛剛我們說了 N 越大，分段數(shù) K 越大。那么，N 固定的時候，什么參數(shù)會影響 K 的大小呢？（也就是λ的大小）答案是 join_buffer_size。

join_buffer_size 越大，一次可以放入的行越多，分成的段數(shù)也就越少，對被驅(qū)動表的全表掃描次數(shù)就越少。

如果你的 join 語句很慢，就把 join_buffer_size 改大。

第一個問題：能不能使用 join 語句？

• 如果可以使用 Index Nested-Loop Join 算法，也就是說可以用上被驅(qū)動表上的索引，其實是沒問題的；
• 如果使用 Block Nested-Loop Join 算法，掃描行數(shù)就會過多。尤其是在大表上的 join 操作，這樣可能要掃描被驅(qū)動表很多次，會占用大量的系統(tǒng)資源。所以這種 join 盡量不要用。

所以在判斷要不要使用 join 語句時，就是看 explain 結(jié)果里面，Extra 字段里面有沒有出現(xiàn)“Block Nested Loop”字樣。

第二個問題是：如果要使用 join，應(yīng)該選擇大表做驅(qū)動表還是選擇小表做驅(qū)動表？

• 如果是 Index Nested-Loop Join 算法，應(yīng)該選擇小表做驅(qū)動表；
• 如果是 Block Nested-Loop Join 算法：
  • 在 join_buffer_size 足夠大的時候，是一樣的；
  • 在 join_buffer_size 不夠大的時候（這種情況更常見），應(yīng)該選擇小表做驅(qū)動表。

所以，這個問題的結(jié)論就是，總是應(yīng)該使用小表做驅(qū)動表。

當(dāng)然了，這里我需要說明下，什么叫作“小表”。

如果我在語句的 where 條件加上 t2.id<=50 這個限定條件，再來看下這兩條語句：

select * from t1 straight_join t2 on (t1.b=t2.b) where t2.id<=50;
select * from t2 straight_join t1 on (t1.b=t2.b) where t2.id<=50;

注意，為了讓兩條語句的被驅(qū)動表都用不上索引，所以 join 字段都使用了沒有索引的字段 b。

但如果是用第二個語句的話，join_buffer 只需要放入 t2 的前 50 行，顯然是更好的。

所以這里，“t2 的前 50 行”是那個相對小的表，也就是“小表”。

再來看另外一組例子：

select t1.b,t2.* from  t1  straight_join t2 on (t1.b=t2.b) where t2.id<=100;
select t1.b,t2.* from  t2  straight_join t1 on (t1.b=t2.b) where t2.id<=100;

這個例子里，表 t1 和 t2 都是只有 100 行參加 join。

但是，這兩條語句每次查詢放入 join_buffer 中的數(shù)據(jù)是不一樣的：

• 表 t1 只查字段 b，因此如果把 t1 放到 join_buffer 中，則 join_buffer 中只需要放入 b 的值；
• 表 t2 需要查所有的字段，因此如果把表 t2 放到 join_buffer 中的話，就需要放入三個字段 id、a 和 b。

應(yīng)該選擇表 t1 作為驅(qū)動表。也就是說在這個例子里，“只需要一列參與 join 的表 t1”是那個相對小的表。

所以，更準(zhǔn)確地說，在決定哪個表做驅(qū)動表的時候，應(yīng)該是兩個表按照各自的條件過濾，過濾完成之后，計算參與 join 的各個字段的總數(shù)據(jù)量，數(shù)據(jù)量小的那個表，就是“小表”，應(yīng)該作為驅(qū)動表。

四、總結(jié)

• 如果可以使用被驅(qū)動表的索引，join 語句還是有其優(yōu)勢的；
• 不能使用被驅(qū)動表的索引，只能使用 Block Nested-Loop Join 算法，這樣的語句就盡量不要使用；
• 在使用 join 的時候，應(yīng)該讓小表做驅(qū)動表。

使用 Block Nested-Loop Join 算法，可能會因為 join_buffer 不夠大，需要對被驅(qū)動表做多次全表掃描。如果被驅(qū)動表是一個大表，并且是一個冷數(shù)據(jù)表，除了查詢過程中可能會導(dǎo)致 IO 壓力大以外，覺得對這個 MySQL 服務(wù)還有什么更嚴(yán)重的影響嗎？

如果被驅(qū)動表是一個大表(因為不論用BNL還是ILJ算法) 都是優(yōu)先讓被參與join的總的字段量較大的一張表作為一個被驅(qū)動表。

但是由于關(guān)聯(lián)的時候被驅(qū)動表的數(shù)據(jù)會頻繁被走索引數(shù)， 所以根據(jù)MYSQL 的LRU算法 其實冷數(shù)據(jù)也會被提到鏈表的前部 ,造成冷數(shù)據(jù)的前移，其余業(yè)務(wù)數(shù)據(jù)被淘汰。 造成內(nèi)存命中率降低。 請求響應(yīng)變慢,業(yè)務(wù)可能造成阻塞。

到此這篇關(guān)于Join語句執(zhí)行流程 -MySQL實戰(zhàn)的文章就介紹到這了,更多相關(guān)mysql Join語句內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

最新評論