MySQL DISTINCT 的基本實現(xiàn)原理詳解
前言
DISTINCT 實際上和 GROUP BY 操作的實現(xiàn)非常相似,只不過是在 GROUP BY 之后的每組中只取出一條記錄而已。所以,DISTINCT 的實現(xiàn)和 GROUP BY 的實現(xiàn)也基本差不多,沒有太大的區(qū)別。同樣可以通過松散索引掃描或者是緊湊索引掃描來實現(xiàn),當然,在無法僅僅使用索引即能完成 DISTINCT 的時候,MySQL 只能通過臨時表來完成。
但是,和 GROUP BY 有一點差別的是,DISTINCT 并不需要進行排序。也就是說,在僅僅只是 DISTINCT 操作的 Query 如果無法僅僅利用索引完成操作的時候,MySQL 會利用臨時表來做一次數(shù)據(jù)的“緩存”,但是不會對臨時表中的數(shù)據(jù)進行 filesort 操作。
當然,如果我們在進行 DISTINCT 的時候還使用了 GROUP BY 并進行了分組,并使用了類似于 MAX 之類的聚合函數(shù)操作,就無法避免 filesort 了。
下面我們就通過幾個簡單的 Query 示例來展示一下 DISTINCT 的實現(xiàn)。
1.首先看看通過松散索引掃描完成 DISTINCT 的操作:
sky@localhost : example 11:03:41> EXPLAIN SELECT DISTINCT group_id -> FROM group_messageG *************************** 1. row *************************** id: 1 SELECT_type: SIMPLE table: group_message type: range possible_keys: NULL key: idx_gid_uid_gc key_len: 4 ref: NULL rows: 10 Extra: Using index for group-by 1 row in set (0.00 sec)
我們可以很清晰的看到,執(zhí)行計劃中的 Extra 信息為“Using index for group-by”,這代表什么意思?為什么我沒有進行 GROUP BY 操作的時候,執(zhí)行計劃中會告訴我這里通過索引進行了 GROUP BY 呢?
其實這就是于 DISTINCT 的實現(xiàn)原理相關的,在實現(xiàn) DISTINCT的過程中,同樣也是需要分組的,然后再從每組數(shù)據(jù)中取出一條返回給客戶端。而這里的 Extra 信息就告訴我們,MySQL 利用松散索引掃描就完成了整個操作。
當然,如果 MySQL Query Optimizer 要是能夠做的再人性化一點將這里的信息換成“Using index for distinct”那就更好更容易讓人理解了,呵呵。
2.我們再來看看通過緊湊索引掃描的示例:
sky@localhost : example 11:03:53> EXPLAIN SELECT DISTINCT user_id -> FROM group_message -> WHERE group_id = 2G *************************** 1. row *************************** id: 1 SELECT_type: SIMPLE table: group_message type: ref possible_keys: idx_gid_uid_gc key: idx_gid_uid_gc key_len: 4 ref: const rows: 4 Extra: Using WHERE; Using index 1 row in set (0.00 sec)
這里的顯示和通過緊湊索引掃描實現(xiàn) GROUP BY 也完全一樣。實際上,這個 Query 的實現(xiàn)過程中,MySQL 會讓存儲引擎掃描 group_id = 2 的所有索引鍵,得出所有的 user_id,然后利用索引的已排序特性,每更換一個 user_id 的索引鍵值的時候保留一條信息,即可在掃描完所有 gruop_id = 2 的索引鍵的時候完成整個 DISTINCT 操作。
3.下面我們在看看無法單獨使用索引即可完成 DISTINCT 的時候會是怎樣:
sky@localhost : example 11:04:40> EXPLAIN SELECT DISTINCT user_id -> FROM group_message -> WHERE group_id > 1 AND group_id < 10G *************************** 1. row *************************** id: 1 SELECT_type: SIMPLE table: group_message type: range possible_keys: idx_gid_uid_gc key: idx_gid_uid_gc key_len: 4 ref: NULL rows: 32 Extra: Using WHERE; Using index; Using temporary 1 row in set (0.00 sec)
當 MySQL 無法僅僅依賴索引即可完成 DISTINCT 操作的時候,就不得不使用臨時表來進行相應的操作了。但是我們可以看到,在 MySQL 利用臨時表來完成 DISTINCT 的時候,和處理 GROUP BY 有一點區(qū)別,就是少了 filesort。
實際上,在 MySQL 的分組算法中,并不一定非要排序才能完成分組操作的,這一點在上面的 GROUP BY 優(yōu)化小技巧中我已經(jīng)提到過了。實際上這里 MySQL 正是在沒有排序的情況下實現(xiàn)分組最后完成 DISTINCT 操作的,所以少了 filesort 這個排序操作。
4.最后再和 GROUP BY 結合試試看:
sky@localhost : example 11:05:06> EXPLAIN SELECT DISTINCT max(user_id) -> FROM group_message -> WHERE group_id > 1 AND group_id < 10 -> GROUP BY group_idG *************************** 1. row *************************** id: 1 SELECT_type: SIMPLE table: group_message type: range possible_keys: idx_gid_uid_gc key: idx_gid_uid_gc key_len: 4 ref: NULL rows: 32 Extra: Using WHERE; Using index; Using temporary; Using filesort 1 row in set (0.00 sec)
最后我們再看一下這個和 GROUP BY 一起使用帶有聚合函數(shù)的示例,和上面第三個示例相比,可以看到已經(jīng)多了 filesort 排序操作了,正是因為我們使用了 MAX 函數(shù)的緣故。要取得分組后的 MAX 值,又無法使用索引完成操作,只能通過排序才行了。
由于 DISTINCT的實現(xiàn)基本上和 GROUP BY 的實現(xiàn)差不多,所以這篇文章就不再畫圖展示實現(xiàn)過程了
以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支持腳本之家。
相關文章
使用canal監(jiān)控mysql數(shù)據(jù)庫實現(xiàn)elasticsearch索引實時更新問題
這篇文章主要介紹了使用canal監(jiān)控mysql數(shù)據(jù)庫實現(xiàn)elasticsearch索引實時更新,本文給大家介紹的非常詳細,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下2022-03-03MySQL查詢優(yōu)化:LIMIT 1避免全表掃描提高查詢效率
在某些情況下,如果明知道查詢結果只有一個,SQL語句中使用LIMIT 1會提高查詢效率,感興趣的朋友可以了解下哈,希望對你優(yōu)化mysql查詢有所幫助2013-04-04MySQL?SQL性能分析之慢查詢日志、explain使用詳解
這篇文章主要介紹了MySQL?SQL性能分析?慢查詢日志、explain使用,本文給大家介紹的非常詳細,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下2023-04-04Mysql刪除重復數(shù)據(jù)并且只保留一條(附實例!)
最近有朋友打電話尋求一個SQL相關的問題,大致是表中存在重復數(shù)據(jù),需要刪除掉重復數(shù)據(jù)保留一條的場景,下面這篇文章主要給大家介紹了關于Mysql刪除重復數(shù)據(jù)并且只保留一條的相關資料,需要的朋友可以參考下2023-02-02MySQL中Binary Log二進制日志文件的基本操作命令小結
這篇文章主要介紹了MySQL中Binary Log二進制日志文件的基本操作小結,包括利用二進制日志恢復數(shù)據(jù)的方法,需要的朋友可以參考下2015-12-12