一 MySQL的內(nèi)部組件結(jié)構(gòu)

大體來(lái)說(shuō)，MySQL 可以分為 Server 層和存儲(chǔ)引擎層兩部分。

1.1 service層

主要包括連接器、查詢(xún)緩存、分析器、優(yōu)化器、執(zhí)行器等，涵蓋 MySQL 的大多數(shù)核心服務(wù)功能，以及所有的內(nèi)置函數(shù)（如日期、時(shí)間、數(shù)學(xué)和加密函數(shù)等），所有跨存儲(chǔ)引擎的功能都在這一層實(shí)現(xiàn)，比如存儲(chǔ)過(guò)程、觸發(fā)器、視圖等。

1.2 store層

存儲(chǔ)引擎層負(fù)責(zé)數(shù)據(jù)的存儲(chǔ)和提取。其架構(gòu)模式是插件式的，支持 InnoDB、MyISAM、Memory 等多個(gè)存儲(chǔ)引擎。現(xiàn)在最常用的存儲(chǔ)引擎是 InnoDB，它從 MySQL 5.5.5 版本開(kāi)始成為了默認(rèn)存儲(chǔ)引擎。也就是說(shuō)如果我們?cè)赾reate table時(shí)不指定表的存儲(chǔ)引擎類(lèi)型,默認(rèn)會(huì)給你設(shè)置存儲(chǔ)引擎為InnoDB。
本節(jié)演示表的DDL：

CREATE TABLE `test` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `name` varchar(255) DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=9 DEFAULT CHARSET=utf8;

下面我們重點(diǎn)來(lái)分析連接器、查詢(xún)緩存、分析器、優(yōu)化器、執(zhí)行器分別主要干了哪些事情。

二 連接器

我們知道由于MySQL是開(kāi)源的，他有非常多種類(lèi)的客戶(hù)端：navicat,mysql front,jdbc,SQLyog等非常豐富的客戶(hù)端,這些客戶(hù)端要向mysql發(fā)起通信都必須先跟Server端建立通信連接，而建立連接的工作就是有連接器完成的。
第一步，你會(huì)先連接到這個(gè)數(shù)據(jù)庫(kù)上，這時(shí)候接待你的就是連接器。連接器負(fù)責(zé)跟客戶(hù)端建立連接、獲取權(quán)限、維持和管理連接。連接命令一般是這么寫(xiě)的：

[root@192 ~]# mysql -h host[數(shù)據(jù)庫(kù)地址] -u root[用戶(hù)] -p root[密碼] -P 3306

連接命令中的 mysql 是客戶(hù)端工具，用來(lái)跟服務(wù)端建立連接。在完成經(jīng)典的 TCP 握手后，連接器就要開(kāi)始認(rèn)證你的身份，這個(gè)時(shí)候用的就是你輸入的用戶(hù)名和密碼。

1、如果用戶(hù)名或密碼不對(duì)，你就會(huì)收到一個(gè)"Access denied for user"的錯(cuò)誤，然后客戶(hù)端程序結(jié)束執(zhí)行。
2、如果用戶(hù)名密碼認(rèn)證通過(guò)，連接器會(huì)到權(quán)限表里面查出你擁有的權(quán)限。之后，這個(gè)連接里面的權(quán)限判斷邏輯，都將依賴(lài)于此時(shí)讀到的權(quán)限。

這就意味著，一個(gè)用戶(hù)成功建立連接后，即使你用管理員賬號(hào)對(duì)這個(gè)用戶(hù)的權(quán)限做了修改，也不會(huì)影響已經(jīng)存在連接的權(quán)限。修改完成后，只有再新建的連接才會(huì)使用新的權(quán)限設(shè)置。用戶(hù)的權(quán)限表在系統(tǒng)表空間的mysql的user表中。

修改user密碼

mysql> CREATE USER 'username'@'host' IDENTIFIED BY 'password'; //創(chuàng)建新用戶(hù)
mysql> grant all privileges on *.* to 'username'@'%'; //賦權(quán)限,%表示所有(host)
mysql> flush privileges //刷新數(shù)據(jù)庫(kù)
mysql> update user set password=password(”123456″) where user='root';(設(shè)置用戶(hù)名密碼)
mysql> show grants for root@"%"; 查看當(dāng)前用戶(hù)的權(quán)限

連接完成后，如果你沒(méi)有后續(xù)的動(dòng)作，這個(gè)連接就處于空閑狀態(tài)，你可以在 show processlist 命令中看到它。文本中這個(gè)圖是 show processlist 的結(jié)果，其中的 Command 列顯示為“Sleep”的這一行，就表示現(xiàn)在系統(tǒng)里面有一個(gè)空閑連接，關(guān)閉連接 kill 。

客戶(hù)端如果長(zhǎng)時(shí)間不發(fā)送command到Server端，連接器就會(huì)自動(dòng)將它斷開(kāi)。這個(gè)時(shí)間是由參數(shù) wait_timeout 控制的，默認(rèn)值是 8 小時(shí)。
查看wait_timeout

mysql> show global variables like "wait_timeout";
mysql>set global wait_timeout=28800; 設(shè)置全局服務(wù)器關(guān)閉非交互連接之前等待活動(dòng)的秒數(shù)

如果在連接被斷開(kāi)之后，客戶(hù)端再次發(fā)送請(qǐng)求的話，就會(huì)收到一個(gè)錯(cuò)誤提醒： Lost connection to MySQL server during query。這時(shí)候如果你要繼續(xù)，就需要重連，然后再執(zhí)行請(qǐng)求了。

數(shù)據(jù)庫(kù)里面，長(zhǎng)連接是指連接成功后，如果客戶(hù)端持續(xù)有請(qǐng)求，則一直使用同一個(gè)連接。短連接則是指每次執(zhí)行完很少的幾次查詢(xún)就斷開(kāi)連接，下次查詢(xún)?cè)僦匦陆⒁粋€(gè)。

開(kāi)發(fā)當(dāng)中我們大多數(shù)時(shí)候用的都是長(zhǎng)連接,把連接放在Pool內(nèi)進(jìn)行管理，但是長(zhǎng)連接有些時(shí)候會(huì)導(dǎo)致 MySQL 占用內(nèi)存漲得特別快，這是因?yàn)?MySQL 在執(zhí)行過(guò)程中臨時(shí)使用的內(nèi)存是管理在連接對(duì)象里面的。這些資源會(huì)在連接斷開(kāi)的時(shí)候才釋放。所以如果長(zhǎng)連接累積下來(lái)，可能導(dǎo)致內(nèi)存占用太大，被系統(tǒng)強(qiáng)行殺掉（OOM），從現(xiàn)象看就是 MySQL 異常重啟了。

怎么解決這類(lèi)問(wèn)題呢？

1、定期斷開(kāi)長(zhǎng)連接。使用一段時(shí)間，或者程序里面判斷執(zhí)行過(guò)一個(gè)占用內(nèi)存的大查詢(xún)后，斷開(kāi)連接，之后要查詢(xún)?cè)僦剡B。
2、如果你用的是 MySQL 5.7 或更新版本，可以在每次執(zhí)行一個(gè)比較大的操作后，通過(guò)執(zhí)行 mysql_reset_connection 來(lái)重新初始化連接資源。這個(gè)過(guò)程不需要重連和重新做權(quán)限驗(yàn)證，但是會(huì)將連接恢復(fù)到剛剛創(chuàng)建完時(shí)的狀態(tài)。

查詢(xún)緩存

常用的一些操作

mysql>show databases; 顯示所有數(shù)據(jù)庫(kù)
mysql>use dbname； 打開(kāi)數(shù)據(jù)庫(kù)：
mysql>show tables; 顯示數(shù)據(jù)庫(kù)mysql中所有的表；
mysql>describe user; 顯示表mysql數(shù)據(jù)庫(kù)中user表的列信息）；

連接建立完成后，你就可以執(zhí)行 select 語(yǔ)句了。執(zhí)行邏輯就會(huì)來(lái)到第二步：查詢(xún)緩存。

MySQL 拿到一個(gè)查詢(xún)請(qǐng)求后，會(huì)先到查詢(xún)緩存看看，之前是不是執(zhí)行過(guò)這條語(yǔ)句。之前執(zhí)行過(guò)的語(yǔ)句及其結(jié)果可能會(huì)以 key-value 對(duì)的形式，被直接緩存在內(nèi)存中。key 是查詢(xún)的語(yǔ)句，value 是查詢(xún)的結(jié)果。如果你的查詢(xún)能夠直接在這個(gè)緩存中找到 key，那么這個(gè) value 就會(huì)被直接返回給客戶(hù)端。

如果語(yǔ)句不在查詢(xún)緩存中，就會(huì)繼續(xù)后面的執(zhí)行階段。執(zhí)行完成后，執(zhí)行結(jié)果會(huì)被存入查詢(xún)緩存中。你可以看到，如果查詢(xún)命中緩存，MySQL 不需要執(zhí)行后面的復(fù)雜操作，就可以直接返回結(jié)果，這個(gè)效率會(huì)很高。

大多數(shù)情況查詢(xún)緩存就是個(gè)雞肋，為什么呢？

因?yàn)椴樵?xún)緩存往往弊大于利。查詢(xún)緩存的失效非常頻繁，只要有對(duì)一個(gè)表的更新，這個(gè)表上所有的查詢(xún)緩存都會(huì)被清空。因此很可能你費(fèi)勁地把結(jié)果存起來(lái)，還沒(méi)使用呢，就被一個(gè)更新全清空了。對(duì)于更新壓力大的數(shù)據(jù)庫(kù)來(lái)說(shuō)，查詢(xún)緩存的命中率會(huì)非常低。

一般建議大家在靜態(tài)表里使用查詢(xún)緩存，什么叫靜態(tài)表呢？就是一般我們極少更新的表。比如，一個(gè)系統(tǒng)配置表、字典表，那這張表上的查詢(xún)才適合使用查詢(xún)緩存。好在 MySQL 也提供了這種“按需使用”的方式。你可以將my.cnf參數(shù) query_cache_type 設(shè)置成 DEMAND。

my.cnf
#query_cache_type有3個(gè)值 0代表關(guān)閉查詢(xún)緩存OFF，1代表開(kāi)啟ON，2（DEMAND）代表當(dāng)sql語(yǔ)句中有SQL_CACHE關(guān)鍵詞時(shí)才緩存
query_cache_type=2

這樣對(duì)于默認(rèn)的 SQL 語(yǔ)句都不使用查詢(xún)緩存。而對(duì)于你確定要使用查詢(xún)緩存的語(yǔ)句，可以用 SQL_CACHE 顯式指定，像下面這個(gè)語(yǔ)句一樣：

mysql> select SQL_CACHE * from test where ID=5；

查看當(dāng)前mysql實(shí)例是否開(kāi)啟緩存機(jī)制

mysql> show global variables like "%query_cache_type%";

監(jiān)控查詢(xún)緩存的命中率:

mysql> show status like'%Qcache%'; //查看運(yùn)行的緩存信息

• Qcache_free_blocks:表示查詢(xún)緩存中目前還有多少剩余的blocks，如果該值顯示較大，則說(shuō)明查詢(xún)緩存中的內(nèi)存碎片過(guò)多了，可能在一定的時(shí)間進(jìn)行整理。
• Qcache_free_memory:查詢(xún)緩存的內(nèi)存大小，通過(guò)這個(gè)參數(shù)可以很清晰的知道當(dāng)前系統(tǒng)的查詢(xún)內(nèi)存是否夠用，是多了，還是不夠用，DBA可以根據(jù)實(shí)際情況做出調(diào)整。
• Qcache_hits:表示有多少次命中緩存。我們主要可以通過(guò)該值來(lái)驗(yàn)證我們的查詢(xún)緩存的效果。數(shù)字越大，緩存效果越理想。
• Qcache_inserts: 表示多少次未命中然后插入，意思是新來(lái)的SQL請(qǐng)求在緩存中未找到，不得不執(zhí)行查詢(xún)處理，執(zhí)行查詢(xún)處理后把結(jié)果insert到查詢(xún)緩存中。這樣的情況的次數(shù)，次數(shù)越多，表示查詢(xún)緩存應(yīng)用到的比較少，效果也就不理想。當(dāng)然系統(tǒng)剛啟動(dòng)后，查詢(xún)緩存是空的，這很正常。
• Qcache_lowmem_prunes:該參數(shù)記錄有多少條查詢(xún)因?yàn)閮?nèi)存不足而被移除出查詢(xún)緩存。通過(guò)這個(gè)值，用戶(hù)可以適當(dāng)?shù)恼{(diào)整緩存大小。
• Qcache_not_cached: 表示因?yàn)閝uery_cache_type的設(shè)置而沒(méi)有被緩存的查詢(xún)數(shù)量。
• Qcache_queries_in_cache:當(dāng)前緩存中緩存的查詢(xún)數(shù)量。
• Qcache_total_blocks:當(dāng)前緩存的block數(shù)量。

mysql8.0已經(jīng)移除了查詢(xún)緩存功能

三 分析器

如果沒(méi)有命中查詢(xún)緩存，就要開(kāi)始真正執(zhí)行語(yǔ)句了。首先，MySQL 需要知道你要做什么，因此需要對(duì) SQL 語(yǔ)句做解析。

分析器先會(huì)做“詞法分析”。你輸入的是由多個(gè)字符串和空格組成的一條 SQL 語(yǔ)句，MySQL 需要識(shí)別出里面的字符串分別是什么，代表什么。

MySQL 從你輸入的"select"這個(gè)關(guān)鍵字識(shí)別出來(lái)，這是一個(gè)查詢(xún)語(yǔ)句。它也要把字符串“T”識(shí)別成“表名 T”，把字符串“ID”識(shí)別成“列 ID”。

做完了這些識(shí)別以后，就要做“語(yǔ)法分析”。根據(jù)詞法分析的結(jié)果，語(yǔ)法分析器會(huì)根據(jù)語(yǔ)法規(guī)則，判斷你輸入的這個(gè) SQL 語(yǔ)句是否滿(mǎn)足 MySQL 語(yǔ)法。

如果你的語(yǔ)句不對(duì)，就會(huì)收到“You have an error in your SQL syntax”的錯(cuò)誤提醒，比如下面這個(gè)語(yǔ)句 from 寫(xiě)成了 “rom”。

mysql> select * fro test where id=1;
ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your MySQL server version for the right syntax to use near 'fro test where id=1' at line 1

詞法分析器原理

詞法分析器分成6個(gè)主要步驟完成對(duì)sql語(yǔ)句的分析

1、詞法分析
2、語(yǔ)法分析
3、語(yǔ)義分析
4、構(gòu)造執(zhí)行樹(shù)
5、生成執(zhí)行計(jì)劃
6、計(jì)劃的執(zhí)行

下圖是SQL詞法分析的過(guò)程步驟：

SQL語(yǔ)句的分析分為詞法分析與語(yǔ)法分析，mysql的詞法分析由MySQLLex[MySQL自己實(shí)現(xiàn)的]完成，語(yǔ)法分析由Bison生成。關(guān)于語(yǔ)法樹(shù)大家如果想要深入研究可以參考這篇wiki文章：https://en.wikipedia.org/wiki/LR_parser。那么除了Bison外，Java當(dāng)中也有開(kāi)源的詞法結(jié)構(gòu)分析工具例如Antlr4，ANTLR從語(yǔ)法生成一個(gè)解析器，可以構(gòu)建和遍歷解析樹(shù)，可以在IDEA工具當(dāng)中安裝插件：antlr v4 grammar plugin。

插件使用步驟：

經(jīng)過(guò)bison語(yǔ)法分析之后，會(huì)生成一個(gè)這樣的語(yǔ)法樹(shù)

至此我們分析器的工作任務(wù)也基本圓滿(mǎn)了。接下來(lái)進(jìn)入到優(yōu)化器

四 優(yōu)化器

經(jīng)過(guò)了分析器，MySQL 就知道你要做什么了。在開(kāi)始執(zhí)行之前，還要先經(jīng)過(guò)優(yōu)化器的處理。

優(yōu)化器是在表里面有多個(gè)索引的時(shí)候，決定使用哪個(gè)索引；或者在一個(gè)語(yǔ)句有多表關(guān)聯(lián)（join）的時(shí)候，決定各個(gè)表的連接順序。比如你執(zhí)行下面這樣的語(yǔ)句，這個(gè)語(yǔ)句是執(zhí)行兩個(gè)表的 join：

mysql> select * from te

mysql> select * from test1 join test2 using(ID) where test1.name=yangguo and test2.name=xiaolongnv;

既可以先從表 test1 里面取出 name=yangguo的記錄的 ID 值，再根據(jù) ID 值關(guān)聯(lián)到表 test2，再判斷 test2 里面 name的值是否等于 yangguo。

也可以先從表 test2 里面取出 name=xiaolongnv 的記錄的 ID 值，再根據(jù) ID 值關(guān)聯(lián)到 test1，再判斷 test1 里面 name 的值是否等于 yangguo。

這兩種執(zhí)行方法的邏輯結(jié)果是一樣的，但是執(zhí)行的效率會(huì)有不同，而優(yōu)化器的作用就是決定選擇使用哪一個(gè)方案。優(yōu)化器階段完成后，這個(gè)語(yǔ)句的執(zhí)行方案就確定下來(lái)了，然后進(jìn)入執(zhí)行器階段。如果你還有一些疑問(wèn)，比如優(yōu)化器是怎么選擇索引的，有沒(méi)有可能選擇錯(cuò)等等。

五 執(zhí)行器

開(kāi)始執(zhí)行的時(shí)候，要先判斷一下你對(duì)這個(gè)表 T 有沒(méi)有執(zhí)行查詢(xún)的權(quán)限，如果沒(méi)有，就會(huì)返回沒(méi)有權(quán)限的錯(cuò)誤，如下所示 (在工程實(shí)現(xiàn)上，如果命中查詢(xún)緩存，會(huì)在查詢(xún)緩存返回結(jié)果的時(shí)候，做權(quán)限驗(yàn)證。查詢(xún)也會(huì)在優(yōu)化器之前調(diào)用 precheck 驗(yàn)證權(quán)限)。

mysql> select * from test where id=1;

如果有權(quán)限，就打開(kāi)表繼續(xù)執(zhí)行。打開(kāi)表的時(shí)候，執(zhí)行器就會(huì)根據(jù)表的引擎定義，去使用這個(gè)引擎提供的接口。
比如我們這個(gè)例子中的表 test 中，ID 字段沒(méi)有索引，那么執(zhí)行器的執(zhí)行流程是這樣的：

• 調(diào)用 InnoDB 引擎接口取這個(gè)表的第一行，判斷 ID 值是不是 10，如果不是則跳過(guò)，如果是則將這行存在結(jié)果集中；
• 調(diào)用引擎接口取“下一行”，重復(fù)相同的判斷邏輯，直到取到這個(gè)表的最后一行。
• 執(zhí)行器將上述遍歷過(guò)程中所有滿(mǎn)足條件的行組成的記錄集作為結(jié)果集返回給客戶(hù)端。

至此，這個(gè)語(yǔ)句就執(zhí)行完成了。對(duì)于有索引的表，執(zhí)行的邏輯也差不多。第一次調(diào)用的是“取滿(mǎn)足條件的第一行”這個(gè)接口，之后循環(huán)取“滿(mǎn)足條件的下一行”這個(gè)接口，這些接口都是引擎中已經(jīng)定義好的。你會(huì)在數(shù)據(jù)庫(kù)的慢查詢(xún)?nèi)罩局锌吹揭粋€(gè) rows_examined 的字段，表示這個(gè)語(yǔ)句執(zhí)行過(guò)程中掃描了多少行。這個(gè)值就是在執(zhí)行器每次調(diào)用引擎獲取數(shù)據(jù)行的時(shí)候累加的。在有些場(chǎng)景下，執(zhí)行器調(diào)用一次，在引擎內(nèi)部則掃描了多行，因此引擎掃描行數(shù)跟 rows_examined 并不是完全相同的。

六 bin-log歸檔

刪庫(kù)是不需要跑路的，因?yàn)槲覀兊腟QL執(zhí)行時(shí)，會(huì)將sql語(yǔ)句的執(zhí)行邏輯記錄在我們的bin-log當(dāng)中，什么是bin-log呢？
binlog是Server層實(shí)現(xiàn)的二進(jìn)制日志,他會(huì)記錄我們的cud操作。Binlog有以下幾個(gè)特點(diǎn)：

1、Binlog在MySQL的Server層實(shí)現(xiàn)（引擎共用）
2、Binlog為邏輯日志,記錄的是一條語(yǔ)句的原始邏輯
3、Binlog不限大小,追加寫(xiě)入,不會(huì)覆蓋以前的日志

如果，我們誤刪了數(shù)據(jù)庫(kù),可以使用binlog進(jìn)行歸檔!要使用binlog歸檔，首先我們得記錄binlog，因此需要先開(kāi)啟MySQL的binlog功能。
配置my.cnf

配置開(kāi)啟binlog
log-bin=/usr/local/mysql/data/binlog/mysql-bin
注意5.7以及更高版本需要配置本項(xiàng)：server-id=123454（自定義,保證唯一性）;
#binlog格式，有3種statement,row,mixed
binlog-format=ROW
#表示每1次執(zhí)行寫(xiě)入就與硬盤(pán)同步，會(huì)影響性能，為0時(shí)表示，事務(wù)提交時(shí)mysql不做刷盤(pán)操作，由系統(tǒng)決定
sync-binlog=1

binlog命令

mysql> show variables like '%log_bin%'; 查看bin-log是否開(kāi)啟
mysql> flush logs; 會(huì)多一個(gè)最新的bin-log日志
mysql> show master status; 查看最后一個(gè)bin-log日志的相關(guān)信息
mysql> reset master; 清空所有的bin-log日志

查看binlog內(nèi)容

mysql> /usr/local/mysql/bin/mysqlbinlog --no-defaults /usr/local/mysql/data/binlog/mysql-bin.000001 查看binlog內(nèi)容

binlog里的內(nèi)容不具備可讀性，所以需要我們自己去判斷恢復(fù)的邏輯點(diǎn)位，怎么觀察呢？看重點(diǎn)信息，比如begin,commit這種關(guān)鍵詞信息，只要在binlog當(dāng)中看到了，你就可以理解為begin-commit之間的信息是一個(gè)完整的事務(wù)邏輯,然后再根據(jù)位置position判斷恢復(fù)即可。binlog內(nèi)容如下：

數(shù)據(jù)歸檔操作

從bin-log恢復(fù)數(shù)據(jù)
恢復(fù)全部數(shù)據(jù)
/usr/local/mysql/bin/mysqlbinlog --no-defaults /usr/local/mysql/data/binlog/mysql-bin.000001 |mysql -uroot -p tuling(數(shù)據(jù)庫(kù)名)
恢復(fù)指定位置數(shù)據(jù)
/usr/local/mysql/bin/mysqlbinlog --no-defaults --start-position="408" --stop-position="731"  /usr/local/mysql/data/binlog/mysql-bin.000001 |mysql -uroot -p tuling(數(shù)據(jù)庫(kù))
恢復(fù)指定時(shí)間段數(shù)據(jù)
/usr/local/mysql/bin/mysqlbinlog --no-defaults /usr/local/mysql/data/binlog/mysql-bin.000001 --stop-date= "2018-03-02 12:00:00"  --start-date= "2019-03-02 11:55:00"|mysql -uroot -p test(數(shù)據(jù)庫(kù))

歸檔測(cè)試準(zhǔn)

1、定義一個(gè)存儲(chǔ)過(guò)程，寫(xiě)入數(shù)據(jù)

drop procedure if exists tproc;
delimiter $$
create procedure tproc(i int)
begin
    declare s int default 1;
    declare c char(50) default repeat('a',50);
    while s<=i do
        start transaction;
        insert into test values(null,c);
        commit;
        set s=s+1;
    end while;
end$$
delimiter ;

2、刪除數(shù)據(jù)

mysql> truncate test;

3、利用binlog歸檔

mysql> /usr/local/mysql/bin/mysqlbinlog --no-defaults /usr/local/mysql/data/binlog/mysql-bin.000001 |mysql -uroot -p tuling(數(shù)據(jù)庫(kù)名)

4、 歸檔完畢，數(shù)據(jù)恢復(fù)

總結(jié)

到此這篇關(guān)于MySQL性能優(yōu)化之一條SQL在MySQL中執(zhí)行的過(guò)程的文章就介紹到這了,更多相關(guān)SQL在MySQL中執(zhí)行的過(guò)程內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

最新評(píng)論