mysql Buffer Pool的存儲結(jié)構(gòu)和內(nèi)存淘汰機(jī)制詳解
MySQL InnoDB 存儲引擎的 Buffer Pool 是數(shù)據(jù)庫性能優(yōu)化的核心組件,用于緩存數(shù)據(jù)頁和索引頁,減少磁盤 I/O 操作。其存儲結(jié)構(gòu)和內(nèi)存淘汰機(jī)制設(shè)計(jì)復(fù)雜且高效,以下是詳細(xì)解析:
Buffer Pool 存儲結(jié)構(gòu)
1. 基礎(chǔ)結(jié)構(gòu)
- 數(shù)據(jù)頁(Data Page):Buffer Pool 的基本存儲單元,每個(gè)頁默認(rèn)大小 16KB(可通過
innodb_page_size
調(diào)整)。數(shù)據(jù)頁存儲表數(shù)據(jù)、索引、undo日志等。 - 控制塊(Control Block):每個(gè)數(shù)據(jù)頁對應(yīng)一個(gè)控制塊,包含頁的元信息(如頁號、LSN、訪問次數(shù)、臟頁標(biāo)記等),大小約 5%–10% 的 Buffer Pool 內(nèi)存。
2. 鏈表管理
Buffer Pool 通過三個(gè)核心鏈表管理頁的分配與狀態(tài):
Free List(空閑鏈表):
維護(hù)所有未被使用的空閑頁。當(dāng)需要加載新數(shù)據(jù)頁時(shí),優(yōu)先從 Free List 獲取空閑頁。
LRU List(Least Recently Used 鏈表):
管理已被使用的頁,按訪問時(shí)間排序,用于內(nèi)存淘汰決策。InnoDB 對傳統(tǒng) LRU 進(jìn)行了優(yōu)化,采用 分代 LRU(Segmented LRU):
Young SubList
(新生代):存儲頻繁訪問的熱點(diǎn)頁。Old SubList
(老年代):存儲新加載的頁或訪問較少的頁。Midpoint Insertion
:新頁首次加載時(shí)插入到 LRU List 的 3/8 處(由innodb_old_blocks_pct
控制,默認(rèn) 37%),避免全表掃描等操作污染熱點(diǎn)數(shù)據(jù)。
Flush List(刷新鏈表):
記錄所有被修改過的臟頁(Dirty Page),按最早修改時(shí)間排序,由后臺線程定期刷盤(Checkpoint)。
3. 多實(shí)例與分區(qū)
Buffer Pool Instances
:通過innodb_buffer_pool_instances
將 Buffer Pool 劃分為多個(gè)獨(dú)立實(shí)例,減少鎖競爭。Chunk
分配機(jī)制:每個(gè) Buffer Pool 實(shí)例由多個(gè) Chunk(默認(rèn) 128MB)組成,支持動態(tài)調(diào)整大?。?code>innodb_buffer_pool_chunk_size)。
內(nèi)存淘汰機(jī)制
1. 觸發(fā)條件
- Free List 為空時(shí),需從 LRU List 淘汰舊頁釋放空間。
- 后臺線程(Page Cleaner)主動清理臟頁以維持空閑頁比例。
2. 改進(jìn)的 LRU 算法
訪問頻率與時(shí)效性:
- 新頁首次加載到 Old SubList 的頭部。
- 若頁在 Old SubList 存活超過
innodb_old_blocks_time
(默認(rèn) 1000ms)后被再次訪問,則移至 Young SubList。 - Young SubList 的頁被訪問時(shí),僅移動到 Young 區(qū)的頭部(不整體調(diào)整鏈表,減少開銷)。
淘汰策略:
- 優(yōu)先淘汰 Old SubList 尾部的頁。
- 若 Young SubList 長度超過閾值,可能淘汰其尾部的頁。
3. 臟頁處理
- 后臺線程定期將 Flush List 中的臟頁刷盤(根據(jù) LSN 推進(jìn) Checkpoint)。
- 刷盤后的臟頁變?yōu)楦蓛繇?,可被釋放?Free List 或保留在 LRU List。
4. 參數(shù)調(diào)優(yōu)
innodb_buffer_pool_size
:總內(nèi)存大小,建議設(shè)置為物理內(nèi)存的 50%~80%。innodb_old_blocks_pct
:控制 Old SubList 占比(默認(rèn) 37%),全表掃描場景可適當(dāng)調(diào)低。innodb_old_blocks_time
:保護(hù) Old SubList 不被短期訪問污染,頻繁掃描時(shí)可增大此值。
監(jiān)控與優(yōu)化
1. 關(guān)鍵監(jiān)控指標(biāo)
SHOW ENGINE INNODB STATUS; -- 查看 Buffer Pool 狀態(tài)
Pages young
/Pages not young
:Young 區(qū)與 Old 區(qū)的頁移動次數(shù)。Buffer pool hit rate
:緩存命中率(目標(biāo)接近 100%)。Modified db pages
:當(dāng)前臟頁數(shù)量。
2. 優(yōu)化建議
- 預(yù)熱緩存:重啟后通過
SELECT * FROM table;
主動加載數(shù)據(jù)。 - 避免全表掃描:大表掃描可能導(dǎo)致 Old SubList 被無效數(shù)據(jù)占滿。
- 使用 SSD:減少刷盤對性能的影響。
總結(jié)
InnoDB Buffer Pool 通過分代 LRU 和鏈表結(jié)構(gòu)平衡了內(nèi)存利用率與訪問效率,結(jié)合臟頁刷新機(jī)制保障數(shù)據(jù)一致性。合理配置參數(shù)與監(jiān)控命中率是優(yōu)化數(shù)據(jù)庫性能的關(guān)鍵。
以上為個(gè)人經(jīng)驗(yàn),希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
Windows10 mysql 8.0.12 非安裝版配置啟動方法
這篇文章主要為大家詳細(xì)介紹了Windows10 mysql 8.0.12 非安裝版配置啟動,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2019-05-05Mysql存儲過程循環(huán)內(nèi)嵌套使用游標(biāo)示例代碼
本節(jié)主要介紹了Mysql存儲過程循環(huán)內(nèi)如何嵌套使用游標(biāo),詳細(xì)實(shí)現(xiàn)如下,需要的朋友不要錯(cuò)過2014-08-08安裝mysql8.0.11及修改root密碼、連接navicat for mysql的思路詳解
這篇文章主要介紹了安裝mysql8.0.11以及修改root密碼、連接navicat for mysql,需要的朋友可以參考下2018-06-06解讀SQL中GROUP BY和HAVING子句中使用NULL條件問題
在使用SQL進(jìn)行數(shù)據(jù)查詢時(shí),可能會遇到查詢結(jié)果為空的情況,這通常與GROUP BY和HAVING子句的使用有關(guān),尤其是在處理包含NULL值的字段時(shí),當(dāng)使用GROUP BY進(jìn)行數(shù)據(jù)分組,并在HAVING子句中直接判斷字段是否為NULL時(shí)2024-10-10MySQL中show命令方法得到表列及整個(gè)庫的詳細(xì)信息(精品珍藏)
MySQL中show 句法得到表列及整個(gè)庫的詳細(xì)信息,方便查看數(shù)據(jù)庫的詳細(xì)信息。2010-11-11