MySQL單表百萬數(shù)據(jù)記錄分頁性能優(yōu)化技巧
測試環(huán)境:
先讓我們熟悉下基本的sql語句,來查看下我們將要測試表的基本信息
use infomation_schema SELECT * FROM TABLES WHERE TABLE_SCHEMA = ‘dbname' AND TABLE_NAME = ‘product'
查詢結(jié)果:
從上圖中我們可以看到表的基本信息:
表行數(shù):866633
平均每行的數(shù)據(jù)長度:5133字節(jié)
單表大?。?448700632字節(jié)
關(guān)于行和表大小的單位都是字節(jié),我們經(jīng)過計(jì)算可以知道
平均行長度:大約5k
單表總大?。?.1g
表中字段各種類型都有varchar、datetime、text等,id字段為主鍵
測試實(shí)驗(yàn)
1. 直接用limit start, count分頁語句, 也是我程序中用的方法:
select * from product limit start, count
當(dāng)起始頁較小時(shí),查詢沒有性能問題,我們分別看下從10, 100, 1000, 10000開始分頁的執(zhí)行時(shí)間(每頁取20條), 如下:
select * from product limit 10, 20 0.016秒 select * from product limit 100, 20 0.016秒 select * from product limit 1000, 20 0.047秒 select * from product limit 10000, 20 0.094秒
我們已經(jīng)看出隨著起始記錄的增加,時(shí)間也隨著增大, 這說明分頁語句limit跟起始頁碼是有很大關(guān)系的,那么我們把起始記錄改為40w看下(也就是記錄的一般左右) select * from product limit 400000, 20 3.229秒
再看我們?nèi)∽詈笠豁撚涗浀臅r(shí)間
select * from product limit 866613, 20 37.44秒
難怪搜索引擎抓取我們頁面的時(shí)候經(jīng)常會(huì)報(bào)超時(shí),像這種分頁最大的頁碼頁顯然這種時(shí)
間是無法忍受的。
從中我們也能總結(jié)出兩件事情:
1)limit語句的查詢時(shí)間與起始記錄的位置成正比
2)mysql的limit語句是很方便,但是對記錄很多的表并不適合直接使用。
2. 對limit分頁問題的性能優(yōu)化方法
利用表的覆蓋索引來加速分頁查詢
我們都知道,利用了索引查詢的語句中如果只包含了那個(gè)索引列(覆蓋索引),那么這種情況會(huì)查詢很快。
因?yàn)槔盟饕檎矣袃?yōu)化算法,且數(shù)據(jù)就在查詢索引上面,不用再去找相關(guān)的數(shù)據(jù)地址了,這樣節(jié)省了很多時(shí)間。另外Mysql中也有相關(guān)的索引緩存,在并發(fā)高的時(shí)候利用緩存就效果更好了。
在我們的例子中,我們知道id字段是主鍵,自然就包含了默認(rèn)的主鍵索引?,F(xiàn)在讓我們看看利用覆蓋索引的查詢效果如何:
這次我們之間查詢最后一頁的數(shù)據(jù)(利用覆蓋索引,只包含id列),如下:
select id from product limit 866613, 20 0.2秒
相對于查詢了所有列的37.44秒,提升了大概100多倍的速度
那么如果我們也要查詢所有列,有兩種方法,一種是id>=的形式,另一種就是利用join,看下實(shí)際情況:
SELECT * FROM product WHERE ID > =(select id from product limit 866613, 1) limit 20
查詢時(shí)間為0.2秒,簡直是一個(gè)質(zhì)的飛躍啊,哈哈
另一種寫法
SELECT * FROM product a JOIN (select id from product limit 866613, 20) b ON a.ID = b.id
查詢時(shí)間也很短,贊!
其實(shí)兩者用的都是一個(gè)原理嘛,所以效果也差不多
- 一步步教你利用Mysql存儲過程造百萬級數(shù)據(jù)
- MySQL數(shù)據(jù)庫10秒內(nèi)插入百萬條數(shù)據(jù)的實(shí)現(xiàn)
- MySQL 百萬級數(shù)據(jù)的4種查詢優(yōu)化方式
- MySQL百萬級數(shù)據(jù)量分頁查詢方法及其優(yōu)化建議
- MySQL百萬級數(shù)據(jù)分頁查詢優(yōu)化方案
- java中JDBC實(shí)現(xiàn)往MySQL插入百萬級數(shù)據(jù)的實(shí)例代碼
- MySQL使用MyFlash快速恢復(fù)誤刪除和修改的數(shù)據(jù)
- MySQL數(shù)據(jù)庫刪除數(shù)據(jù)后自增ID不連續(xù)的問題及解決
- MySQL BinLog如何恢復(fù)誤更新刪除數(shù)據(jù)
- 使用 SQL 快速刪除數(shù)百萬行數(shù)據(jù)的實(shí)踐記錄
相關(guān)文章
連接MySQL時(shí)出現(xiàn)1449與1045異常解決辦法
這篇文章主要介紹了連接MySQL時(shí)出現(xiàn)1449與1045異常解決辦法的相關(guān)資料,通過IP鏈接MySQL的時(shí)候會(huì)出現(xiàn)1499與1054錯(cuò)誤異常的情況,這里提供解決辦法,需要的朋友可以參考下2017-09-09MySql數(shù)據(jù)庫中的子查詢與高級應(yīng)用淺析
這篇文章主要給大家介紹了關(guān)于MySql數(shù)據(jù)庫中子查詢與高級應(yīng)用的相關(guān)資料,文中通過示例代碼介紹的非常詳細(xì),對大家學(xué)習(xí)或者使用MySQL具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面來一起學(xué)習(xí)學(xué)習(xí)吧2019-12-12MySQL查看和修改事務(wù)隔離級別的實(shí)例講解
在本篇文章里小編給大家整理的是關(guān)于MySQL查看和修改事務(wù)隔離級別的實(shí)例講解,有興趣的朋友們學(xué)習(xí)下。2020-03-03MySQL存儲過程輸入?yún)?shù)(in),輸出參數(shù)(out),輸入輸出參數(shù)(inout)
這篇文章主要介紹了MySQL存儲過程輸入?yún)?shù)(in),輸出參數(shù)(out),輸入輸出參數(shù)(inout),存儲過程就是一組SQL語句集,功能強(qiáng)大,可以實(shí)現(xiàn)一些比較復(fù)雜的邏輯功能,類似于JAVA語言中的方法;Python里面的函數(shù)2022-07-07mysql數(shù)據(jù)庫操作_高手進(jìn)階常用的sql命令語句大全
mysql數(shù)據(jù)庫操作sql命令語句大全:三表連表查詢、更新時(shí)批量替換字段部分字符、判斷某一張表是否存在、自動(dòng)增長恢復(fù)從1開始、查詢重復(fù)記錄、更新時(shí)字段值等于原值加上一個(gè)字符串、更新某字段為隨機(jī)值、復(fù)制表數(shù)據(jù)到另一個(gè)表、創(chuàng)建表時(shí)拷貝其他表的數(shù)據(jù)和結(jié)構(gòu)...2022-11-11