MySQL深分頁問題及三種解決方案
1 深分頁問題
1.1 創(chuàng)建表
CREATE TABLE `player` ( `id` bigint(20) NOT NULL AUTO_INCREMENT COMMENT '主鍵', `player_id` varchar(256) NOT NULL COMMENT '運動員編號', `player_name` varchar(256) NOT NULL COMMENT '運動員名稱', `height` int(11) NOT NULL COMMENT '身高', `weight` int(11) NOT NULL COMMENT '體重', `game_performance` text COMMENT '最近一場比賽表現(xiàn)', PRIMARY KEY (`id`) ) ENGINE=InnoDB AUTO_INCREMENT=1 DEFAULT CHARSET=utf8
1.2 新增100萬條數(shù)據(jù)
@SpringBootTest(classes = TestApplication.class) @RunWith(SpringJUnit4ClassRunner.class) public class PlayerServiceTest { @Resource private PlayerRepository playerRepository; @Test public void initBigData() { for (int i = 0; i < 1000000; i++) { PlayerEntity entity = new PlayerEntity(); entity.setPlayerId(UUID.randomUUID().toString()); entity.setPlayerName("球員_" + System.currentTimeMillis()); entity.setWeight(150); entity.setHeight(188); entity.setGamePerformance("{\"runDistance\":8900.0,\"passSuccess\":80.12,\"scoreNum\":3}"); playerRepository.insert(entity); } } }
1.3 深分頁語句
select * from player limit 990000,5
1.4 結(jié)果分析
查詢耗時:1.233秒
本語句目標查詢[990001-990005]
五條數(shù)據(jù)
但是執(zhí)行時需要排序[1-990005]
數(shù)據(jù)
最終丟棄[1-990000]
只返回[990001-990005]
數(shù)據(jù)
2 深分頁優(yōu)化方案
2.1 方案一
我們可以從業(yè)務形態(tài)維度去解決,可以參考搜索引擎解決方案。因為ES也存在深分頁問題,搜索引擎解決方案是在業(yè)務上會限制查詢頁數(shù)。因為頁數(shù)越大,內(nèi)容相關度越低,所以頁數(shù)太大對業(yè)務價值不高。MySQL可以類比處理:
- 限制查詢頁數(shù)
- 限制全量導出
- 查詢時要求帶必要條件(時間范圍、userId)
2.2 方案二
2.2.1 優(yōu)化語句
select * from player a, (select id as tmpId from player limit 990000,5) b WHERE a.id = b.tmpId復制代碼
2.2.2 執(zhí)行計劃
(1) 查看計劃
explain select * from player a, (select id as tmpId from player limit 990000,5) b WHERE a.id = b.tmpId復制代碼
(2) 執(zhí)行順序
- id越大執(zhí)行順序越靠前
- id相同則按照行數(shù)從上到下執(zhí)行
- 本語句執(zhí)行順序如下圖:
- 第一步和第二步表示執(zhí)行子查詢
- 第三步表示player表與子查詢關聯(lián)
(3) explain type
訪問類型是重要分析指標:
(4) explain Extra
Extra表示執(zhí)行計劃擴展信息重點關注三個:
2.2.3 結(jié)果分析
- 查詢耗時:0.5秒
- 原因是覆蓋索引提升分頁查詢效率(只查詢ID列)
- 覆蓋索引含義是查詢時索引列完全包含查詢列
- using index表示使用覆蓋索引,性能提升
2.3 方案三
2.3.1 優(yōu)化語句
select * from player where id > 990000 LIMIT 5復制代碼
2.3.2 執(zhí)行計劃
(1) 查看計劃
explain select * from player where id > 990000 LIMIT 5復制代碼
(2) 結(jié)果分析
- 查詢耗時:0.001秒
- range表示索引范圍搜索性能尚可
(3) 適用場景
- 不適用跳頁場景
- 只適用【上一頁】【下一頁】場景
3 MyBatis
<mapper namespace="com.test.java.front.test.mysql.deep.page.repository.PlayerRepository"> <resultMap id="BaseResultMap" type="com.test.java.front.test.mysql.deep.page.entity.PlayerEntity"> <id column="id" jdbcType="BIGINT" property="id" /> <result column="player_id" jdbcType="VARCHAR" property="playerId" /> <result column="player_name" jdbcType="VARCHAR" property="playerName" /> <result column="height" jdbcType="INTEGER" property="height" /> <result column="weight" jdbcType="INTEGER" property="weight" /> <result column="game_performance" jdbcType="LONGVARCHAR" property="gamePerformance" /> </resultMap> <sql id="Base_Column_List"> id, player_id, player_name, height, weight, game_performance </sql> <sql id="conditions"> <where> <if test="playerId != null"> and player_id = #{playerId,jdbcType=VARCHAR} </if> </where> </sql> <sql id="pager"> <if test="skip != null and limit != null"> limit #{skip}, #{limit} </if> </sql> <!-- 查詢條數(shù) --> <select id="selectPageCount" parameterType="com.test.java.front.test.mysql.deep.page.param.biz.PlayerQueryParam" resultType="java.lang.Long"> select count(*) from player <include refid="conditions" /> </select> <!-- 分頁方式1:普通分頁存在深分頁問題 --> <!-- select * from player limit 990000,5 --> <select id="selectPager1" parameterType="com.test.java.front.test.mysql.deep.page.param.biz.PlayerQueryParam" resultMap="BaseResultMap"> select <include refid="Base_Column_List" /> from player <include refid="conditions" /> <include refid="pager" /> </select> <!-- 分頁方式2:覆蓋索引優(yōu)化深分頁問題 --> <!-- select * from player a, (select id as tmpId from player limit 990000,5) b where a.id = b.tmpId --> <select id="selectPager2" parameterType="com.test.java.front.test.mysql.deep.page.param.biz.PlayerQueryParam" resultMap="BaseResultMap"> select <include refid="Base_Column_List" /> from player a, ( select id as tmpId from player <include refid="conditions" /> <include refid="pager" /> ) b where a.id = b.tmpId </select> <!-- 分頁方式3:Id分頁不支持跳頁 --> <!-- select * from player where id > 990000 limit 5 --> <select id="selectPager3" parameterType="com.test.java.front.test.mysql.deep.page.param.biz.PlayerQueryIdParam" resultMap="BaseResultMap"> select <include refid="Base_Column_List" /> <include refid="conditions" /> from player where id > #{startId} limit #{pageSize} </select> </mapper>
4 文章總結(jié)
本文第一介紹深分頁問題表現(xiàn)和原因。第二介紹深分頁問題三種解決方法,方案一是從業(yè)務維度優(yōu)化,方案二是使用覆蓋索引進行優(yōu)化,方案三是使用Id分頁。第三展示MyBatis相關代碼。
到此這篇關于MySQL深分頁問題及三種解決方案的文章就介紹到這了,更多相關MySQL深分頁內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!
相關文章
mysql數(shù)據(jù)表規(guī)模九千萬條記錄?如何優(yōu)化查詢?
這里的優(yōu)化維度有四個:硬件配置、參數(shù)配置、表結(jié)構(gòu)設計和SQL語句及索引,需要的朋友可以參考下2023-12-12故障的機器修好后重啟,狂拉主庫binlog,導致網(wǎng)絡問題的解決方法
本文主要記錄一次簡單的、典型的故障,發(fā)生問題的原因很簡單,這個問題發(fā)生也很簡單,各位同學一定要注意,一不留神就會對主庫造成影響2016-04-04查詢數(shù)據(jù)庫空間(mysql和oracle)
本文通過代碼示例詳細介紹了如何查詢MySQL數(shù)據(jù)空間和Oracle數(shù)據(jù)空間,具有一定的參考價值,感興趣的小伙伴可以參考閱讀2023-04-04分析Mysql表讀寫、索引等操作的sql語句效率優(yōu)化問題
今天小編就為大家分享一篇關于分析Mysql表讀寫、索引等操作的sql語句效率優(yōu)化問題,小編覺得內(nèi)容挺不錯的,現(xiàn)在分享給大家,具有很好的參考價值,需要的朋友一起跟隨小編來看看吧2018-12-12Mysql事項,視圖,函數(shù),觸發(fā)器命令(詳解)
下面小編就為大家?guī)硪黄狹ysql事項,視圖,函數(shù),觸發(fā)器命令(詳解)。小編覺得挺不錯的,現(xiàn)在就分享給大家,也給大家做個參考。一起跟隨小編過來看看吧2016-11-11解決mysql連接錯誤errorCode 0,state 08S01
這篇文章主要介紹了解決mysql連接錯誤errorCode 0,state 08S01,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教2024-05-05MySQL定期分析檢查與優(yōu)化表的方法小結(jié)
聽DBA的人說,相比oracle,MySQL就是一個玩具級別的數(shù)據(jù)庫,在網(wǎng)易門戶中,DBA基本很少去管理到MySQL的東西,所以我們產(chǎn)品使用到的MySQL的一些配置和優(yōu)化還是需要我們開發(fā)人員自己動手,下面就簡單介紹一下實用的定期優(yōu)化方法2014-06-06