深入探尋mysql自增列導(dǎo)致主鍵重復(fù)問題的原因
廢話少說,進(jìn)入正題。
拿到問題后,首先查看現(xiàn)場(chǎng),發(fā)現(xiàn)問題表的中記錄的最大值比自增列的值要大,那么很明顯,當(dāng)有記錄進(jìn)行插入時(shí),自增列產(chǎn)生的值就有可能與已有的記錄主鍵沖突,導(dǎo)致出錯(cuò)。首先想辦法解決問題,通過人工調(diào)大自增列的值,保證大于表內(nèi)已有的主鍵即可,調(diào)整后,導(dǎo)數(shù)據(jù)正常。問題是解決了,接下來要搞清楚問題原因,什么操作導(dǎo)致了這種現(xiàn)象的發(fā)生呢?
這里有一種可能,即業(yè)務(wù)邏輯包含更新自增主鍵的代碼,由于mysql的update動(dòng)作不會(huì)同時(shí)更新自增列值,若更新主鍵值比自增列大,也會(huì)導(dǎo)致上述現(xiàn)象:記錄最大值比自增主鍵值大。但開發(fā)反饋說這張表僅僅存在load data infile操作,不會(huì)進(jìn)行更新主鍵操作,所以這個(gè)解釋行不通。繼續(xù)分析,表中含有唯一約束,會(huì)不會(huì)和唯一約束有關(guān),線下實(shí)驗(yàn)?zāi)M沒有重現(xiàn)。后來想想會(huì)不會(huì)和主備切換有關(guān)系,因?yàn)榍皟商熳鲞^一次主備切換。于是乎,配合主備環(huán)境作了測(cè)試,果然和主備切換有關(guān)系,一切問題的來源都清晰了。
問題發(fā)生的前置條件:
1.mysql復(fù)制基于row模式
2.innodb表
3.表含有自增主鍵,并且含有唯一約束
4.load data infile 采用replace into語法插入數(shù)據(jù)【遇到重復(fù)唯一約束,直接覆蓋】
問題發(fā)生的原理:
1.主庫遇到重復(fù)unique約束時(shí),進(jìn)行replace操作;
2.replace在主庫上面實(shí)際變化為delete+insert,但binlog記錄的是update;
3.備庫重做update動(dòng)作,更新主鍵,但由于update動(dòng)作不會(huì)更新自增列值,導(dǎo)致更新后記錄值大于自增列值
問題重現(xiàn)實(shí)驗(yàn):
準(zhǔn)備工作 |
Create table test_autoinc(id int auto_increment, c1 int,c2 varchar(100),primary key(id),unique key(c1)); insert into test_autoinc(c1,c2) values(1,'abc'); insert into test_autoinc(c1,c2) values(2,'abc'); insert into test_autoinc(c1,c2) values(3,'abcdd'); insert into test_autoinc(c1,c2) values(4,'abcdd'); insert into test_autoinc(c1,c2) values(5,'abcdd'); |
|||
1 |
操作 |
備注 |
Master |
slave |
2 |
查看自增列值 Show create table test_autoinc\G |
插入5條記錄后,自增列值變?yōu)? |
CREATE TABLE `test_autoinc` ( `id` int(11) NOT NULL AUTO_INCREMENT, `c1` int(11) DEFAULT NULL, `c2` varchar(100) DEFAULT NULL, PRIMARY KEY (`id`), UNIQUE KEY `c1` (`c1`) ) ENGINE=InnoDBAUTO_INCREMENT=6DEFAULT CHARSET=utf8 |
CREATE TABLE `test_autoinc` ( `id` int(11) NOT NULL AUTO_INCREMENT, `c1` int(11) DEFAULT NULL, `c2` varchar(100) DEFAULT NULL, PRIMARY KEY (`id`), UNIQUE KEY `c1` (`c1`) ) ENGINE=InnoDBAUTO_INCREMENT=6DEFAULT CHARSET=utf8
|
3 |
查看表數(shù)據(jù) |
|
id | c1 | c2 ---+------+------ 1 | 1 | abc 2 | 2 | abc 3 | 3 | abcdd 4 | 4 | abcdd 5 | 5 | abcdd |
id | c1 | c2 ---+------+------ 1 | 1 | abc 2 | 2 | abc 3 | 3 | abcdd 4 | 4 | abcdd 5 | 5 | abcdd |
4 |
查看binlog位置 show master status\G |
記錄當(dāng)前binlog位點(diǎn), 后續(xù)可以查看replace動(dòng)作產(chǎn)生的binlog事件 |
mysql-bin.000038 59242888 |
|
5 |
replace操作 replace into test_autoinc(c1,c2) values(2,'eeee'); |
影響兩條記錄,主庫replace= delete+insert |
Query OK, 2 rows affected (0.00 sec) |
|
6 |
查看表數(shù)據(jù) |
|
id | c1 | c2 ---+------+------- 1 | 1 | abc 3 | 3 | abcdd 4 | 4 | abcdd 5 | 5 | abcdd 6 | 2 | eeee |
id | c1 | c2 ---+------+------- 1 | 1 | abc 3 | 3 | abcdd 4 | 4 | abcdd 5 | 5 | abcdd 6 | 2 | eeee |
7 |
查看binlog事件 show binlog events in 'mysql-bin.000038' from 59242888; |
也可以通過mysqlbinlog工具分析日志,查詢從庫執(zhí)行的update語句 |
Pos | Event_type ---------+--------------- 59242888 | Query 59242957 | Table_map 59243013 |Update_rows_v1 59243072 | Xid |
|
8 |
查看自增列值 Show create table |
此時(shí)master的自增列為7,而slave的自增列為6,與表內(nèi)最大值相同 |
CREATE TABLE `test_autoinc` ( `id` int(11) NOT NULL AUTO_INCREMENT, `c1` int(11) DEFAULT NULL, `c2` varchar(100) DEFAULT NULL, PRIMARY KEY (`id`), UNIQUE KEY `c1` (`c1`) ) ENGINE=InnoDBAUTO_INCREMENT=7 |
CREATE TABLE `test_autoinc` ( `id` int(11) NOT NULL AUTO_INCREMENT, `c1` int(11) DEFAULT NULL, `c2` varchar(100) DEFAULT NULL, PRIMARY KEY (`id`), UNIQUE KEY `c1` (`c1`) ) ENGINE=InnoDBAUTO_INCREMENT=6 |
經(jīng)過第8步操作后,若發(fā)生主備切換,slave提供服務(wù),此時(shí)通過自增列插入主鍵6的記錄,就會(huì)發(fā)生主鍵沖突。
如何解決這個(gè)bug?對(duì)于replace操作,生成binlog時(shí)也生成delete和insert兩個(gè)事件而非一個(gè)update事件;或者在執(zhí)行update更新主鍵的同時(shí)也更新自增列值。當(dāng)然了,這個(gè)只是純?cè)矸治觯唧w采用什么方法解這個(gè)問題,要根據(jù)mysql內(nèi)部的實(shí)現(xiàn),避免引入新的問題。這個(gè)bug我同事已經(jīng)提交到社區(qū),http://bugs.mysql.com/73563 ,大家可以看看。
相關(guān)文章
使用Linux的Shell腳本定時(shí)處理MySQL超時(shí)
本文提供使用Linux的Shell腳本定時(shí)處理MySQL超時(shí)Locked進(jìn)程腳本2013-11-11MySQL數(shù)據(jù)庫三種常用存儲(chǔ)引擎特性對(duì)比
MySQL中的數(shù)據(jù)用各種不同的技術(shù)存儲(chǔ)在文件(或內(nèi)存)中,這些技術(shù)中的每一種技術(shù)都使用不同的存儲(chǔ)機(jī)制,索引技巧,鎖定水平并且最終提供廣泛的不同功能和能力。在MySQL中將這些不同的技術(shù)及配套的相關(guān)功能稱為存儲(chǔ)引擎。2016-01-01服務(wù)器上的mysql實(shí)現(xiàn)讀取sql文件
這篇文章主要介紹了服務(wù)器上的mysql實(shí)現(xiàn)讀取sql文件方式,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2023-03-03MYSQL無法啟動(dòng)提示: Default storage engine (InnoDB) is not availabl
自己用的MYSQL都是用MYISAM數(shù)據(jù)庫,還沒涉及到需要INNODB,因此打算直接不加載INNODB引擎。2011-05-05Mysql查詢很慢卡在sending data的原因及解決思路講解
今天小編就為大家分享一篇關(guān)于Mysql查詢很慢卡在sending data的原因及解決思路講解,小編覺得內(nèi)容挺不錯(cuò)的,現(xiàn)在分享給大家,具有很好的參考價(jià)值,需要的朋友一起跟隨小編來看看吧2019-04-04