欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

淺析MySQL中主從延遲問題的原因與解決方法

 更新時間:2024年02月28日 09:44:35   作者:DaveCui  
這篇文章主要帶大家從一個主從延遲問題開始回顧主從復制原理,并思考主從延遲造成的原因和解決方案,文中的示例代碼講解詳細,感興趣的可以了解下

從一個主從延遲問題開始回顧主從復制原理,并思考主從延遲造成的原因和解決方案。當然,作為底層開發(fā),最后還是只能快準狠的通過一個簡單粗暴的等待方案進行應對。

事情的起因

事情要從我寫下這樣的代碼開始

// 獲取當前數(shù)據庫中未使用的數(shù)據轉為正在使用的狀態(tài)
int updateUsing = fateDataDao.update(FateDataStatusEnum.UNUSED.getCode(),FateDataStatusEnum.USING.getCode());
log.info("update UNUSED to USING:{}",updateUsing);
// 獲取正在使用狀態(tài)的數(shù)據
List<FateData> fateDataList = fateService.queryStatus(FateDataStatusEnum.USING.getCode());
log.info("queryStatus USING:{}",fateDataList.size());

這部分邏輯清晰簡單明了,把UNUSED狀態(tài)的數(shù)據更新為USING狀態(tài),然后查詢取出USING狀態(tài)的數(shù)據。

按照一個正常的邏輯來說updateUsing的數(shù)量和fateDataList.size()的數(shù)量應該一樣,但是,他不正常。

我在測試環(huán)境小數(shù)據量測試時,這段代碼邏輯完全無誤。但是上了灰度環(huán)境進行大量數(shù)據的測試就出現(xiàn)了這樣的問題。

此時,我?guī)е苫蠛筒唤?,將目光投向百度?/p>

首先我認為問題可能好似,MYSQL更新返回的是查詢到的行數(shù),而不是受影響的行數(shù)

但是負責MYSQL的同事和我說MYSQL已經配置了返回受影響行數(shù),并告訴我應該是主從延遲問題,沒辦法解決,看看業(yè)務能不能改下吧。

這時,我才反應過來當時粗略了解的主從延遲問題,我已經忘的差不多了。

什么是主從復制

要了解主從延遲,首先就要知道什么是主從復制。

MySQL的主從復制(Master-Slave Replication)是一種數(shù)據庫復制技術,用于解決數(shù)據備份、讀寫分離、負載均衡以及故障恢復等問題。

主從復制的基本原理是將一個數(shù)據庫實例(主服務器)的數(shù)據復制到另一個或多個數(shù)據庫實例(從服務器),使得從服務器的數(shù)據與主服務器保持同步。

主從復制的基本工作流程

  • 從服務器連接到主服務器,生成兩個線程,一個I/O線程,一個SQL線程
  • 主服務器記錄所有的數(shù)據更改(INSERT、UPDATE、DELETE),同時會生成一個 log dump 線程,用來給從庫 i/o線程傳binlog。
  • 主服務器會生成一個 log dump 線程將binlog寫到relay log(中繼日志) 文件中
  • 從服務器的SQL 線程會讀取relay log文件中的日志,并解析成具體操作,來實現(xiàn)主從的操作一致,而最終數(shù)據一致;

流程圖如下:

主從復制解決的問題

要用到主從復制的原因主要是為了高可用、高并發(fā)

  • 數(shù)據備份和恢復: 從服務器可以用作主服務器的備份,當主服務器發(fā)生故障時,可以快速切換到從服務器進行恢復。
  • 讀寫分離: 主服務器負責寫操作,而從服務器可以用于處理讀操作,從而分擔主服務器的負載,提高系統(tǒng)性能。
  • 負載均衡: 多個從服務器可以平均分擔讀請求,實現(xiàn)負載均衡,提高系統(tǒng)的可伸縮性。
  • 高可用性: 當主服務器故障時,可以快速切換到一個從服務器,保證系統(tǒng)的高可用性。

主從復制帶來的問題

主從復制也會造成一些衍生出的問題:

  • 數(shù)據一致性: 主從復制是異步的,存在一定的延遲,因此在進行讀寫分離時,需要注意可能出現(xiàn)的數(shù)據一致性問題。
  • 寫操作集中: 所有寫操作都集中在主服務器上,可能導致主服務器的負載較高。
  • 配置和維護: 操作復雜,需要正確配置主從服務器,以及定期進行監(jiān)控和維護,確保系統(tǒng)正常運行。

本次遇到的bug,主要就是數(shù)據一致性方面的問題了。

主從延遲的原因

主庫使用單線程順序寫入binlog,效率很高。然而從庫的SQL Thread線程需要對主庫的日志進行隨機IO來重新執(zhí)行DML和DDL,效率較低,難以跟上主庫日志寫入速度,因此產生了主從延遲。

另外,從庫SQL Thread也是單線程,當主庫并發(fā)較高時,產生大量DML,超過了從庫單線程能處理的速度,或者從庫中有大查詢語句產生鎖等待,也會導致從庫執(zhí)行延遲,無法跟上主庫的進度。

主從延遲的解決方案

從主從延遲的原因,我們定位出主要是主庫的高并發(fā)和從庫的SQL Thread效率低造成了這樣的問題。

所以,在不增加機器的情況下的解決方案就是控制主庫的并發(fā)或者提升從庫的SQL Thread處理效率,例如MySQL 5.6 版本后,提供的一種多線程的方式。

簡單粗暴的解決方案

當然,對于我們公司的底層開發(fā)來說,這種層次的設計需要更高層面的人來推動,而且也需要更長的時間才能處理。

所以這里貼出我自己的解決方案。Thread.sleep時間請自行控制。

// 獲取當前數(shù)據庫中未使用的數(shù)據轉為正在使用的狀態(tài)
int updateUsing = fateDataDao.update(FateDataStatusEnum.UNUSED.getCode(),FateDataStatusEnum.USING.getCode());
LOGGER.info("update UNUSED to USING:{}",updateUsing);
// 獲取正在使用狀態(tài)的數(shù)據
List<FateData> fateDataList = fateService.queryStatus(FateDataStatusEnum.USING.getCode());
LOGGER.info("queryStatus USING:{}",fateDataList.size());
// 如果數(shù)據相等,直接略過。
if(updateUsing != fateDataList.size()){
    // updateUsing為0,但fateDataList不為空的情況。任務失敗,未更新
    if (updateUsing == 0){
        Cat.logEvent("updateTmpData","jobFailed:"+"updateUsing:"+updateUsing+"--fateDataList:"+fateDataList.size());
        transaction.setStatus(Transaction.SUCCESS);
        return response;
    }
    // 數(shù)據數(shù)目不相等,等待三秒相等再繼續(xù)
    boolean equalFlag = false;
    while(!equalFlag){
        // 等待主從延遲
        Thread.sleep(3000);
        fateDataList = fateService.queryStatus(FateDataStatusEnum.USING.getCode());
        Cat.logEvent("updateTmpData","equalFailed:"+"updateUsing:"+updateUsing+"--fateDataList:"+fateDataList.size());
        LOGGER.info("queryStatus USING:{}",fateDataList.size());
        equalFlag = true;
    }

    // 數(shù)據數(shù)目不相等,則需要數(shù)據不為空再繼續(xù)
    while(fateDataList.isEmpty()){
        // 等待主從延遲
        Thread.sleep(1000);
        fateDataList = fateService.queryStatus(FateDataStatusEnum.USING.getCode());
        Cat.logEvent("updateTmpData","queryFailed:"+"updateUsing:"+updateUsing+"--fateDataList:"+fateDataList.size());
        LOGGER.info("queryStatus USING:{}",fateDataList.size());
    }
}

知識補充

Mybatis使用<update>標簽怎么返回影響行數(shù)

Mybatis使用<update>標簽怎么返回影響行數(shù)

在MyBatis Plus中,使用<update>標簽執(zhí)行更新操作時,默認情況下是不返回影響行數(shù)的。但是可以通過配置來實現(xiàn)返回影響行數(shù)的功能。
在MyBatis Plus的配置文件(通常是mybatis-plus-config.xml)中,可以添加如下配置項:

<configuration>
  <settings>
    <setting name="returnAffectedCount" value="true"/>
  </settings>
</configuration>

通過設置returnAffectedCount為true,可以讓MyBatis Plus在執(zhí)行更新操作后返回影響行數(shù)。

另外,如果只需要獲取更新操作的影響行數(shù)而不需要返回具體的更新結果,可以使用MyBatis Plus提供的UpdateWrapper或者LambdaUpdateWrapper來進行更新操作,并通過調用相應的方法獲取影響行數(shù)。例如:

UpdateWrapper<User> updateWrapper = new UpdateWrapper<>();
updateWrapper.eq("age", 25);
int affectedCount = userMapper.update(null, updateWrapper);

在上述示例中,使用了UpdateWrapper.eq()方法指定了更新條件,并通過調用userMapper.update()方法執(zhí)行更新操作,并返回影響行數(shù)。

總結起來,在MyBatis Plus中使用<update>標簽執(zhí)行更新操作時,默認情況下是不返回影響行數(shù)的。但可以通過配置來實現(xiàn)返回影響行數(shù)的功能,或者使用UpdateWrapper或者LambdaUpdateWrapper來獲取影響行數(shù)。

到此這篇關于淺析MySQL中主從延遲問題的原因與解決方法的文章就介紹到這了,更多相關MySQL主從延遲內容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!

相關文章

最新評論