詳解Java分布式事務(wù)的 6 種解決方案
介紹
在分布式系統(tǒng)、微服務(wù)架構(gòu)大行其道的今天,服務(wù)間互相調(diào)用出現(xiàn)失敗已經(jīng)成為常態(tài)。如何處理異常,如何保證數(shù)據(jù)一致性,成為微服務(wù)設(shè)計(jì)過程中,繞不開的一個(gè)難題。 在不同的業(yè)務(wù)場景下,解決方案會(huì)有所差異,常見的方式有:
- 阻塞式重試;
- 2PC、3PC 傳統(tǒng)事務(wù);
- 使用隊(duì)列,后臺(tái)異步處理;
- TCC 補(bǔ)償事務(wù);
- 本地消息表(異步確保);
- MQ 事務(wù)。
本文側(cè)重于其他幾項(xiàng),關(guān)于 2PC、3PC 傳統(tǒng)事務(wù),網(wǎng)上資料已經(jīng)非常多了,這里不多做重復(fù)。
阻塞式重試
在微服務(wù)架構(gòu)中,阻塞式重試是比較常見的一種方式。偽代碼示例:
m := db.Insert(sql) err := request(B-Service,m) func request(url string,body interface{}){ for i:=0; i<3; i ++ { result, err = request.POST(url,body) if err == nil { break }else { log.Print() } } }
如上,當(dāng)請(qǐng)求 B 服務(wù)的 API 失敗后,發(fā)起最多三次重試。如果三次還是失敗,就打印日志,繼續(xù)執(zhí)行下或向上層拋出錯(cuò)誤。這種方式會(huì)帶來以下問題
- 調(diào)用 B 服務(wù)成功,但由于網(wǎng)絡(luò)超時(shí)原因,當(dāng)前服務(wù)認(rèn)為其失敗了,繼續(xù)重試,這樣 B 服務(wù)會(huì)產(chǎn)生 2 條一樣的數(shù)據(jù)。
- 調(diào)用 B 服務(wù)失敗,由于 B 服務(wù)不可用,重試 3 次依然失敗,當(dāng)前服務(wù)在前面代碼中插入到 DB 的一條記錄,就變成了臟數(shù)據(jù)。
- 重試會(huì)增加上游對(duì)本次調(diào)用的延遲,如果下游負(fù)載較大,重試會(huì)放大下游服務(wù)的壓力。
第一個(gè)問題:通過讓 B 服務(wù)的 API 支持冪等性來解決。
第二個(gè)問題:可以通過后臺(tái)定時(shí)腳步去修正數(shù)據(jù),但這并不是一個(gè)很好的辦法。
第三個(gè)問題:這是通過阻塞式重試提高一致性、可用性,必不可少的犧牲。
阻塞式重試適用于業(yè)務(wù)對(duì)一致性要求不敏感的場景下。如果對(duì)數(shù)據(jù)一致性有要求的話,就必須要引入額外的機(jī)制來解決。
異步隊(duì)列
在解決方案演化的過程中,引入隊(duì)列是個(gè)比較常見也較好的方式。如下示例:
m := db.Insert(sql) err := mq.Publish("B-Service-topic",m)
在當(dāng)前服務(wù)將數(shù)據(jù)寫入 DB 后,推送一條消息給 MQ,由獨(dú)立的服務(wù)去消費(fèi) MQ 處理業(yè)務(wù)邏輯。和阻塞式重試相比,雖然 MQ 在穩(wěn)定性上遠(yuǎn)高于普通的業(yè)務(wù)服務(wù),但在推送消息到 MQ 中的調(diào)用,還是會(huì)有失敗的可能性,比如網(wǎng)絡(luò)問題、當(dāng)前服務(wù)宕機(jī)等。這樣還是會(huì)遇到阻塞式重試相同的問題,即 DB 寫入成功了,但推送失敗了。
理論上來講,分布式系統(tǒng)下,涉及多個(gè)服務(wù)調(diào)用的代碼都存在這樣的情況,在長期運(yùn)行中,調(diào)用失敗的情況一定會(huì)出現(xiàn)。這也是分布式系統(tǒng)設(shè)計(jì)的難點(diǎn)之一。
TCC 補(bǔ)償事務(wù)
在對(duì)事務(wù)有要求,且不方便解耦的情況下,TCC 補(bǔ)償式事務(wù)是個(gè)較好的選擇。
TCC 把調(diào)用每個(gè)服務(wù)都分成 2 個(gè)階段、 3 個(gè)操作:
- 階段一、Try 操作:對(duì)業(yè)務(wù)資源做檢測、資源預(yù)留,比如對(duì)庫存的檢查、預(yù)扣。
- 階段二、Confirm 操作:提交確認(rèn) Try 操作的資源預(yù)留。比如把庫存預(yù)扣更新為扣除。
- 階段二、Cancel 操作:Try 操作失敗后,釋放其預(yù)扣的資源。比如把庫存預(yù)扣的加回去。
TCC 要求每個(gè)服務(wù)都實(shí)現(xiàn)上面 3 個(gè)操作的 API,服務(wù)接入 TCC 事務(wù)前一次調(diào)用就完成的操作,現(xiàn)在需要分 2 階段完成、三次操作來完成。
比如一個(gè)商城應(yīng)用需要調(diào)用 A 庫存服務(wù)、B 金額服務(wù)、C 積分服務(wù),如下偽代碼:
m := db.Insert(sql) aResult, aErr := A.Try(m) bResult, bErr := B.Try(m) cResult, cErr := C.Try(m) if cErr != nil { A.Cancel() B.Cancel() C.Cancel() } else { A.Confirm() B.Confirm() C.Confirm() }
代碼中分別調(diào)用 A、B、C 服務(wù) API 檢查并保留資源,都返回成功了再提交確認(rèn)(Confirm)操作;如果 C 服務(wù) Try 操作失敗后,則分別調(diào)用 A、B、C 的 Cancel API 釋放其保留的資源。
TCC 在業(yè)務(wù)上解決了分布式系統(tǒng)下,跨多個(gè)服務(wù)、跨多個(gè)數(shù)據(jù)庫的數(shù)據(jù)一致性問題。但 TCC 方式依然存在一些問題,實(shí)際使用中需要注意,包括上面章節(jié)提到的調(diào)用失敗的情況。
空釋放
上面代碼中如果 C.Try() 是真正調(diào)用失敗,那下面多余的 C.Cancel() 調(diào)用會(huì)出現(xiàn)釋放并沒有鎖定資源的行為。這是因?yàn)楫?dāng)前服務(wù)無法判斷調(diào)用失敗是不是真的鎖定 C 資源了。如果不調(diào)用,實(shí)際上成功了,但由于網(wǎng)絡(luò)原因返回失敗了,這會(huì)導(dǎo)致 C 的資源被鎖定,一直得不到釋放。
空釋放在生產(chǎn)環(huán)境經(jīng)常出現(xiàn),服務(wù)在實(shí)現(xiàn) TCC 事務(wù) API 時(shí),應(yīng)支持空釋放的執(zhí)行。
時(shí)序
上面代碼中如果 C.Try() 失敗,接著調(diào)用 C.Cancel() 操作。因?yàn)榫W(wǎng)絡(luò)原因,有可能會(huì)出現(xiàn) C.Cancel() 請(qǐng)求會(huì)先到 C 服務(wù),C.Try() 請(qǐng)求后到,這會(huì)導(dǎo)致空釋放問題,同時(shí)引起 C 的資源被鎖定,一直得不到釋放。
所以 C 服務(wù)應(yīng)拒絕釋放資源之后的 Try() 操作。具體實(shí)現(xiàn)上,可以用唯一事務(wù)ID來區(qū)分第一次 Try() 還是釋放后的 Try()。
調(diào)用失敗
Cancel 、Confirm 在調(diào)用過程中,還是會(huì)存在失敗的情況,比如常見的網(wǎng)絡(luò)原因。
Cancel() 或 Confirm() 操作失敗都會(huì)導(dǎo)致資源被鎖定,一直得不到釋放。這種情況常見解決方案有:
阻塞式重試。但有同樣的問題,比如宕機(jī)、一直失敗的情況。寫入日志、隊(duì)列,然后有單獨(dú)的異步服務(wù)自動(dòng)或人工介入處理。但一樣會(huì)有問題,寫日志或隊(duì)列時(shí),會(huì)存在失敗的情況。
理論上來講非原子性、事務(wù)性的二段代碼,都會(huì)存在中間態(tài),有中間態(tài)就會(huì)有失敗的可能性。
本地消息表
本地消息表最初是 ebay 提出的,它讓本地消息表與業(yè)務(wù)數(shù)據(jù)表處于同一個(gè)數(shù)據(jù)庫中,這樣就能利用本地事務(wù)來滿足事務(wù)特性。
具體做法是在本地事務(wù)中插入業(yè)務(wù)數(shù)據(jù)時(shí),也插入一條消息數(shù)據(jù)。然后在做后續(xù)操作,如果其他操作成功,則刪除該消息;如果失敗則不刪除,異步監(jiān)聽這個(gè)消息,不斷重試。
本地消息表是一個(gè)很好的思路,可以有多種使用方式:
配合MQ
示例偽代碼:
messageTx := tc.NewTransaction("order") messageTxSql := tx.TryPlan("content") m,err := db.InsertTx(sql,messageTxSql) if err!=nil { return err } aErr := mq.Publish("B-Service-topic",m) if aErr!=nil { // 推送到 MQ 失敗 messageTx.Confirm() // 更新消息的狀態(tài)為 confirm }else { messageTx.Cancel() // 刪除消息 } // 異步處理 confirm 的消息,繼續(xù)推送 func OnMessage(task *Task){ err := mq.Publish("B-Service-topic", task.Value()) if err==nil { messageTx.Cancel() } }
上面代碼中其 messageTxSql 是插入本地消息表的一段 SQL :
insert into `tcc_async_task` (`uid`,`name`,`value`,`status`) values ('?','?','?','?')
它和業(yè)務(wù) SQL 在同一個(gè)事務(wù)中去執(zhí)行,要么成功,要么失敗。
成功則推送到隊(duì)列,推送成功,則調(diào)用 messageTx.Cancel() 刪除本地消息;推送失敗則標(biāo)記消息為 confirm
。本地消息表中 status
有 2 種狀態(tài) try
、confirm
, 無論哪種狀態(tài)在 OnMessage
都可以監(jiān)聽到,從而發(fā)起重試。
本地事務(wù)保障消息和業(yè)務(wù)一定會(huì)寫入數(shù)據(jù)庫,此后的執(zhí)行無論宕機(jī)還是網(wǎng)絡(luò)推送失敗,異步監(jiān)聽都可以進(jìn)行后續(xù)處理,從而保障了消息一定會(huì)推到 MQ。
而 MQ 則保障一定會(huì)到達(dá)消費(fèi)者服務(wù)中,利用 MQ 的 QOS 策略,消費(fèi)者服務(wù)一定能處理,或繼續(xù)投遞到下一個(gè)業(yè)務(wù)隊(duì)列中,從而保障了事務(wù)的完整性。
配合服務(wù)調(diào)用
示例偽代碼:
messageTx := tc.NewTransaction("order") messageTxSql := tx.TryPlan("content") body,err := db.InsertTx(sql,messageTxSql) if err!=nil { return err } aErr := request.POST("B-Service",body) if aErr!=nil { // 調(diào)用 B-Service 失敗 messageTx.Confirm() // 更新消息的狀態(tài)為 confirm }else { messageTx.Cancel() // 刪除消息 } // 異步處理 confirm 或 try 的消息,繼續(xù)調(diào)用 B-Service func OnMessage(task *Task){ // request.POST("B-Service",body) }
這是本地消息表 + 調(diào)用其他服務(wù)的例子,沒有 MQ 的引入。這種使用異步重試,并用本地消息表保障消息的可靠性,解決了阻塞式重試帶來的問題,在日常開發(fā)中比較常見。
如果本地沒有要寫 DB 的操作,可以只寫入本地消息表,同樣在 OnMessage
中處理:
messageTx := tc.NewTransaction("order") messageTx := tx.Try("content") aErr := request.POST("B-Service",body) // ....
消息過期
配置本地消息表的 Try
和 Confirm
消息的處理器:
TCC.SetTryHandler(OnTryMessage()) TCC.SetConfirmHandler(OnConfirmMessage())
在消息處理函數(shù)中要判斷當(dāng)前消息任務(wù)是否存在過久,比如一直重試了一小時(shí),還是失敗,就考慮發(fā)郵件、短信、日志告警等方式,讓人工介入。
func OnConfirmMessage(task *tcc.Task) { if time.Now().Sub(task.CreatedAt) > time.Hour { err := task.Cancel() // 刪除該消息,停止重試。 // doSomeThing() 告警,人工介入 return } }
在 Try
處理函數(shù)中,還要單獨(dú)判斷當(dāng)前消息任務(wù)是否存在過短,因?yàn)?Try
狀態(tài)的消息,可能才剛剛創(chuàng)建,還沒被確認(rèn)提交或刪除。這會(huì)和正常業(yè)務(wù)邏輯的執(zhí)行重復(fù),意味著成功的調(diào)用,也會(huì)被重試;為盡量避免這種情況,可以檢測消息的創(chuàng)建時(shí)間是否很短,短的話可以跳過。
重試機(jī)制必然依賴下游 API 在業(yè)務(wù)邏輯上的冪等性,雖然不處理也可行,但設(shè)計(jì)上還是要盡量避免干擾正常的請(qǐng)求。
獨(dú)立消息服務(wù)
獨(dú)立消息服務(wù)是本地消息表的升級(jí)版,把本地消息表抽離成一個(gè)獨(dú)立的服務(wù)。所有操作之前先在消息服務(wù)添加個(gè)消息,后續(xù)操作成功則刪除消息,失敗則提交確認(rèn)消息。
然后用異步邏輯去監(jiān)聽消息,做對(duì)應(yīng)的處理,和本地消息表的處理邏輯基本一致。但由于向消息服務(wù)添加消息,無法和本地操作放到一個(gè)事務(wù)里,所以會(huì)存在添加消息成功,后續(xù)失敗,則此時(shí)的消息就是個(gè)無用消息。
如下示例場景:
err := request.POST("Message-Service",body) if err!=nil { return err } aErr := request.POST("B-Service",body) if aErr!=nil { return aErr }
這個(gè)無用的消息,需要消息服務(wù)去確認(rèn)這個(gè)消息是否執(zhí)行成功,沒有則刪除,有繼續(xù)執(zhí)行后續(xù)邏輯。相比本地事務(wù)表 try
和 confirm
,消息服務(wù)在前面多了一種狀態(tài) prepare
。
MQ 事務(wù)
有些 MQ 的實(shí)現(xiàn)支持事務(wù),比如 RocketMQ 。MQ 的事務(wù)可以看作獨(dú)立消息服務(wù)的一種具體實(shí)現(xiàn),邏輯完全一致。
所有操作之前先在 MQ 投遞個(gè)消息,后續(xù)操作成功則 Confirm
確認(rèn)提交消息,失敗則Cancel
刪除消息。MQ 事務(wù)也會(huì)存在 prepare
狀態(tài),需要 MQ 的消費(fèi)處理邏輯來確認(rèn)業(yè)務(wù)是否成功。
總結(jié)
從分布式系統(tǒng)實(shí)踐中來看,要保障數(shù)據(jù)一致性的場景,必然要引入額外的機(jī)制處理。
TCC 的優(yōu)點(diǎn)是作用于業(yè)務(wù)服務(wù)層,不依賴某個(gè)具體數(shù)據(jù)庫、不與具體框架耦合、資源鎖的粒度比較靈活,非常適用于微服務(wù)場景下。缺點(diǎn)是每個(gè)服務(wù)都要實(shí)現(xiàn) 3 個(gè) API,對(duì)于業(yè)務(wù)侵入和改動(dòng)較大,要處理各種失敗異常。開發(fā)者很難完整處理各種情況,找個(gè)成熟的框架可以大大降低成本,比如阿里的 Fescar。
本地消息表的優(yōu)點(diǎn)是簡單、不依賴其他服務(wù)的改造、可以很好的配合服務(wù)調(diào)用和 MQ 一起使用,在大多業(yè)務(wù)場景下都比較實(shí)用。缺點(diǎn)是本地?cái)?shù)據(jù)庫多了消息表,和業(yè)務(wù)表耦合在一起。文中本地消息表方式的示例,來源于作者寫的一個(gè)庫,有興趣的同學(xué)可以參考下 https://github.com/mushroomsir/tcc
MQ 事務(wù)和獨(dú)立消息服務(wù)的優(yōu)點(diǎn)是抽離出一個(gè)公共的服務(wù)來解決事務(wù)問題,避免每個(gè)服務(wù)都有消息表和服務(wù)耦合在一起,增加服務(wù)自身的處理復(fù)雜性。缺點(diǎn)是支持事務(wù)的 MQ 很少;且每次操作前都先調(diào)用 API 添加個(gè)消息,會(huì)增加整體調(diào)用的延遲,在絕大多數(shù)正常響應(yīng)的業(yè)務(wù)場景下,是一種多余的開銷。
TCC 參考:https://www.sofastack.tech/blog/seata-tcc-theory-design-realization/
MQ 事務(wù)參考:https://www.jianshu.com/p/eb571e4065ec
到此這篇關(guān)于詳解Java分布式事務(wù)的 6 種解決方案的文章就介紹到這了,更多相關(guān)java分布式事務(wù)內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Java強(qiáng)制類型轉(zhuǎn)換原理詳解(父類轉(zhuǎn)子類、子類轉(zhuǎn)父類)
這篇文章主要給大家介紹了關(guān)于Java強(qiáng)制類型轉(zhuǎn)換原理(父類轉(zhuǎn)子類、子類轉(zhuǎn)父類)的相關(guān)資料,所謂的強(qiáng)制類型轉(zhuǎn)換,其實(shí)是自動(dòng)類型轉(zhuǎn)換的逆過程,在數(shù)據(jù)類型兼容的情況下,將容量大的數(shù)據(jù)類型轉(zhuǎn)換為容量小的數(shù)據(jù)類型,需要的朋友可以參考下2023-12-12SpringBoot項(xiàng)目中訪問HTML頁面的三種方法
這篇文章主要介紹了SpringBoot項(xiàng)目中訪問HTML頁面的三種方法,文中通過代碼示例和圖文結(jié)合的方式講解的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作有一定的幫助,需要的朋友可以參考下2024-07-07@Async導(dǎo)致controller?404及失效原因解決分析
這篇文章主要為大家介紹了@Async導(dǎo)致controller?404失效問題解決,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2022-07-07Spring Boot整合Spring Security簡單實(shí)現(xiàn)登入登出從零搭建教程
這篇文章主要給大家介紹了關(guān)于Spring Boot整合Spring Security簡單實(shí)現(xiàn)登入登出從零搭建的相關(guān)資料,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面來一起看看吧2018-09-09如何用Netty實(shí)現(xiàn)高效的HTTP服務(wù)器
這篇文章主要介紹了如何用Netty實(shí)現(xiàn)高效的HTTP服務(wù)器,對(duì)HTTP感興趣的同學(xué)可以參考一下2021-04-04Spring實(shí)現(xiàn)加法計(jì)算器和用戶登錄功能
在前后端分離的Web開發(fā)模式中,接口(API)扮演著至關(guān)重要的角色,它是前后端交互的橋梁,創(chuàng)建加法計(jì)算器和用戶登錄功能時(shí),介紹了接口測試和問題解決的一般流程,如使用Postman測試接口、查看日志、處理緩存問題等,確保開發(fā)過程中的高效協(xié)作和問題快速定位2024-10-10