Go并發(fā)調(diào)用的超時(shí)處理的方法
之前有聊過(guò) golang 的協(xié)程,我發(fā)覺(jué)似乎還很理論,特別是在并發(fā)安全上,所以特結(jié)合網(wǎng)上的一些例子,來(lái)試驗(yàn)下go routine中 的 channel, select, context 的妙用。
場(chǎng)景-微服務(wù)調(diào)用
我們用 gin(一個(gè)web框架) 作為處理請(qǐng)求的工具,需求是這樣的:
一個(gè)請(qǐng)求 X 會(huì)去并行調(diào)用 A, B, C 三個(gè)方法,并把三個(gè)方法返回的結(jié)果加起來(lái)作為 X 請(qǐng)求的 Response。
但是我們這個(gè) Response 是有時(shí)間要求的(不能超過(guò)3秒的響應(yīng)時(shí)間),可能 A, B, C 中任意一個(gè)或兩個(gè),處理邏輯十分復(fù)雜,或者數(shù)據(jù)量超大,導(dǎo)致處理時(shí)間超出預(yù)期,那么我們就馬上切斷,并返回已經(jīng)拿到的任意個(gè)返回結(jié)果之和。
我們先來(lái)定義主函數(shù):
func main() { r := gin.New() r.GET("/calculate", calHandler) http.ListenAndServe(":8008", r) }
非常簡(jiǎn)單,普通的請(qǐng)求接受和 handler 定義。其中 calHandler 是我們用來(lái)處理請(qǐng)求的函數(shù)。
分別定義三個(gè)假的微服務(wù),其中第三個(gè)將會(huì)是我們超時(shí)的哪位~
func microService1() int { time.Sleep(1*time.Second) return 1 } func microService2() int { time.Sleep(2*time.Second) return 2 } func microService3() int { time.Sleep(10*time.Second) return 3 }
接下來(lái),我們看看 calHandler 里到底是什么
func calHandler(c *gin.Context) { ... }
要點(diǎn)1--并發(fā)調(diào)用
直接用 go 就好了嘛~
所以一開(kāi)始我們可能就這么寫(xiě):
go microService1() go microService2() go microService3()
很簡(jiǎn)單有沒(méi)有,但是等等,說(shuō)好的返回值我怎么接呢?
為了能夠并行地接受處理結(jié)果,我們很容易想到用 channel 去接。
所以我們把調(diào)用服務(wù)改成這樣:
var resChan = make(chan int, 3) // 因?yàn)橛?個(gè)結(jié)果,所以我們創(chuàng)建一個(gè)可以容納3個(gè)值的 int channel。 go func() { resChan <- microService1() }() go func() { resChan <- microService2() }() go func() { resChan <- microService3() }()
有東西接,那也要有方法去算,所以我們加一個(gè)一直循環(huán)拿 resChan 中結(jié)果并計(jì)算的方法:
var resContainer, sum int for { resContainer = <-resChan sum += resContainer }
這樣一來(lái)我們就有一個(gè) sum 來(lái)計(jì)算每次從 resChan 中拿出的結(jié)果了。
要點(diǎn)2--超時(shí)信號(hào)
還沒(méi)結(jié)束,說(shuō)好的超時(shí)處理呢?
為了實(shí)現(xiàn)超時(shí)處理,我們需要引入一個(gè)東西,就是 context,什么是 context ?
我們這里只使用 context 的一個(gè)特性,超時(shí)通知(其實(shí)這個(gè)特性完全可以用 channel 來(lái)替代)。
可以看在定義 calHandler 的時(shí)候我們已經(jīng)將 c *gin.Context 作為參數(shù)傳了進(jìn)來(lái),那我們就不用自己在聲明了。
gin.Context 簡(jiǎn)單理解為貫穿整個(gè) gin 聲明周期的上下文容器,有點(diǎn)像是分身,亦或是量子糾纏的感覺(jué)。
有了這個(gè) gin.Context, 我們就能在一個(gè)地方對(duì) context 做出操作,而其他正在使用 context 的函數(shù)或方法,也會(huì)感受到 context 做出的變化。
ctx, _ := context.WithTimeout(c, 3*time.Second) //定義一個(gè)超時(shí)的 context
只要時(shí)間到了,我們就能用 ctx.Done() 獲取到一個(gè)超時(shí)的 channel(通知),然后其他用到這個(gè) ctx 的地方也會(huì)停掉,并釋放 ctx。
一般來(lái)說(shuō),ctx.Done() 是結(jié)合 select 使用的。
所以我們又需要一個(gè)循環(huán)來(lái)監(jiān)聽(tīng) ctx.Done()
for { select { case <- ctx.Done(): // 返回結(jié)果 }
現(xiàn)在我們有兩個(gè) for 了,是不是能夠合并下?
for { select { case resContainer = <-resChan: sum += resContainer fmt.Println("add", resContainer) case <- ctx.Done(): fmt.Println("result:", sum) return } }
誒嘿,看上去不錯(cuò)。
不過(guò)我們?cè)趺丛谡M瓿晌⒎?wù)調(diào)用的時(shí)候輸出結(jié)果呢?
看來(lái)我們還需要一個(gè) flag
var count int for { select { case resContainer = <-resChan: sum += resContainer count ++ fmt.Println("add", resContainer) if count > 2 { fmt.Println("result:", sum) return } case <- ctx.Done(): fmt.Println("timeout result:", sum) return } }
我們加入一個(gè)計(jì)數(shù)器,因?yàn)槲覀冎皇钦{(diào)用3次微服務(wù),所以當(dāng) count 大于2的時(shí)候,我們就應(yīng)該結(jié)束并輸出結(jié)果了。
要點(diǎn)3--并發(fā)中的等待
上面的計(jì)時(shí)器是一種偷懶的方法,因?yàn)槲覀冎懒苏{(diào)用微服務(wù)的次數(shù),如果我們并不知道,或者之后還要添加呢?
手動(dòng)每次改 count 的判斷閾值會(huì)不會(huì)太沙雕了?這時(shí)候我們就要加入 sync 包了。
我們將會(huì)使用的 sync 的一個(gè)特性是 WaitGroup。它的作用是等待一組協(xié)程運(yùn)行完畢后,執(zhí)行接下去的步驟。
我們來(lái)改下之前微服務(wù)調(diào)用的代碼塊:
var success = make(chan int, 1) // 成功的通道標(biāo)識(shí) wg := sync.WaitGroup{} // 創(chuàng)建一個(gè) waitGroup 組 wg.Add(3) // 我們往組里加3個(gè)標(biāo)識(shí),因?yàn)槲覀円\(yùn)行3個(gè)任務(wù) go func() { resChan <- microService1() wg.Done() // 完成一個(gè),Done()一個(gè) }() go func() { resChan <- microService2() wg.Done() }() go func() { resChan <- microService3() wg.Done() }() wg.Wait() // 直到我們前面三個(gè)標(biāo)識(shí)都被 Done 了,否則程序一直會(huì)阻塞在這里 success <- 1 // 我們發(fā)送一個(gè)成功信號(hào)到通道中
既然我們有了 success 這個(gè)信號(hào),那么再把它加入到監(jiān)控 for 循環(huán)中,并做些修改,刪除原來(lái) count 判斷的部分。
go func() { for { select { case resContainer = <-resChan: sum += resContainer fmt.Println("add", resContainer) case <- success: fmt.Println("result:", sum) return case <- ctx.Done(): fmt.Println("result:", sum) return } } }()
三個(gè) case,分工明確,一個(gè)用來(lái)拿服務(wù)輸出的結(jié)果并計(jì)算,一個(gè)用來(lái)做最終的完成輸出,一個(gè)是超時(shí)輸出。
同時(shí)我們將這個(gè)循環(huán)監(jiān)聽(tīng),也作為協(xié)程運(yùn)行。
至此,所有的主要代碼都完成了。下面是完全版
package main import ( "context" "fmt" "net/http" "sync" "time" "github.com/gin-gonic/gin" ) // 一個(gè)請(qǐng)求會(huì)觸發(fā)調(diào)用三個(gè)服務(wù),每個(gè)服務(wù)輸出一個(gè) int, // 請(qǐng)求要求結(jié)果為三個(gè)服務(wù)輸出 int 之和 // 請(qǐng)求返回時(shí)間不超過(guò)3秒,大于3秒只輸出已經(jīng)獲得的 int 之和 func calHandler(c *gin.Context) { var resContainer, sum int var success, resChan = make(chan int), make(chan int, 3) ctx, _ := context.WithTimeout(c, 3*time.Second) go func() { for { select { case resContainer = <-resChan: sum += resContainer fmt.Println("add", resContainer) case <- success: fmt.Println("result:", sum) return case <- ctx.Done(): fmt.Println("result:", sum) return } } }() wg := sync.WaitGroup{} wg.Add(3) go func() { resChan <- microService1() wg.Done() }() go func() { resChan <- microService2() wg.Done() }() go func() { resChan <- microService3() wg.Done() }() wg.Wait() success <- 1 return } func main() { r := gin.New() r.GET("/calculate", calHandler) http.ListenAndServe(":8008", r) } func microService1() int { time.Sleep(1*time.Second) return 1 } func microService2() int { time.Sleep(2*time.Second) return 2 } func microService3() int { time.Sleep(10*time.Second) return 3 }
上面的程序只是簡(jiǎn)單描述了一個(gè)調(diào)用其他微服務(wù)超時(shí)的處理場(chǎng)景。
實(shí)際過(guò)程中還需要加很多很多調(diào)料,才能保證接口的對(duì)外完整性。
以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
golang封裝一個(gè)執(zhí)行命令行的函數(shù)(return?stderr/stdout/exitcode)示例代碼
在?Go?語(yǔ)言中,您可以使用?os/exec?包來(lái)執(zhí)行外部命令,不通過(guò)調(diào)用?shell,并且能夠獲得進(jìn)程的退出碼、標(biāo)準(zhǔn)輸出和標(biāo)準(zhǔn)錯(cuò)誤輸出,下面給大家分享golang封裝一個(gè)執(zhí)行命令行的函數(shù)(return?stderr/stdout/exitcode)的方法,感興趣的朋友跟隨小編一起看看吧2024-06-06淺談Golang中創(chuàng)建一個(gè)簡(jiǎn)單的服務(wù)器的方法
這篇文章主要介紹了淺談Golang中創(chuàng)建一個(gè)簡(jiǎn)單的服務(wù)器的方法,golang中的net/http包對(duì)網(wǎng)絡(luò)的支持非常好,這樣會(huì)讓我們比較容易的建立起一個(gè)相對(duì)簡(jiǎn)單的服務(wù)器,有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2018-06-06Go語(yǔ)言中使用flag包對(duì)命令行進(jìn)行參數(shù)解析的方法
這篇文章主要介紹了Go語(yǔ)言中使用flag包對(duì)命令行進(jìn)行參數(shù)解析的方法,文中舉了一個(gè)實(shí)現(xiàn)flag.Value接口來(lái)自定義flag的例子,需要的朋友可以參考下2016-04-04Go語(yǔ)言基礎(chǔ)切片的創(chuàng)建及初始化示例詳解
這篇文章主要為大家介紹了Go語(yǔ)言基礎(chǔ)切片的創(chuàng)建及初始化示例詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2021-11-11Golang實(shí)現(xiàn)獲取與解析命令行參數(shù)
這篇文章主要為大家詳細(xì)介紹了Golang如何實(shí)現(xiàn)獲取與解析命令行參數(shù),文中的示例代碼講解詳細(xì),具有一定的借鑒價(jià)值,需要的小伙伴可以參考一下2024-01-01golang快速實(shí)現(xiàn)網(wǎng)頁(yè)截圖的方法
這篇文章主要介紹了golang快速實(shí)現(xiàn)網(wǎng)頁(yè)截圖的方法,本文通過(guò)實(shí)例代碼給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2021-03-03golang使用go mod導(dǎo)入本地包和第三方包的方式
這篇文章主要介紹了golang使用go mod導(dǎo)入本地包和第三方包的方式,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2024-01-01