Go并發(fā)調(diào)用的超時(shí)處理的方法
之前有聊過(guò) golang 的協(xié)程,我發(fā)覺(jué)似乎還很理論,特別是在并發(fā)安全上,所以特結(jié)合網(wǎng)上的一些例子,來(lái)試驗(yàn)下go routine中 的 channel, select, context 的妙用。
場(chǎng)景-微服務(wù)調(diào)用
我們用 gin(一個(gè)web框架) 作為處理請(qǐng)求的工具,需求是這樣的:
一個(gè)請(qǐng)求 X 會(huì)去并行調(diào)用 A, B, C 三個(gè)方法,并把三個(gè)方法返回的結(jié)果加起來(lái)作為 X 請(qǐng)求的 Response。
但是我們這個(gè) Response 是有時(shí)間要求的(不能超過(guò)3秒的響應(yīng)時(shí)間),可能 A, B, C 中任意一個(gè)或兩個(gè),處理邏輯十分復(fù)雜,或者數(shù)據(jù)量超大,導(dǎo)致處理時(shí)間超出預(yù)期,那么我們就馬上切斷,并返回已經(jīng)拿到的任意個(gè)返回結(jié)果之和。
我們先來(lái)定義主函數(shù):
func main() { r := gin.New() r.GET("/calculate", calHandler) http.ListenAndServe(":8008", r) }
非常簡(jiǎn)單,普通的請(qǐng)求接受和 handler 定義。其中 calHandler 是我們用來(lái)處理請(qǐng)求的函數(shù)。
分別定義三個(gè)假的微服務(wù),其中第三個(gè)將會(huì)是我們超時(shí)的哪位~
func microService1() int { time.Sleep(1*time.Second) return 1 } func microService2() int { time.Sleep(2*time.Second) return 2 } func microService3() int { time.Sleep(10*time.Second) return 3 }
接下來(lái),我們看看 calHandler 里到底是什么
func calHandler(c *gin.Context) { ... }
要點(diǎn)1--并發(fā)調(diào)用
直接用 go 就好了嘛~
所以一開(kāi)始我們可能就這么寫(xiě):
go microService1() go microService2() go microService3()
很簡(jiǎn)單有沒(méi)有,但是等等,說(shuō)好的返回值我怎么接呢?
為了能夠并行地接受處理結(jié)果,我們很容易想到用 channel 去接。
所以我們把調(diào)用服務(wù)改成這樣:
var resChan = make(chan int, 3) // 因?yàn)橛?個(gè)結(jié)果,所以我們創(chuàng)建一個(gè)可以容納3個(gè)值的 int channel。 go func() { resChan <- microService1() }() go func() { resChan <- microService2() }() go func() { resChan <- microService3() }()
有東西接,那也要有方法去算,所以我們加一個(gè)一直循環(huán)拿 resChan 中結(jié)果并計(jì)算的方法:
var resContainer, sum int for { resContainer = <-resChan sum += resContainer }
這樣一來(lái)我們就有一個(gè) sum 來(lái)計(jì)算每次從 resChan 中拿出的結(jié)果了。
要點(diǎn)2--超時(shí)信號(hào)
還沒(méi)結(jié)束,說(shuō)好的超時(shí)處理呢?
為了實(shí)現(xiàn)超時(shí)處理,我們需要引入一個(gè)東西,就是 context,什么是 context ?
我們這里只使用 context 的一個(gè)特性,超時(shí)通知(其實(shí)這個(gè)特性完全可以用 channel 來(lái)替代)。
可以看在定義 calHandler 的時(shí)候我們已經(jīng)將 c *gin.Context 作為參數(shù)傳了進(jìn)來(lái),那我們就不用自己在聲明了。
gin.Context 簡(jiǎn)單理解為貫穿整個(gè) gin 聲明周期的上下文容器,有點(diǎn)像是分身,亦或是量子糾纏的感覺(jué)。
有了這個(gè) gin.Context, 我們就能在一個(gè)地方對(duì) context 做出操作,而其他正在使用 context 的函數(shù)或方法,也會(huì)感受到 context 做出的變化。
ctx, _ := context.WithTimeout(c, 3*time.Second) //定義一個(gè)超時(shí)的 context
只要時(shí)間到了,我們就能用 ctx.Done() 獲取到一個(gè)超時(shí)的 channel(通知),然后其他用到這個(gè) ctx 的地方也會(huì)停掉,并釋放 ctx。
一般來(lái)說(shuō),ctx.Done() 是結(jié)合 select 使用的。
所以我們又需要一個(gè)循環(huán)來(lái)監(jiān)聽(tīng) ctx.Done()
for { select { case <- ctx.Done(): // 返回結(jié)果 }
現(xiàn)在我們有兩個(gè) for 了,是不是能夠合并下?
for { select { case resContainer = <-resChan: sum += resContainer fmt.Println("add", resContainer) case <- ctx.Done(): fmt.Println("result:", sum) return } }
誒嘿,看上去不錯(cuò)。
不過(guò)我們?cè)趺丛谡M瓿晌⒎?wù)調(diào)用的時(shí)候輸出結(jié)果呢?
看來(lái)我們還需要一個(gè) flag
var count int for { select { case resContainer = <-resChan: sum += resContainer count ++ fmt.Println("add", resContainer) if count > 2 { fmt.Println("result:", sum) return } case <- ctx.Done(): fmt.Println("timeout result:", sum) return } }
我們加入一個(gè)計(jì)數(shù)器,因?yàn)槲覀冎皇钦{(diào)用3次微服務(wù),所以當(dāng) count 大于2的時(shí)候,我們就應(yīng)該結(jié)束并輸出結(jié)果了。
要點(diǎn)3--并發(fā)中的等待
上面的計(jì)時(shí)器是一種偷懶的方法,因?yàn)槲覀冎懒苏{(diào)用微服務(wù)的次數(shù),如果我們并不知道,或者之后還要添加呢?
手動(dòng)每次改 count 的判斷閾值會(huì)不會(huì)太沙雕了?這時(shí)候我們就要加入 sync 包了。
我們將會(huì)使用的 sync 的一個(gè)特性是 WaitGroup。它的作用是等待一組協(xié)程運(yùn)行完畢后,執(zhí)行接下去的步驟。
我們來(lái)改下之前微服務(wù)調(diào)用的代碼塊:
var success = make(chan int, 1) // 成功的通道標(biāo)識(shí) wg := sync.WaitGroup{} // 創(chuàng)建一個(gè) waitGroup 組 wg.Add(3) // 我們往組里加3個(gè)標(biāo)識(shí),因?yàn)槲覀円\(yùn)行3個(gè)任務(wù) go func() { resChan <- microService1() wg.Done() // 完成一個(gè),Done()一個(gè) }() go func() { resChan <- microService2() wg.Done() }() go func() { resChan <- microService3() wg.Done() }() wg.Wait() // 直到我們前面三個(gè)標(biāo)識(shí)都被 Done 了,否則程序一直會(huì)阻塞在這里 success <- 1 // 我們發(fā)送一個(gè)成功信號(hào)到通道中
既然我們有了 success 這個(gè)信號(hào),那么再把它加入到監(jiān)控 for 循環(huán)中,并做些修改,刪除原來(lái) count 判斷的部分。
go func() { for { select { case resContainer = <-resChan: sum += resContainer fmt.Println("add", resContainer) case <- success: fmt.Println("result:", sum) return case <- ctx.Done(): fmt.Println("result:", sum) return } } }()
三個(gè) case,分工明確,一個(gè)用來(lái)拿服務(wù)輸出的結(jié)果并計(jì)算,一個(gè)用來(lái)做最終的完成輸出,一個(gè)是超時(shí)輸出。
同時(shí)我們將這個(gè)循環(huán)監(jiān)聽(tīng),也作為協(xié)程運(yùn)行。
至此,所有的主要代碼都完成了。下面是完全版
package main import ( "context" "fmt" "net/http" "sync" "time" "github.com/gin-gonic/gin" ) // 一個(gè)請(qǐng)求會(huì)觸發(fā)調(diào)用三個(gè)服務(wù),每個(gè)服務(wù)輸出一個(gè) int, // 請(qǐng)求要求結(jié)果為三個(gè)服務(wù)輸出 int 之和 // 請(qǐng)求返回時(shí)間不超過(guò)3秒,大于3秒只輸出已經(jīng)獲得的 int 之和 func calHandler(c *gin.Context) { var resContainer, sum int var success, resChan = make(chan int), make(chan int, 3) ctx, _ := context.WithTimeout(c, 3*time.Second) go func() { for { select { case resContainer = <-resChan: sum += resContainer fmt.Println("add", resContainer) case <- success: fmt.Println("result:", sum) return case <- ctx.Done(): fmt.Println("result:", sum) return } } }() wg := sync.WaitGroup{} wg.Add(3) go func() { resChan <- microService1() wg.Done() }() go func() { resChan <- microService2() wg.Done() }() go func() { resChan <- microService3() wg.Done() }() wg.Wait() success <- 1 return } func main() { r := gin.New() r.GET("/calculate", calHandler) http.ListenAndServe(":8008", r) } func microService1() int { time.Sleep(1*time.Second) return 1 } func microService2() int { time.Sleep(2*time.Second) return 2 } func microService3() int { time.Sleep(10*time.Second) return 3 }
上面的程序只是簡(jiǎn)單描述了一個(gè)調(diào)用其他微服務(wù)超時(shí)的處理場(chǎng)景。
實(shí)際過(guò)程中還需要加很多很多調(diào)料,才能保證接口的對(duì)外完整性。
以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
Go實(shí)現(xiàn)整合Logrus實(shí)現(xiàn)日志打印
這篇文章主要介紹了Go實(shí)現(xiàn)整合Logrus實(shí)現(xiàn)日志打印,文章圍繞主題展開(kāi)詳細(xì)的內(nèi)容介紹,具有一定的參考價(jià)值,需要的小伙伴可以參考一下2022-07-07Go語(yǔ)言使用select{}阻塞main函數(shù)介紹
這篇文章主要介紹了Go語(yǔ)言使用select{}阻塞main函數(shù)介紹,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2021-04-04golang 如何通過(guò)反射創(chuàng)建新對(duì)象
這篇文章主要介紹了golang 通過(guò)反射創(chuàng)建新對(duì)象的操作,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2021-04-04Go語(yǔ)言Gin框架中使用MySQL數(shù)據(jù)庫(kù)的三種方式
本文主要介紹了Go語(yǔ)言Gin框架中使用MySQL數(shù)據(jù)庫(kù)的三種方式,通過(guò)三種方式實(shí)現(xiàn)增刪改查的操作,具有一定的參考價(jià)值,感興趣的可以了解一下2023-11-11Go語(yǔ)言中的網(wǎng)絡(luò)編程實(shí)現(xiàn)方式
Go語(yǔ)言作為一種簡(jiǎn)潔而強(qiáng)大的編程語(yǔ)言,在網(wǎng)絡(luò)編程方面表現(xiàn)尤為出色,其內(nèi)置的net包提供了豐富的網(wǎng)絡(luò)I/O基礎(chǔ)設(shè)施,支持TCP、UDP協(xié)議,以及DNS解析等功能,本文將結(jié)合實(shí)際案例,詳細(xì)介紹Go語(yǔ)言在網(wǎng)絡(luò)編程中的詳細(xì)用法,需要的朋友可以參考下2024-10-10Go開(kāi)發(fā)go-optioner工具實(shí)現(xiàn)輕松生成函數(shù)選項(xiàng)模式代碼
go-optioner?是一個(gè)在?Go?代碼中生成函數(shù)選項(xiàng)模式代碼的工具,可以根據(jù)給定的結(jié)構(gòu)定義自動(dòng)生成相應(yīng)的選項(xiàng)代碼,下面就來(lái)聊聊go-optioner是如何使用的吧2023-07-07Golang使用原生http實(shí)現(xiàn)中間件的代碼詳解
中間件(middleware):常被用來(lái)做認(rèn)證校驗(yàn)、審計(jì)等,家常用的Iris、Gin等web框架,都包含了中間件邏輯,但有時(shí)我們引入該框架顯得較為繁重,本文將介紹通過(guò)golang原生http來(lái)實(shí)現(xiàn)中間件操作,需要的朋友可以參考下2024-05-05