使用Golang實(shí)現(xiàn)加權(quán)負(fù)載均衡算法的實(shí)現(xiàn)代碼
背景描述
如下圖所示,負(fù)載均衡做為反向代理,將請(qǐng)求方的請(qǐng)求轉(zhuǎn)發(fā)至后端的服務(wù)節(jié)點(diǎn),實(shí)現(xiàn)服務(wù)的請(qǐng)求。
在nginx中可以通過(guò)upstream配置server時(shí),設(shè)置weight表示對(duì)應(yīng)server的權(quán)重。
若存在多個(gè)服務(wù)節(jié)點(diǎn)時(shí),負(fù)載均衡如何通過(guò)服務(wù)節(jié)點(diǎn)的權(quán)重進(jìn)行轉(zhuǎn)發(fā)。
如下詳細(xì)說(shuō)明權(quán)重轉(zhuǎn)發(fā)算法的實(shí)現(xiàn)。
用三個(gè)后端服務(wù)節(jié)點(diǎn)為例說(shuō)明
設(shè)置三個(gè)后端服務(wù)ServerA,ServerB和ServerC,它們的權(quán)重分布是 5,3,1
按照加權(quán)負(fù)載均衡算法,在一輪(5+3+1=9次)中ServerA占5次,ServerB占3次,ServerC占1次,從而實(shí)現(xiàn)均衡。
如下圖所示:
為了實(shí)現(xiàn)這個(gè)功能,可以給每一個(gè)后端設(shè)置對(duì)應(yīng)的權(quán)重5,3,1
變量1:后端服務(wù)的權(quán)重 Weight
變量2:均衡器累計(jì)的總的有效權(quán)重EffectiveWeight
變量3:實(shí)時(shí)統(tǒng)計(jì)后端服務(wù)的當(dāng)前權(quán)重 CurrentWeight
算法設(shè)計(jì)
第一步,向均衡器中增加后端服務(wù)標(biāo)識(shí)
- 將三個(gè)后端服務(wù)標(biāo)識(shí)和權(quán)重Weight增加到負(fù)載均衡器列表中。
- 每次增加后端服務(wù)時(shí),累計(jì)總的有效權(quán)重EffectiveWeight。
第二步,每次獲取一個(gè)后端服務(wù)標(biāo)識(shí)
- 對(duì)均衡器中的所有后端服務(wù)增加自己的權(quán)重Weight,即(5,3,1),計(jì)算ABC三個(gè)服務(wù)的當(dāng)前權(quán)重。
- 選擇當(dāng)前權(quán)重CurrentWeight最大的服務(wù),做為本次期望的后端服務(wù)。
- 將期望的后端服務(wù)的當(dāng)前權(quán)重CurrentWeight減小總的權(quán)重EffectiveWeight,供下一輪使用。
如下是一個(gè)一輪(5+3+1=9次)獲取的權(quán)重變化表:
從這個(gè)表中可以看到后端服務(wù)輪詢的順序是 A B A C A B A B A,其中A出現(xiàn)了5次,B出現(xiàn)了3次,C出現(xiàn)了1次,滿足三個(gè)服務(wù)的權(quán)重Weight設(shè)置。
完成9次獲取后,ABC三個(gè)服務(wù)的權(quán)重都?xì)w0,因此下一輪的9次獲取也是均衡的,
算法實(shí)現(xiàn)
按照如上算法說(shuō)明,使用Golang實(shí)現(xiàn)這個(gè)算法如下
package weightroundrobin import ( "fmt" "strings" ) // 每一個(gè)后端服務(wù)定義 type BackendServer struct { // 實(shí)例權(quán)重 Weight int // 當(dāng)前的權(quán)重,初始為Weight currentWeight int // 后端服務(wù)名稱 ServerName string } // 通過(guò)權(quán)重實(shí)現(xiàn)調(diào)用輪詢的定義 type WeightServerRoundRobin struct { // 所有有效的權(quán)重總和 effectiveWeight int // 后端服務(wù)列表 backendServerList []*BackendServer } // 創(chuàng)建一個(gè)負(fù)載輪詢器 func NewWeightServerRoundRobin() *WeightServerRoundRobin { return &WeightServerRoundRobin{ effectiveWeight: 0, } } // 增加后端服務(wù)名稱和權(quán)重 func (r *WeightServerRoundRobin) AddBackendServer(backendServer *BackendServer) { r.effectiveWeight += backendServer.Weight r.backendServerList = append(r.backendServerList, backendServer) } // 更具權(quán)重獲取一個(gè)后端服務(wù)名稱 func (r *WeightServerRoundRobin) GetBackendServer() *BackendServer { var expectBackendServer *BackendServer for _, backendServer := range r.backendServerList { // 給每個(gè)后端服務(wù)增加自身權(quán)重 backendServer.currentWeight += backendServer.Weight if expectBackendServer == nil { expectBackendServer = backendServer } if backendServer.currentWeight > expectBackendServer.currentWeight { expectBackendServer = backendServer } } r.VisitBackendServerCurrentWeight() // 把選擇的后端服務(wù)權(quán)重減掉總權(quán)重 expectBackendServer.currentWeight -= r.effectiveWeight return expectBackendServer } // 打印后端服務(wù)的當(dāng)前權(quán)重變化 func (r *WeightServerRoundRobin) VisitBackendServerCurrentWeight() { var serverListForLog []string for _, backendServer := range r.backendServerList { serverListForLog = append(serverListForLog, fmt.Sprintf("%v", backendServer.currentWeight)) } fmt.Printf("(%v)\n", strings.Join(serverListForLog, ", ")) }
寫(xiě)一個(gè)單測(cè)進(jìn)行驗(yàn)證
package weightroundrobin import ( "fmt" "testing" ) func TestNewWeightServerRoundRobin(t *testing.T) { weightServerRoundRobin := NewWeightServerRoundRobin() weightServerRoundRobin.AddBackendServer(&BackendServer{ ServerName: "ServerA", Weight: 5, }) weightServerRoundRobin.AddBackendServer(&BackendServer{ ServerName: "ServerB", Weight: 3, }) weightServerRoundRobin.AddBackendServer(&BackendServer{ ServerName: "ServerC", Weight: 1, }) expectServerNameList := []string{ "ServerA", "ServerB", "ServerA", "ServerC", "ServerA", "ServerB", "ServerA", "ServerB", "ServerA", //"ServerA", "ServerB", "ServerA", "ServerC", "ServerA", "ServerB", "ServerA", "ServerB", "ServerA", } fmt.Printf("(A, B, C)\n") for ii, expectServerName := range expectServerNameList { weightServerRoundRobin.VisitBackendServerCurrentWeight() backendServer := weightServerRoundRobin.GetBackendServer() if backendServer.ServerName != expectServerName { t.Errorf("%v.%v.expect:%v, actual:%v", t.Name(), ii, expectServerName, backendServer.ServerName) return } } }
運(yùn)行單元測(cè)試,觀察運(yùn)行結(jié)果是否符合算法設(shè)計(jì)的預(yù)期
=== RUN TestNewWeightServerRoundRobin
(A, B, C)
(0, 0, 0)
(5, 3, 1)
(-4, 3, 1)
(1, 6, 2)
(1, -3, 2)
(6, 0, 3)
(-3, 0, 3)
(2, 3, 4)
(2, 3, -5)
(7, 6, -4)
(-2, 6, -4)
(3, 9, -3)
(3, 0, -3)
(8, 3, -2)
(-1, 3, -2)
(4, 6, -1)
(4, -3, -1)
(9, 0, 0)
--- PASS: TestNewWeightServerRoundRobin (0.00s)
PASS
參考材料:
https://github.com/phusion/nginx/commit/27e94984486058d73157038f7950a0a36ecc6e35
到此這篇關(guān)于使用Golang實(shí)現(xiàn)加權(quán)負(fù)載均衡算法的文章就介紹到這了,更多相關(guān)Golang負(fù)載均衡算法內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Go語(yǔ)言中同一個(gè)package中函數(shù)互相調(diào)用為undefined的解決
這篇文章主要介紹了Go語(yǔ)言中同一個(gè)package中函數(shù)互相調(diào)用為undefined的解決方案,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2023-03-03go?logger不侵入業(yè)務(wù)代碼使用slog替換zap并實(shí)現(xiàn)callerSkip詳解
這篇文章主要為大家介紹了go?logger不侵入業(yè)務(wù)代碼使用slog替換zap并實(shí)現(xiàn)callerSkip詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2023-09-09Go語(yǔ)言多人聊天室項(xiàng)目實(shí)戰(zhàn)
這篇文章主要為大家詳細(xì)介紹了Go語(yǔ)言多人聊天室項(xiàng)目實(shí)戰(zhàn),實(shí)現(xiàn)單撩或多撩等多種功能,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2019-08-08Ubuntu下安裝Go語(yǔ)言開(kāi)發(fā)環(huán)境及編輯器的相關(guān)配置
這篇文章主要介紹了Ubuntu下安裝Go語(yǔ)言開(kāi)發(fā)環(huán)境及編輯器的相關(guān)配置,編輯器方面介紹了包括Vim和Eclipse,需要的朋友可以參考下2016-02-02golang獲取變量或?qū)ο箢愋偷膸追N方式總結(jié)
在golang中并沒(méi)有提供內(nèi)置函數(shù)來(lái)獲取變量的類型,但是通過(guò)一定的方式也可以獲取,下面這篇文章主要給大家介紹了關(guān)于golang獲取變量或?qū)ο箢愋偷膸追N方式,需要的朋友可以參考下2022-12-12Golang源碼分析之golang/sync之singleflight
golang/sync庫(kù)拓展了官方自帶的sync庫(kù),提供了errgroup、semaphore、singleflight及syncmap四個(gè)包,本次先分析第一個(gè)包errgroup的源代碼,下面這篇文章主要給大家介紹了關(guān)于Golang源碼分析之golang/sync之singleflight的相關(guān)資料,需要的朋友可以參考下2022-11-11golang使用sort接口實(shí)現(xiàn)排序示例
這篇文章主要介紹了golang使用sort接口實(shí)現(xiàn)排序的方法,簡(jiǎn)單分析了sort接口的功能并實(shí)例演示了基于sort接口的排序?qū)崿F(xiàn)方法,需要的朋友可以參考下2016-07-07Go語(yǔ)言中一定要知道的切片使用注意事項(xiàng)總結(jié)
了解和掌握切片的使用注意事項(xiàng),可以避免意外的程序行為,所以本文就來(lái)和大家深入探討一下Go語(yǔ)言切片常見(jiàn)的注意事項(xiàng),希望對(duì)大家有所幫助2023-06-06