Golang源碼分析之golang/sync之singleflight
1.背景
1.1. 項(xiàng)目介紹
golang/sync庫拓展了官方自帶的sync庫,提供了errgroup、semaphore、singleflight及syncmap四個(gè)包,本次分析singlefliht的源代碼。
singlefliht用于解決單機(jī)協(xié)程并發(fā)調(diào)用下的重復(fù)調(diào)用問題,常與緩存一起使用,避免緩存擊穿。
1.2.使用方法
go get -u golang.org/x/sync
- 核心API:Do、DoChan、Forget
- Do:同一時(shí)刻對某個(gè)Key方法的調(diào)用, 只能由一個(gè)協(xié)程完成,其余協(xié)程阻塞直到該協(xié)程執(zhí)行成功后,直接獲取其生成的值,以下是一個(gè)避免緩存擊穿的常見使用方法:
func main() { var flight singleflight.Group var errGroup errgroup.Group // 模擬并發(fā)獲取數(shù)據(jù)緩存 for i := 0; i < 10; i++ { i := i errGroup.Go(func() error { fmt.Printf("協(xié)程%v準(zhǔn)備獲取緩存\n", i) v, err, shared := flight.Do("getCache", func() (interface{}, error) { // 模擬獲取緩存操作 fmt.Printf("協(xié)程%v正在讀數(shù)據(jù)庫獲取緩存\n", i) time.Sleep(100 * time.Millisecond) fmt.Printf("協(xié)程%v讀取數(shù)據(jù)庫生成緩存成功\n", i) return "mockCache", nil }) if err != nil { fmt.Printf("err = %v", err) return err } fmt.Printf("協(xié)程%v獲取緩存成功, v = %v, shared = %v\n", i, v, shared) return nil }) } if err := errGroup.Wait(); err != nil { fmt.Printf("errGroup wait err = %v", err) } } // 輸出:只有0號協(xié)程實(shí)際生成了緩存,其余協(xié)程讀取生成的結(jié)果 協(xié)程0準(zhǔn)備獲取緩存 協(xié)程4準(zhǔn)備獲取緩存 協(xié)程3準(zhǔn)備獲取緩存 協(xié)程2準(zhǔn)備獲取緩存 協(xié)程6準(zhǔn)備獲取緩存 協(xié)程5準(zhǔn)備獲取緩存 協(xié)程7準(zhǔn)備獲取緩存 協(xié)程1準(zhǔn)備獲取緩存 協(xié)程8準(zhǔn)備獲取緩存 協(xié)程9準(zhǔn)備獲取緩存 協(xié)程0正在讀數(shù)據(jù)庫獲取緩存 協(xié)程0讀取數(shù)據(jù)庫生成緩存成功 協(xié)程0獲取緩存成功, v = mockCache, shared = true 協(xié)程8獲取緩存成功, v = mockCache, shared = true 協(xié)程2獲取緩存成功, v = mockCache, shared = true 協(xié)程6獲取緩存成功, v = mockCache, shared = true 協(xié)程5獲取緩存成功, v = mockCache, shared = true 協(xié)程7獲取緩存成功, v = mockCache, shared = true 協(xié)程9獲取緩存成功, v = mockCache, shared = true 協(xié)程1獲取緩存成功, v = mockCache, shared = true 協(xié)程4獲取緩存成功, v = mockCache, shared = true 協(xié)程3獲取緩存成功, v = mockCache, shared = true
DoChan:將執(zhí)行結(jié)果返回到通道中,可通過監(jiān)聽通道結(jié)果獲取方法執(zhí)行值,這個(gè)方法相較于Do來說的區(qū)別是執(zhí)行DoChan后不會阻塞到其中一個(gè)協(xié)程完成任務(wù),而是異步執(zhí)行任務(wù),最后需要結(jié)果時(shí)直接從通道中獲取,避免長時(shí)間等待。
func testDoChan() { var flight singleflight.Group var errGroup errgroup.Group // 模擬并發(fā)獲取數(shù)據(jù)緩存 for i := 0; i < 10; i++ { i := i errGroup.Go(func() error { fmt.Printf("協(xié)程%v準(zhǔn)備獲取緩存\n", i) ch := flight.DoChan("getCache", func() (interface{}, error) { // 模擬獲取緩存操作 fmt.Printf("協(xié)程%v正在讀數(shù)據(jù)庫獲取緩存\n", i) time.Sleep(100 * time.Millisecond) fmt.Printf("協(xié)程%v讀取數(shù)據(jù)庫獲取緩存成功\n", i) return "mockCache", nil }) res := <-ch if res.Err != nil { fmt.Printf("err = %v", res.Err) return res.Err } fmt.Printf("協(xié)程%v獲取緩存成功, v = %v, shared = %v\n", i, res.Val, res.Shared) return nil }) } if err := errGroup.Wait(); err != nil { fmt.Printf("errGroup wait err = %v", err) } } // 輸出結(jié)果 協(xié)程9準(zhǔn)備獲取緩存 協(xié)程0準(zhǔn)備獲取緩存 協(xié)程1準(zhǔn)備獲取緩存 協(xié)程6準(zhǔn)備獲取緩存 協(xié)程5準(zhǔn)備獲取緩存 協(xié)程2準(zhǔn)備獲取緩存 協(xié)程7準(zhǔn)備獲取緩存 協(xié)程8準(zhǔn)備獲取緩存 協(xié)程4準(zhǔn)備獲取緩存 協(xié)程9正在讀數(shù)據(jù)庫獲取緩存 協(xié)程9讀取數(shù)據(jù)庫獲取緩存成功 協(xié)程3準(zhǔn)備獲取緩存 協(xié)程3獲取緩存成功, v = mockCache, shared = true 協(xié)程8獲取緩存成功, v = mockCache, shared = true 協(xié)程0獲取緩存成功, v = mockCache, shared = true 協(xié)程1獲取緩存成功, v = mockCache, shared = true 協(xié)程6獲取緩存成功, v = mockCache, shared = true 協(xié)程5獲取緩存成功, v = mockCache, shared = true 協(xié)程2獲取緩存成功, v = mockCache, shared = true 協(xié)程7獲取緩存成功, v = mockCache, shared = true 協(xié)程4獲取緩存成功, v = mockCache, shared = true 協(xié)程9獲取緩存成功, v = mockCache, shared = true
2.源碼分析
2.1.項(xiàng)目結(jié)構(gòu)
- singleflight.go:核心實(shí)現(xiàn),提供相關(guān)API
- singleflight_test.go:相關(guān)API單元測試
2.2.數(shù)據(jù)結(jié)構(gòu)
- singleflight.go
// singleflight.Group type Group struct { mu sync.Mutex // map的鎖 m map[string]*call // 保存每個(gè)key的調(diào)用 } // 一次Do對應(yīng)的響應(yīng)結(jié)果 type Result struct { Val interface{} Err error Shared bool } // 一個(gè)key會對應(yīng)一個(gè)call type call struct { wg sync.WaitGroup val interface{} // 保存調(diào)用的結(jié)果 err error // 調(diào)用出現(xiàn)的err // 該call被調(diào)用的次數(shù) dups int // 每次DoChan時(shí)都會追加一個(gè)chan在該列表 chans []chan<- Result }
2.3.API代碼流程
func (g *Group) Do(key string, fn func() (interface{}, error)) (v interface{}, err error, shared bool)
func (g *Group) Do(key string, fn func() (interface{}, error)) (v interface{}, err error, shared bool) { g.mu.Lock() if g.m == nil { // 第一次執(zhí)行Do的時(shí)候創(chuàng)建map g.m = make(map[string]*call) } // 已經(jīng)存在該key,對應(yīng)后續(xù)的并發(fā)調(diào)用 if c, ok := g.m[key]; ok { // 執(zhí)行次數(shù)自增 c.dups++ g.mu.Unlock() // 等待執(zhí)行fn的協(xié)程完成 c.wg.Wait() // ... // 返回執(zhí)行結(jié)果 return c.val, c.err, true } // 不存在該key,說明第一次調(diào)用,初始化一個(gè)call c := new(call) // wg添加1,后續(xù)其他協(xié)程在該wg上阻塞 c.wg.Add(1) // 保存key和call的關(guān)系 g.m[key] = c g.mu.Unlock() // 真正執(zhí)行fn函數(shù) g.doCall(c, key, fn) return c.val, c.err, c.dups > 0 } func (g *Group) doCall(c *call, key string, fn func() (interface{}, error)) { normalReturn := false recovered := false // 第三步、最后的設(shè)置和清理工作 defer func() { // ... g.mu.Lock() defer g.mu.Unlock() // 執(zhí)行完成,調(diào)用wg.Done,其他協(xié)程此時(shí)不再阻塞,讀到fn執(zhí)行結(jié)果 c.wg.Done() // 二次校驗(yàn)map中key的值是否為當(dāng)前call,并刪除該key if g.m[key] == c { delete(g.m, key) } // ... // 如果c.chans存在,則遍歷并寫入執(zhí)行結(jié)果 for _, ch := range c.chans { ch <- Result{c.val, c.err, c.dups > 0} } } }() // 第一步、執(zhí)行fn獲取結(jié)果 func() { // 3、如果fn執(zhí)行過程中panic,將c.err設(shè)置為PanicError defer func() { if !normalReturn { if r := recover(); r != nil { c.err = newPanicError(r) } } }() // 1、執(zhí)行fn,獲取到執(zhí)行結(jié)果 c.val, c.err = fn() // 2、設(shè)置正常返回結(jié)果標(biāo)識 normalReturn = true }() // 第二步、fn執(zhí)行出錯(cuò),將recovered標(biāo)識設(shè)置為true if !normalReturn { recovered = true } }
func (g *Group) DoChan(key string, fn func() (interface{}, error)) <-chan Result
func (g *Group) DoChan(key string, fn func() (interface{}, error)) <-chan Result { // 一次調(diào)用對應(yīng)一個(gè)chan ch := make(chan Result, 1) g.mu.Lock() if g.m == nil { // 第一次調(diào)用,初始化map g.m = make(map[string]*call) } // 后續(xù)調(diào)用,已存在key if c, ok := g.m[key]; ok { // 調(diào)用次數(shù)自增 c.dups++ // 將chan添加到chans列表 c.chans = append(c.chans, ch) g.mu.Unlock() // 直接返回chan,不等待fn執(zhí)行完成 return ch } // 第一次調(diào)用,初始化call及chans列表 c := &call{chans: []chan<- Result{ch}} // wg加一 c.wg.Add(1) // 保存key及call的關(guān)系 g.m[key] = c g.mu.Unlock() // 異步執(zhí)行fn函數(shù) go g.doCall(c, key, fn) // 直接返回該chan return ch }
3.總結(jié)
- singleflight經(jīng)常和緩存獲取配合使用,可以緩解緩存擊穿問題,避免同一時(shí)刻單機(jī)大量的并發(fā)調(diào)用獲取數(shù)據(jù)庫構(gòu)建緩存
- singleflight的實(shí)現(xiàn)很精簡,核心流程就是使用map保存每次調(diào)用的key與call的映射關(guān)系,每個(gè)call中通過wg控制只存在一個(gè)協(xié)程執(zhí)行fn函數(shù),其他協(xié)程等待執(zhí)行完成后,直接獲取執(zhí)行結(jié)果,在執(zhí)行完成后會刪去map中的key
- singleflight的Do方法會阻塞直到fn執(zhí)行完成,DoChan方法不會阻塞,而是異步執(zhí)行fn,并通過通道來實(shí)現(xiàn)結(jié)果的通知
到此這篇關(guān)于Golang源碼分析之golang/sync之singleflight的文章就介紹到這了,更多相關(guān)Golang源碼分析singleflight內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Golang利用Template模板動(dòng)態(tài)生成文本
Go語言中的Go?Template是一種用于生成文本輸出的簡單而強(qiáng)大的模板引擎,它提供了一種靈活的方式來生成各種格式的文本,下面我們就來看看具體如何使用Template實(shí)現(xiàn)動(dòng)態(tài)文本生成吧2023-09-09Golang中crypto/ecdsa庫實(shí)現(xiàn)數(shù)字簽名和驗(yàn)證
本文主要介紹了Golang中crypto/ecdsa庫實(shí)現(xiàn)數(shù)字簽名和驗(yàn)證,將從ECDSA的基本原理出發(fā),詳細(xì)解析如何在Go語言中實(shí)現(xiàn)數(shù)字簽名和驗(yàn)證,具有一定的參考價(jià)值,感興趣的可以了解一下2024-02-02Go實(shí)現(xiàn)分布式系統(tǒng)高可用限流器實(shí)戰(zhàn)
這篇文章主要為大家介紹了Go實(shí)現(xiàn)分布式系統(tǒng)高可用限流器實(shí)戰(zhàn),有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2022-06-06使用Go語言實(shí)現(xiàn)簡單聊天系統(tǒng)
本文介紹了如何使用Go語言和WebSocket技術(shù)構(gòu)建一個(gè)簡單的多人聊天室系統(tǒng),包括客戶端連接管理、消息廣播和并發(fā)處理,最后,通過編寫main.go、hub.go和client.go等核心代碼模塊,具有一定的參考價(jià)值,感興趣的可以了解一下2024-10-10基于Golang設(shè)計(jì)一套可控的定時(shí)任務(wù)系統(tǒng)
這篇文章主要為大家學(xué)習(xí)介紹了如何基于Golang設(shè)計(jì)一套可控的定時(shí)任務(wù)系統(tǒng),文中的示例代碼講解詳細(xì),感興趣的小伙伴可以跟隨小編一起學(xué)習(xí)一下2023-07-07Go使用Protocol?Buffers在數(shù)據(jù)序列化的優(yōu)勢示例詳解
這篇文章主要為大家介紹了Go使用Protocol?Buffers在數(shù)據(jù)序列化的優(yōu)勢示例詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2023-11-11go?原子操作的方式及實(shí)現(xiàn)原理全面深入解析
這篇文章主要為大家介紹了go?原子操作的方式及實(shí)現(xiàn)原理深入解析,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2023-04-04