GO實現(xiàn)協(xié)程池管理的方法
更新時間:2021年07月13日 15:03:01 作者:牛奔
這篇文章給大家介紹GO實現(xiàn)協(xié)程池管理的方法,分別使用channel實現(xiàn)協(xié)程池和消費者模式實現(xiàn)協(xié)程池,本文通過實例代碼給大家介紹的非常詳細,需要的朋友參考下吧
使用channel實現(xiàn)協(xié)程池
通過 Channel 實現(xiàn) Goroutine Pool,缺點是會造成協(xié)程的頻繁開辟和注銷,但好在簡單靈活通用。
package main import ( "fmt" "io/ioutil" "net/http" "sync" ) // Pool goroutine Pool type Pool struct { queue chan int wg *sync.WaitGroup } // New 新建一個協(xié)程池 func New(size int) *Pool { if size <= 0 { size = 1 } return &Pool{ queue: make(chan int, size), wg: &sync.WaitGroup{}, } } // Add 新增一個執(zhí)行 func (p *Pool) Add(delta int) { // delta為正數(shù)就添加 for i := 0; i < delta; i++ { p.queue <- 1 } // delta為負數(shù)就減少 for i := 0; i > delta; i-- { <-p.queue } p.wg.Add(delta) } // Done 執(zhí)行完成減一 func (p *Pool) Done() { <-p.queue p.wg.Done() } func (p *Pool) Wait() { p.wg.Wait() } func main() { // 這里限制100個并發(fā) pool := New(100) // sync.WaitGroup{} //假設需要發(fā)送1000萬個http請求,然后我并發(fā)100個協(xié)程取完成這件事 for i := 0; i < 10000000; i++ { pool.Add(1) //發(fā)現(xiàn)已存在100個人正在發(fā)了,那么就會卡住,直到有人完成了宣布自己退出協(xié)程了 go func(i int) { resp, err := http.Get("https://www.baidu.com") if err != nil { fmt.Println(i, err) } else { defer resp.Body.Close() result, _ := ioutil.ReadAll(resp.Body) fmt.Println(i, string(result)) } pool.Done() }(i) } pool.Wait() }
消費者模式實現(xiàn)協(xié)程池
頻繁對協(xié)程開辟與剔除,如果對性能有著很高的要求,建議優(yōu)化成固定數(shù)目的協(xié)程取 channel 里面取數(shù)據(jù)進行消費,這樣可以避免協(xié)程的創(chuàng)建與注銷。
package main import ( "fmt" "strconv" "sync" ) // 任務對象 type task struct { Production Consumer } // 設置消費者數(shù)目,也就是work pool大小 func (t *task) setConsumerPoolSize(poolSize int) { t.Production.Jobs = make(chan *Job, poolSize*10) t.Consumer.WorkPoolNum = poolSize } // 任務數(shù)據(jù)對象 type Job struct { Data string } func NewTask(handler func(jobs chan *Job) (b bool)) (t *task) { t = &task{ Production: Production{Jobs: make(chan *Job, 100)}, Consumer: Consumer{WorkPoolNum: 10, Handler: handler}, } return } type Production struct { Jobs chan *Job } func (c Production) AddData(data *Job) { c.Jobs <- data } type Consumer struct { WorkPoolNum int Handler func(chan *Job) (b bool) Wg sync.WaitGroup } // 異步開啟多個work去處理任務,但是所有work執(zhí)行完畢才會退出程序 func (c *Consumer) disposeData(data chan *Job) { for i := 0; i <= c.WorkPoolNum; i++ { c.Wg.Add(1) go func() { defer func() { c.Wg.Done() }() c.Handler(data) }() } c.Wg.Wait() } func main() { // 實現(xiàn)一個用于處理數(shù)據(jù)的閉包,實現(xiàn)業(yè)務代碼 consumerHandler := func(jobs chan *Job) (b bool) { for jobs := range jobs { fmt.Println(jobs) } return } // new一個任務處理對象 t := NewTask(consumerHandler) t.setConsumerPoolSize(500) // 500個協(xié)程同時消費 // 根據(jù)自己的業(yè)務去生成數(shù)據(jù)通過AddData方法添加數(shù)據(jù)到生成channel,這里是100萬條數(shù)據(jù) go func() { for i := 0; i < 1000000; i++ { job := new(Job) iStr := strconv.Itoa(i) job.Data = "定義任務數(shù)據(jù)格式" + iStr t.AddData(job) } }() // 消費者消費數(shù)據(jù) t.Consumer.disposeData(t.Production.Jobs) }
到此這篇關于GO實現(xiàn)協(xié)程池管理的方法的文章就介紹到這了,更多相關go實現(xiàn)協(xié)程池內容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!