Go如何優(yōu)雅的使用字節(jié)池示例詳解
背景
在某些場景下,我們可能會大量的使用字節(jié)數(shù)組,比如IO操作、編解碼,如果不進行優(yōu)化,大量的申請和釋放字節(jié)數(shù)組會造成一定的性能損耗,因此有必要復用字節(jié)數(shù)組。
為何需要字節(jié)池
在 Go 語言編程中,在從 io.Reader 中讀取數(shù)據(jù)時,我們都要創(chuàng)建一個字節(jié)切片 []byte 去存儲,在高頻調(diào)用或并發(fā)比較高的場景中,需要頻繁的進行內(nèi)存申請和釋放,增大了 GC 的壓力,所以這時候需要采用 “字節(jié)池” 來優(yōu)化。
最簡單的方式
對于Go語言來說,我們第一個想到的就是使用sync.Pool來做字節(jié)數(shù)組的對象池,比如這樣:
package bufferpool import "sync" type BytePool struct { p sync.Pool } func NewBytePool(size, cap int) *BytePool { if size > cap { panic("size must be less then cap") } p := &BytePool{} p.p.New = func() any { return make([]byte, size, cap) } return p } // 獲取字節(jié)數(shù)組 func (p *BytePool) Get() []byte { return p.p.Get().([]byte) } // 歸還字節(jié)數(shù)組 func (p *BytePool) Put(b []byte) { // 重置已用大小 b = b[:0] p.p.Put(b) }
我們簡單的封裝了sync.Pool
,sync.Pool.New
根據(jù)指定的初始大小申請新的字節(jié)數(shù)組,在Put
的時候重置字節(jié)數(shù)組的已用空間(這樣下次才能從頭開始使用)。
測試
我們進行一個簡單性能測試,也就是不斷的申請字節(jié)數(shù)組,然后寫入長度為1024的字節(jié)數(shù)組塊,共64塊,也就是64KB,測試樣例共3個:
不預先申請空間
這個樣例我們不預先申請字節(jié)數(shù)組空間,因此在append的過程中會不斷的申請新的更大的空間,然后轉(zhuǎn)移字節(jié)數(shù)組內(nèi)容。
func BenchmarkByte(b *testing.B) { for n := 0; n < b.N; n++ { // 從長度為0的字節(jié)數(shù)組開始 var b []byte for i := 0; i < blocks; i++ { b = append(b, block...) } } }
預先申請空間
由于這個測試的總大小的預先知道的,因此我們可以先提前申請空間,這樣就不用在append過程中不斷的申請新的更大空間,然后轉(zhuǎn)移字節(jié)數(shù)組內(nèi)容了。
func BenchmarkMake(b *testing.B) { for n := 0; n < b.N; n++ { // 預先保留需要的空間 b := make([]byte, 0, blocks*blockSize) for i := 0; i < blocks; i++ { b = append(b, block...) } } }
字節(jié)數(shù)組池
這里我們每次先從字節(jié)池拿一個字節(jié)數(shù)組Get()
,使用完之后歸還字節(jié)池Put()
。
func BenchmarkBytePool(b *testing.B) { pool := NewBytePool(0, blocks*blockSize) for n := 0; n < b.N; n++ { // 拿字節(jié)數(shù)組 b := pool.Get() for i := 0; i < blocks; i++ { b = append(b, block...) } // 歸還 pool.Put(b) } }
測試結(jié)果
可以看到我們簡單的字節(jié)池就可以帶來很大的性能提升!
BenchmarkByte-16 32470 38136 ns/op BenchmarkMake-16 605449 1962 ns/op BenchmarkBytePool-16 1000000 1162 ns/op
更優(yōu)雅的方式
在實際的編程中,我們在使用字節(jié)數(shù)組時,很多時候都需要以一個流的形式去讀寫,同時也可能很難提前計算出需要的大小,因此bytes.Buffer
可能更加適合實際的編程。
package bufferpool import ( "bytes" "sync" ) type BufferPool struct { p sync.Pool } func NewBufferPool(size, cap int) *BufferPool { if size > cap { panic("size must be less then cap") } p := &BufferPool{} p.p.New = func() any { var b []byte if cap > 0 { b = make([]byte, size, cap) } return bytes.NewBuffer(b) } return p } // 獲取字節(jié)數(shù)組 func (p *BufferPool) Get() *bytes.Buffer { return p.p.Get().(*bytes.Buffer) } // 歸還字節(jié)數(shù)組 func (p *BufferPool) Put(b *bytes.Buffer) { // 重置已用大小 b.Reset() p.p.Put(b) }
測試
測試條件與上面相同。
直接使用Buffer
作為對比實驗我們直接使用Buffer。
func BenchmarkBuffer(b *testing.B) { for n := 0; n < b.N; n++ { b := bytes.NewBuffer(make([]byte, 0, blocks*blockSize)) for i := 0; i < blocks; i++ { b.Write(block) } } }
bytes.Buffer池
func BenchmarkBufferPool(b *testing.B) { pool := NewBufferPool(0, blocks*blockSize) for n := 0; n < b.N; n++ { b := pool.Get() for i := 0; i < blocks; i++ { b.Write(block) } pool.Put(b) } }
測試結(jié)果
可以看到使用bytes.Buffer池
比字節(jié)數(shù)組池性能差了一點,主要是因為bytes.Buffer比較復雜,但是bytes.Buffer的功能比字節(jié)數(shù)組強大很多。
BenchmarkByte-16 31748 38131 ns/op BenchmarkMake-16 605847 1964 ns/op BenchmarkBytePool-16 1000000 1162 ns/op BenchmarkBuffer-16 589336 2030 ns/op BenchmarkBufferPool-16 962132 1235 ns/op
限制池大小
有時候我們不想對象池無限大,因此我們需要限制對象池的大小,對于Go語言來說,我們可以使用channel+select
,也就是申請一個固定長度緩沖區(qū)的channel,配合select的default分支。
- Put:channel不滿則put,否則default分支丟棄這個對象。
- Get:channel不空則get,否則default分支申請新對象。
這里我們直接使用minio的實現(xiàn): github.com/minio/minio…
package bufferpool type ByteFixPool struct { cache chan []byte size int cap int } // cacheSize: 字節(jié)池緩存長度 // size: 字節(jié)數(shù)組長度 // cap: 字節(jié)數(shù)組容量 func NewByteFixPool(cacheSize, size, cap int) *ByteFixPool { if size > cap { panic("size must be less then cap") } return &ByteFixPool{ cache: make(chan []byte, cacheSize), size: size, cap: cap, } } func (p *ByteFixPool) Get() []byte { select { // 從channel讀 case b := <-p.cache: return b // 如果channel空則申請一個新的字節(jié)數(shù)組 default: return make([]byte, p.size, p.cap) } } func (p *ByteFixPool) Put(b []byte) { // 重置已用大小 b = b[:0] select { // 放入channel case p.cache <- b: // channel滿了則丟棄字節(jié)數(shù)組 default: } }
測試
固定大小字節(jié)池
這里使用固定大小字節(jié)池,同時預先分配空間。
func BenchmarkByteFixPool(b *testing.B) { pool := NewByteFixPool(16, 0, blocks*blockSize) for n := 0; n < b.N; n++ { b := pool.Get() for i := 0; i < blocks; i++ { b = append(b, block...) } pool.Put(b) } }
測試結(jié)果
可以看到使用channel+select
的性能甚至更好一點,而且還能限制字節(jié)池大小,當然相比于sync.Pool
的實現(xiàn),它在字節(jié)池channel里面的空間是沒辦法自動回收的。
BenchmarkByte-16 31748 38131 ns/op BenchmarkMake-16 605847 1964 ns/op BenchmarkBytePool-16 1000000 1162 ns/op BenchmarkBuffer-16 589336 2030 ns/op BenchmarkBufferPool-16 962132 1235 ns/op BenchmarkByteFixPool-16 1000000 1130 ns/op
總結(jié)
對于字節(jié)池來說。
字節(jié)對象可以是:
[]byte
:字節(jié)數(shù)組bytes.Buffer
:功能更加強大的字節(jié)數(shù)組- 其他:比如一組
bytes.Buffer
實現(xiàn)方式可以是:
sync.Pool
:根據(jù)GC期間對象是否使用回收對象channel+select
:限制字節(jié)池長度- 其他:比如限制對象池使用空間
當然,最通用的實現(xiàn)是sync.Pool+bytes.Buffer
,因為sync.Pool
能夠自動回收字節(jié)對象,bytes.Buffer
又能提供強大的功能。
上面介紹的幾種都是比較常用的,而且實現(xiàn)也非常簡單的字節(jié)池,如果在業(yè)務中有更加復雜的需求,也可以根據(jù)需求實現(xiàn)一個字節(jié)池。
總結(jié)
到此這篇關于Go如何優(yōu)雅的使用字節(jié)池的文章就介紹到這了,更多相關Go優(yōu)雅使用字節(jié)池內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!
相關文章
Win10系統(tǒng)下Golang環(huán)境搭建全過程
在編程語言的選取上,越來越多的人選擇了Golang,下面這篇文章主要給大家介紹了關于Win10系統(tǒng)下Golang環(huán)境搭建的相關資料,文中通過代碼介紹的非常詳細,需要的朋友可以參考下2024-01-01GOLANG使用Context實現(xiàn)傳值、超時和取消的方法
這篇文章主要介紹了GOLANG使用Context實現(xiàn)傳值、超時和取消的方法,小編覺得挺不錯的,現(xiàn)在分享給大家,也給大家做個參考。一起跟隨小編過來看看吧2019-01-01