golang中snappy的使用場合實(shí)例詳解
前言
項(xiàng)目中遇到的壓縮/解壓縮需求應(yīng)該是很多的，比如典型的考慮網(wǎng)絡(luò)傳輸延時而對數(shù)據(jù)進(jìn)行壓縮傳輸，又或者其他各種省空間存儲需求等。這次同樣是遇到了類似需求，在做一個爬蟲時，因?yàn)樽ト№?xiàng)目還未確定，所以考慮將整個html頁面壓縮存儲于數(shù)據(jù)庫，于是又是各種google，最后不出意外的google到了google家的Snappy :-)
google 自家的snappy 壓縮優(yōu)點(diǎn)是非常高的速度和合理的壓縮率。壓縮率比gzip 小，CPU 占用小。
golang中snappy使用場合
下面是對幾個簡單的字符串做snappy 壓縮前后對比：
package main
import (
"fmt"
"github.com/golang/snappy"
"io/ioutil"
)
var (
textMap = map[string]string{
"a": `1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./`,
"b": `1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./1234567890-=qwertyuiop[]\';lkjhgfdsazxcvbnm,./`,
"c": `浕浉浄浀浂洉洡洣浐洘泚浌洼洽派洿浹澆湞濁測澮濟(jì)瀏渾滸濃潯泿洱涏洀潔洂洃洄洅洆洇洈洊洋洌洎洏洐洑灑洓洔洕洗洠洙洚洛洝洞洟洢洤津洦洧洨洩洪洫洬洭洮洲洳洴洵洶洷洸洹洺活涎`,
"d": `浕浉浄浀浂洉洡洣浐洘泚浌洼洽派洿浹澆湞濁測澮濟(jì)瀏渾滸濃潯泿洱涏洀潔洂洃洄洅洆洇洈洊洋洌洎洏洐洑灑洓洔洕洗洠洙洚洛洝洞洟洢洤津洦洧洨洩洪洫洬洭洮洲洳洴洵洶洷洸洹洺活涎浕浉浄浀浂洉洡洣浐洘泚浌洼洽派洿浹澆湞濁測澮濟(jì)瀏渾滸濃潯泿洱涏洀潔洂洃洄洅洆洇洈洊洋洌洎洏洐洑灑洓洔洕洗洠洙洚洛洝洞洟洢洤津洦洧洨洩洪洫洬洭洮洲洳洴洵洶洷洸洹洺活涎浕浉浄浀浂洉洡洣浐洘泚浌洼洽派洿浹澆湞濁測澮濟(jì)瀏渾滸濃潯泿洱涏洀潔洂洃洄洅洆洇洈洊洋洌洎洏洐洑灑洓洔洕洗洠洙洚洛洝洞洟洢洤津洦洧洨洩洪洫洬洭洮洲洳洴洵洶洷洸洹洺活涎`,
}
imgSrc = []string{
"1.jpg", "2.jpg", "3.jpg", "4.jpg",
}
)
func main() {
for k, v := range textMap {
got := snappy.Encode(nil, []byte(v))
fmt.Println("k:", k, "len:", len(v), len(got))
}
fmt.Println("snappy jpg")
for _, v := range imgSrc {
buf, err := ioutil.ReadFile(v)
if err == nil {
got := snappy.Encode(nil, buf)
fmt.Println("k:", v, "len:", len(buf), len(got))
}
}
}
輸出：
k: a len: 46 48 k: b len: 184 58 k: c len: 246 250 k: d len: 738 274 snappy jpg k: 1.jpg len: 302829 282525 k: 2.jpg len: 89109 89051 k: 3.jpg len: 124463 123194 k: 4.jpg len: 420886 368608
如果字符串包含重復(fù)字符多壓縮才看到效果，對jpg 圖片的壓縮率不大。
對一個實(shí)際使用的數(shù)據(jù)庫是否使用snappy 做對比，用戶和文章都是10萬，文章內(nèi)容較簡單。
使用snappy 壓縮前：
用時 4m32.916312692s 數(shù)據(jù)庫占用空間 176,209,920 字節(jié)（磁盤上的 172 MB）
使用snappy 壓縮后：
用時 4m6.750271414s 數(shù)據(jù)庫占用空間 159,424,512 字節(jié)（磁盤上的 150.9 MB）
從使用時間上看，此例壓縮使用的CPU 時間小于數(shù)據(jù)壓縮后省下來的數(shù)據(jù)存儲IO 占用的時間。因?yàn)槲恼聰?shù)據(jù)較短、內(nèi)容簡單，壓縮效果不明顯。
總結(jié)
以上就是這篇文章的全部內(nèi)容了，希望本文的內(nèi)容對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，如果有疑問大家可以留言交流，謝謝大家對腳本之家的支持。
相關(guān)文章
使用?gomonkey?Mock?函數(shù)及方法示例詳解
在 Golang 語言中，寫單元測試的時候，不可避免的會涉及到對其他函數(shù)及方法的 Mock，即在假設(shè)其他函數(shù)及方法響應(yīng)預(yù)期結(jié)果的同時，校驗(yàn)被測函數(shù)的響應(yīng)是否符合預(yù)期，這篇文章主要介紹了使用?gomonkey?Mock?函數(shù)及方法,需要的朋友可以參考下2022-06-06
詳解Go開發(fā)Struct轉(zhuǎn)換成map兩種方式比較
本篇文章主要介紹了詳解Go開發(fā)Struct轉(zhuǎn)換成map兩種方式比較，小編覺得挺不錯的，現(xiàn)在分享給大家，也給大家做個參考。一起跟隨小編過來看看吧2018-07-07
go語言beego框架jwt身份認(rèn)證實(shí)現(xiàn)示例
這篇文章主要為大家介紹了go語言beego框架jwt身份認(rèn)證實(shí)現(xiàn)示例，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步早日升職加薪2022-04-04
Go語言fsnotify接口實(shí)現(xiàn)監(jiān)測文件修改
這篇文章主要為大家介紹了Go語言fsnotify接口實(shí)現(xiàn)監(jiān)測文件修改的示例詳解，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪2022-06-06
Go-家庭收支記賬軟件項(xiàng)目實(shí)現(xiàn)
這篇文章主要介紹了Go-家庭收支記賬軟件項(xiàng)目實(shí)現(xiàn)，本文章內(nèi)容詳細(xì)，具有很好的參考價值，希望對大家有所幫助，需要的朋友可以參考下2023-01-01
這篇文章主要為大家介紹了Go語言基礎(chǔ)關(guān)于反射示例的內(nèi)容詳解，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步早日升職加薪2021-11-11
代碼中的加鎖操作因?yàn)樯婕皟?nèi)核態(tài)的上下文切換會比較耗時、代價比較高。針對基本數(shù)據(jù)類型我們還可以使用原子操作來保證并發(fā)安全，本文就來和大家詳細(xì)聊聊，需要的可以參考下2022-12-12
基于微服務(wù)框架go-micro開發(fā)gRPC應(yīng)用程序
這篇文章介紹了基于微服務(wù)框架go-micro開發(fā)gRPC應(yīng)用程序的方法，文中通過示例代碼介紹的非常詳細(xì)。對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值，需要的朋友可以參考下2022-07-07
本文主要介紹了golang之?dāng)?shù)組切片的具體用法，文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2022-07-07
這篇文章主要介紹了golang 各種排序大比拼實(shí)例，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2020-12-12