golang 的string與[]byte轉(zhuǎn)換方式
相對于C語言,golang是類型安全的語言。但是安全的代價就是性能的妥協(xié)。
下面我們看看Golang不想讓我們看到的“秘密”——string的底層數(shù)據(jù)。
通過reflect包,我們可以知道,在Golang底層,string和slice其實(shí)都是struct:
type SliceHeader struct { Data uintptr Len int Cap int } type StringHeader struct { Data uintptr Len int }
其中Data是一個指針,指向?qū)嶋H的數(shù)據(jù)地址,Len表示數(shù)據(jù)長度。
但是,在string和[]byte轉(zhuǎn)換過程中,Golang究竟悄悄幫我們做了什么,來達(dá)到安全的目的?
在Golang語言規(guī)范里面,string數(shù)據(jù)是禁止修改的,試圖通過&s[0], &b[0]取得string和slice數(shù)據(jù)指針地址也是不能通過編譯的。
下面,我們就通過Golang的“黑科技”來一窺Golang背后的“秘密”
//return GoString's buffer slice(enable modify string) func StringBytes(s string) Bytes { return *(*Bytes)(unsafe.Pointer(&s)) } // convert b to string without copy func BytesString(b []byte) String { return *(*String)(unsafe.Pointer(&b)) } // returns &s[0], which is not allowed in go func StringPointer(s string) unsafe.Pointer { p := (*reflect.StringHeader)(unsafe.Pointer(&s)) return unsafe.Pointer(p.Data) } // returns &b[0], which is not allowed in go func BytesPointer(b []byte) unsafe.Pointer { p := (*reflect.SliceHeader)(unsafe.Pointer(&b)) return unsafe.Pointer(p.Data) }
以上4個函數(shù)的神奇之處在于,通過unsafe.Pointer和reflect.XXXHeader取到了數(shù)據(jù)首地址,并實(shí)現(xiàn)了string和[]byte的直接轉(zhuǎn)換(這些操作在語言層面是禁止的)。
下面我們就通過這幾個“黑科技”來測試一下語言底層的秘密:
func TestPointer(t *testing.T) { s := []string{ "", "", "hello", "hello", fmt.Sprintf(""), fmt.Sprintf(""), fmt.Sprintf("hello"), fmt.Sprintf("hello"), } fmt.Println("String to bytes:") for i, v := range s { b := unsafe.StringBytes(v) b2 := []byte(v) if b.Writeable() { b[0] = 'x' } fmt.Printf("%d\ts=%5s\tptr(v)=%-12v\tptr(StringBytes(v)=%-12v\tptr([]byte(v)=%-12v\n", i, v, unsafe.StringPointer(v), b.Pointer(), unsafe.BytesPointer(b2)) } b := [][]byte{ []byte{}, []byte{'h', 'e', 'l', 'l', 'o'}, } fmt.Println("Bytes to string:") for i, v := range b { s1 := unsafe.BytesString(v) s2 := string(v) fmt.Printf("%d\ts=%5s\tptr(v)=%-12v\tptr(StringBytes(v)=%-12v\tptr(string(v)=%-12v\n", i, s1, unsafe.BytesPointer(v), s1.Pointer(), unsafe.StringPointer(s2)) } } const N = 3000000 func Benchmark_Normal(b *testing.B) { for i := 1; i < N; i++ { s := fmt.Sprintf("12345678901234567890123456789012345678901234567890") bb := []byte(s) bb[0] = 'x' s = string(bb) s = s } } func Benchmark_Direct(b *testing.B) { for i := 1; i < N; i++ { s := fmt.Sprintf("12345678901234567890123456789012345678901234567890") bb := unsafe.StringBytes(s) bb[0] = 'x' s = s } } //test result //String to bytes: //0 s= ptr(v)=0x51bd70 ptr(StringBytes(v)=0x51bd70 ptr([]byte(v)=0xc042021c58 //1 s= ptr(v)=0x51bd70 ptr(StringBytes(v)=0x51bd70 ptr([]byte(v)=0xc042021c58 //2 s=hello ptr(v)=0x51c2fa ptr(StringBytes(v)=0x51c2fa ptr([]byte(v)=0xc042021c58 //3 s=hello ptr(v)=0x51c2fa ptr(StringBytes(v)=0x51c2fa ptr([]byte(v)=0xc042021c58 //4 s= ptr(v)=<nil> ptr(StringBytes(v)=<nil> ptr([]byte(v)=0xc042021c58 //5 s= ptr(v)=<nil> ptr(StringBytes(v)=<nil> ptr([]byte(v)=0xc042021c58 //6 s=xello ptr(v)=0xc0420444b5 ptr(StringBytes(v)=0xc0420444b5 ptr([]byte(v)=0xc042021c58 //7 s=xello ptr(v)=0xc0420444ba ptr(StringBytes(v)=0xc0420444ba ptr([]byte(v)=0xc042021c58 //Bytes to string: //0 s= ptr(v)=0x5c38b8 ptr(StringBytes(v)=0x5c38b8 ptr(string(v)=<nil> //1 s=hello ptr(v)=0xc0420445e0 ptr(StringBytes(v)=0xc0420445e0 ptr(string(v)=0xc042021c38 //Benchmark_Normal-4 1000000000 0.87 ns/op //Benchmark_Direct-4 2000000000 0.24 ns/op
結(jié)論如下:
1、string常量會在編譯期分配到只讀段,對應(yīng)數(shù)據(jù)地址不可寫入,并且相同的string常量不會重復(fù)存儲。
2、fmt.Sprintf生成的字符串分配在堆上,對應(yīng)數(shù)據(jù)地址可修改。
3、常量空字符串有數(shù)據(jù)地址,動態(tài)生成的字符串沒有設(shè)置數(shù)據(jù)地址
4、Golang string和[]byte轉(zhuǎn)換,會將數(shù)據(jù)復(fù)制到堆上,返回數(shù)據(jù)指向復(fù)制的數(shù)據(jù)
5、動態(tài)生成的字符串,即使內(nèi)容一樣,數(shù)據(jù)也是在不同的空間
6、只有動態(tài)生成的string,數(shù)據(jù)可以被黑科技修改
7、string和[]byte通過復(fù)制轉(zhuǎn)換,性能損失接近4倍
補(bǔ)充:Golang 使用unsafe.Pointer優(yōu)化byte[]與String轉(zhuǎn)換性能
我們知道一般來說對于一個String
如果想要轉(zhuǎn)換為byte[]都是通過類型轉(zhuǎn)換語法來實(shí)現(xiàn)的:
Res := string(bytes)
這種方式是Go所推薦的,優(yōu)點(diǎn)就是安全,盡管這種操作會發(fā)生內(nèi)存拷貝,導(dǎo)致性能上會有所損耗,這在處理一般業(yè)務(wù)時這種損耗是可以忽略的。
但如果是拷貝頻繁的情況下,想要進(jìn)行性能優(yōu)化時,就需要引入unsafe.Pointer了:
func main() { var s = []byte("我永遠(yuǎn)喜歡藤原千花.jpg") Res := *(*string)(unsafe.Pointer(&s)) fmt.Println(Res) }
通過unsafe.Pointer偽造String的過程沒有發(fā)生內(nèi)存拷貝,所以效率上會比發(fā)生內(nèi)存拷貝的類型轉(zhuǎn)換快,但代價就是把底層數(shù)據(jù)暴露出來,這種做法是不安全的。
至于為什么Slice能通過這種方式和String轉(zhuǎn)換
我們可以看下它們的底層結(jié)構(gòu)SliceHeader和StringHeader :
type SliceHeader struct { Data uintptr Len int Cap int } type StringHeader struct { Data uintptr Len int }
兩種類型只差了一個字段Cap(容量),前面剩余的字段都是內(nèi)存對齊的,所以可以直接轉(zhuǎn)換
以上為個人經(jīng)驗(yàn),希望能給大家一個參考,也希望大家多多支持腳本之家。如有錯誤或未考慮完全的地方,望不吝賜教。
相關(guān)文章
基于go實(shí)例網(wǎng)絡(luò)存儲協(xié)議詳解
這篇文章主要為大家介紹了基于go實(shí)例網(wǎng)絡(luò)存儲協(xié)議詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2023-03-03GoFrame框架Scan類型轉(zhuǎn)換實(shí)例
這篇文章主要為大家介紹了GoFrame框架Scan類型轉(zhuǎn)換的實(shí)例詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2022-06-06Golang學(xué)習(xí)筆記(二):類型、變量、常量
這篇文章主要介紹了Golang學(xué)習(xí)筆記(二):類型、變量、常量,本文講解了基本類型、保留字、變量、常量、枚舉、運(yùn)算符、指針、分組聲明等內(nèi)容,需要的朋友可以參考下2015-05-05使用goland調(diào)試遠(yuǎn)程代碼的操作步驟
大家都知道如何在goland調(diào)試遠(yuǎn)程代碼嗎?今天小編給大家分享一篇教程幫助大家學(xué)習(xí)goland調(diào)試遠(yuǎn)程代碼的操作步驟,感興趣的朋友跟隨小編一起看看吧2021-06-06go引入自建包名報錯:package?XXX?is?not?in?std解決辦法
這篇文章主要給大家介紹了go引入自建包名報錯:package?XXX?is?not?in?std的解決辦法,這是在寫測試引入包名的時候遇到的錯誤提示,文中將解決辦法介紹的非常詳細(xì),需要的朋友可以參考下2023-12-12