Go語言中多字節(jié)字符的處理方法詳解
1 概述
Go語言的字符串是使用 UTF-8 編碼的。UTF-8 是 Unicode 的實現(xiàn)方式之一。本文內(nèi)容包括：UTF-8 和 Unicode 的關(guān)系，Go語言提供的 unicode 包和 unicode/utf8 包的使用。
下面話不多說了，來一起看看詳細(xì)的介紹吧
2 UTF-8 和 Unicode 的關(guān)系
Unicode一種字符集，是國際標(biāo)誰化組織（ISO）設(shè)計的一個包括了地球上所有文化、所有字母和符號 的編碼。他們叫它 Universal Multiple-Octet Coded Character Set，簡稱 UCS，也就是 Unicode。Unicode 為每一個 字符 分配一個唯一的 碼點（Code Point），就是一個唯一的值。例如 康 的碼點就是 24247，十六進(jìn)制為 5eb7。
Unicode 字符集僅僅定義了字符與碼點的對應(yīng)關(guān)系，但是并沒有定義該如何編碼（存儲）這個碼值，這就導(dǎo)致了很多問題。例如由于字符的碼值不同，導(dǎo)致所需要的存儲空間是不一致的，計算機不能確定接下來的字符是占用幾個字節(jié)。還有就是如果采用固定的長度假設(shè)都是4個字節(jié)來存儲碼點值，那么會導(dǎo)致空間的額外浪費，因為 ascii 碼字符其實僅僅需要一個字節(jié)的空間。
UTF-8 就是解決如何為 Unicode 編碼而設(shè)計的一種編碼規(guī)則。可以說 UTF-8 是 Unicode 的實現(xiàn)方式之一。其特點是一種變長編碼，使用1到4個字節(jié)表示一個字符，根據(jù)不同的符號而變化長度。UTF-8 的編碼規(guī)則有二：
- 對于單字節(jié)的符號，字節(jié)的第一位設(shè)為0，后面7位為這個符號的 Unicode 碼。因此對于ASCII碼字符，UTF-8 編碼和 ASCII 碼是相同的。
- 對于 n 字節(jié)的符號（n > 1，2到4），第一個字節(jié)的前n位都設(shè)為1，第n + 1 位設(shè)為 0，后面字節(jié)的前兩位一律設(shè)為10。剩下的沒有提及的二進(jìn)制位，全部為這個符號的 Unicode 碼。
以下是編碼規(guī)則：
Unicode | UTF-8 --------------------------------------------------------- 0000 0000-0000 007F | 0xxxxxxx 0000 0080-0000 07FF | 110xxxxx 10xxxxxx 0000 0800-0000 FFFF | 1110xxxx 10xxxxxx 10xxxxxx 0001 0000-0010 FFFF | 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx ---------------------------------------------------------
Go語言中，對于 Unicode 和 UTF-8 使用了 unicode 和 unicode/utf8 包來實現(xiàn)，下面是閱讀 API 的總結(jié)和說明。
3 Unicode 包
Go語言中，提供了 Unicode 包，處理與 Unicode 相關(guān)的操作，整理如下：
Is(rangeTab *RangeTable, r rune) bool
檢測 rune r 是否在 rangeTable 指定的字符范圍內(nèi)。
rangeTable 一個 Unicode 碼值集合，通常使用 unicode 包中定義的集合。
判斷字符是否出現(xiàn)在漢字集合中：
unicode.Is(unicode.Scripts["Han"], 'k') // 返回 false unicode.Is(unicode.Scripts["Han"], '康') // 返回 true
In(r rune, ranges …*RangeTable) bool
檢測 rune r 是否在多個 rangeTable 指定的字符范圍內(nèi)。
rangeTable 一個 Unicode 碼值集合，通常使用 unicode 包中定義的集合。
unicode.In('康', unicode.Scripts["Han"], unicode.Scripts["Latin"])
// 返回 true
unicode.In('k', unicode.Scripts["Han"], unicode.Scripts["Latin"])
// 返回 true
IsOneOf(ranges []*RangeTable, r rune) bool
檢測 rune r 是否在 rangeTable ranges 指定的字符范圍內(nèi)。與 In 功能類似，推薦使用 In。
IsSpace(r rune) bool
檢測字符 rune r 是否是空白字符。在Latin-1字符空間中，空白字符為：
'\t', '\n', '\v', '\f', '\r', ' ', U+0085 (NEL), U+00A0 (NBSP)
其它的空白字符請參見策略Z和屬性Pattern_White_Space。
IsDigit(r rune) bool
檢測字符 rune r 是否是十進(jìn)制數(shù)字字符。
unicode.IsDigit('9')
// 返回 true
unicode.IsDigit('k')
// 返回 false
IsNumber(r rune) bool
檢測字符 rune r 是否是 Unicode 數(shù)字字符。
IsLetter(r rune) bool
檢測一個字符 rune r 是否是字母
unicode.IsLetter('9')
// 返回 false
unicode.IsLetter('k')
// 返回 true
IsGraphic(r rune) bool
一個字符 rune r 是否是 unicode 圖形字符。圖形字符包括字母、標(biāo)記、數(shù)字、符號、標(biāo)點、空白。
unicode.IsGraphic('9')
// 返回 true
unicode.IsGraphic(',')
// 返回 true
IsControl(r rune) bool
檢測一個字符 rune r 是否是 unicode 控制字符。
IsMark(r rune) bool
檢測一個字符 rune r 是否是標(biāo)記字符。
IsPrint(r rune) bool
檢測一個字符 rune r 是否是的可打印字符，基本與圖形字符一致，除ASCII空白字符U+0020。
IsPunct(r rune) bool
檢測一個字符 rune r 是否是 unicode標(biāo)點字符。
unicode.IsPunct('9')
// 返回 false
unicode.IsPunct(',')
// 返回 true
IsSymbol(r rune) bool
檢測一個字符 rune r 是否是 unicode 符號字符。
IsLower(r rune) bool
檢測一個字符 rune r 是否是小寫字母。
unicode.IsLower('h')
// 返回 true
unicode.IsLower('H')
// 返回 false
IsUpper(r rune) bool
檢測一個字符 rune r 是否是大寫字母。
unicode.IsUpper('h')
// 返回 false
unicode.IsUpper('H')
// 返回 true
IsTitle(r rune) bool
檢測一個字符 rune r 是否是Title字符。大部分字符的 Title 格式就是其大寫格式，少數(shù)字符的 Title 格式是特殊字符，例如 ᾏᾟᾯ。
unicode.IsTitle('ᾯ')
// 返回 true
unicode.IsTitle('h')
// 返回 false
unicode.IsTitle('H')
// 返回 true
To(_case int, r rune) rune
將字符 rune r 轉(zhuǎn)換為指定的格式，格式_case支持：unicode.UpperCase、unicode.LowerCase、unicode.TitleCase
unicode.To(unicode.UpperCase, 'h') // 返回 H
ToLower(r rune) rune
將字符 rune r 轉(zhuǎn)換為小寫。
unicode.ToLower('H')
// 返回 h
func (SpecialCase) ToLower
將字符 rune r 轉(zhuǎn)換為小寫。優(yōu)先使用映射表 SpecialCase。
映射表 SpecialCase 是特定語言環(huán)境下大小寫的映射表。主要應(yīng)用于一些歐洲字符，例如土耳其 TurkishCase。
unicode.TurkishCase.ToLower('İ')
// 返回 i
ToUpper(r rune) rune
將字符 rune r 轉(zhuǎn)換為大寫。
unicode.ToUpper('h')
// 返回 H
func (SpecialCase) ToUpper
將字符 rune r 轉(zhuǎn)換為大寫。優(yōu)先使用映射表 SpecialCase。
映射表 SpecialCase 是特定語言環(huán)境下大小寫的映射表。主要應(yīng)用于一些歐洲字符，例如土耳其 TurkishCase。
unicode.TurkishCase.ToUpper('i')
// 返回 İ
ToTitle(r rune) rune
將字符 rune r 轉(zhuǎn)換為 Title 字符。
unicode.ToTitle('h')
// 返回 H
func (SpecialCase) ToTitle
將字符 rune r 轉(zhuǎn)換為 Title 字符。優(yōu)先使用映射表 SpecialCase。
映射表 SpecialCase 是特定語言環(huán)境下大小寫的映射表。主要應(yīng)用于一些歐洲字符，例如土耳其 TurkishCase。
unicode.TurkishCase.ToTitle('i')
// 返回 İ
SimpleFold(r rune) rune
在 unicode 標(biāo)準(zhǔn)字符映射中查找與 rune r 互相對應(yīng)的 unicode 碼值。向碼值大的方向循環(huán)查找?；ハ鄬?yīng)指的是同一個字符可能出現(xiàn)的多種寫法。
unicode.SimpleFold('H')
// 返回 h
unicode.SimpleFold('Φ'))
// 返回 φ
4 unicode/utf8 包
DecodeLastRune(p []byte) (r rune, size int)
解碼 []byte p 中最后一個 UTF-8 編碼序列，返回該碼值和長度。
utf8.DecodeLastRune([]byte("小韓說課"))
// 返回 35838 3
// 35838 就是課的 unicode 碼值
DecodeLastRuneInString(s string) (r rune, size int)
解碼 string s 中最后一個 UTF-8 編碼序列，返回該碼值和長度。
utf8.DecodeLastRuneInString("小韓說課")
// 返回 35838 3
// 35838 就是課的 unicode 碼值
DecodeRune(p []byte) (r rune, size int)
解碼 []byte p 中第一個 UTF-8 編碼序列，返回該碼值和長度。
utf8.DecodeRune([]byte("小韓說課"))
// 返回 23567 3
// 23567 就是 小 的 unicode 碼值
DecodeRuneInString(s string) (r rune, size int)
解碼 string s 中第一個 UTF-8 編碼序列，返回該碼值和長度。
utf8.DecodeRuneInString("小韓說課")
// 返回 23567 3
// 23567 就是 小 的 unicode 碼值
EncodeRune(p []byte, r rune) int
將 rune r 的 UTF-8 編碼序列寫入 []byte p，并返回寫入的字節(jié)數(shù)。p 滿足足夠的長度。
buf := make([]byte, 3) n := utf8.EncodeRune(buf, '康') fmt.Println(buf, n) // 輸出 [229 186 183] 3
FullRune(p []byte) bool
檢測 []byte p 是否包含一個完整 UTF-8 編碼。
buf := []byte{229, 186, 183} // 康
utf8.FullRune(buf)
// 返回 true
utf8.FullRune(buf[:2])
// 返回 false
FullRuneInString(s string) bool
檢測 string s 是否包含一個完整 UTF-8 編碼。
buf := "康" // 康 utf8.FullRuneInString(buf) // 返回 true utf8.FullRuneInString(buf[:2]) // 返回 false
RuneCount(p []byte) int
返回 []byte p 中的 UTF-8 編碼的碼值的個數(shù)。
buf := []byte("小韓說課")
len(buf)
// 返回 12
utf8.RuneCount(buf)
// 返回 4
RuneCountInString(s string) (n int)
返回 string s 中的 UTF-8 編碼的碼值的個數(shù)。
buf := "小韓說課" len(buf) // 返回 12 utf8.RuneCountInString(buf) // 返回 4
RuneLen(r rune) int
返回 rune r 編碼后的字節(jié)數(shù)。
utf8.RuneLen('康')
// 返回 3
utf8.RuneLen('H')
// 返回 1
RuneStart(b byte) bool
檢測字節(jié) byte b 是否可以作為某個 rune 編碼的第一個字節(jié)。
buf := "小韓說課" utf8.RuneStart(buf[0]) // 返回 true utf8.RuneStart(buf[1]) // 返回 false utf8.RuneStart(buf[3]) // 返回 true
Valid(p []byte) bool
檢測切片 []byte p 是否包含完整且合法的 UTF-8 編碼序列。
valid := []byte("小韓說課")
invalid := []byte{0xff, 0xfe, 0xfd}
utf8.Valid(valid)
// 返回 true
utf8.Valid(invalid)
// 返回 false
ValidRune(r rune) bool
檢測字符 rune r 是否包含完整且合法的 UTF-8 編碼序列。
valid := 'a' invalid := rune(0xfffffff) fmt.Println(utf8.ValidRune(valid)) // 返回 true fmt.Println(utf8.ValidRune(invalid)) // 返回 false
ValidString(s string) bool
檢測字符串 string s 是否包含完整且合法的 UTF-8 編碼序列。
valid := "小韓說課"
invalid := string([]byte{0xff, 0xfe, 0xfd})
fmt.Println(utf8.ValidString(valid))
// 返回 true
fmt.Println(utf8.ValidString(invalid))
// 返回 false
完！
總結(jié)
以上就是這篇文章的全部內(nèi)容了，希望本文的內(nèi)容對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，如果有疑問大家可以留言交流，謝謝大家對腳本之家的支持。
相關(guān)文章
在prometheus中如果要監(jiān)控服務(wù)器和應(yīng)用的各種指標(biāo)，需要用各種各樣的exporter服務(wù)，這篇文章主要介紹了使用go自定義prometheus的exporter,需要的朋友可以參考下2023-03-03
golang利用函數(shù)閉包實現(xiàn)簡單的中間件
中間件設(shè)計模式是一種常見的軟件設(shè)計模式,它在許多編程語言和框架中被廣泛應(yīng)用,這篇文章主要為大家介紹一下golang利用函數(shù)閉包實現(xiàn)一個簡單的中間件,感興趣的可以了解下2023-10-10
Kafka是一種備受歡迎的流處理平臺,具備分布式、可擴(kuò)展、高性能和可靠的特點,在處理Kafka數(shù)據(jù)時,有多種最佳實踐可用來確保高效和可靠的處理,這篇文章將介紹golang中如何使用kafka方法2024-01-01
Go strconv包實現(xiàn)字符串和基本數(shù)據(jù)類型轉(zhuǎn)換的實例詳解
在Go語言（Golang）的編程實踐中,strconv包是一個非常重要的標(biāo)準(zhǔn)庫,它提供了在基本數(shù)據(jù)類型（如整型、浮點型、布爾型）和字符串之間的轉(zhuǎn)換功能,本文給大家介紹了關(guān)于Go語言字符串轉(zhuǎn)換strconv,需要的朋友可以參考下2024-09-09
這篇文章主要介紹了Go 字符串指紋的相關(guān)資料，幫助大家更好的理解和學(xué)習(xí)go語言，感興趣的朋友可以了解下2020-09-09
本文主要介紹了Golang 操作TSV文件的實戰(zhàn)示例，文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2023-03-03
這篇文章主要介紹了Go語言實現(xiàn)簡單留言板的方法,涉及數(shù)據(jù)庫、模板頁面元素等留言板相關(guān)技巧,具有一定參考借鑒價值,需要的朋友可以參考下2015-02-02
Golang是一種非常流行的編程語言，它的開發(fā)速度快，代碼運行效率高等特點非常適合做Web應(yīng)用的開發(fā)。本文將介紹如何使用Golang搭建HTTP服務(wù)器，需要的朋友可以參考閱讀2023-04-04
這篇文章主要為大家介紹了go語言代碼生成器code?generator的使用簡單介紹，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪2022-05-05
Go緩沖channel和非緩沖channel的區(qū)別說明
這篇文章主要介紹了Go緩沖channel和非緩沖channel的區(qū)別說明，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2021-04-04