c#字符串編碼問題的處理解決
一、 ASCII碼
我們知道,在計(jì)算機(jī)內(nèi)部,所有的信息最終都表示為一個(gè)二進(jìn)制的字符串。每一個(gè)二進(jìn)制位(bit)有0和1兩種狀態(tài),因此八個(gè)二進(jìn)制位就可以組合出256種狀態(tài),這被稱為一個(gè)字節(jié)(byte)。也就是說,一個(gè)字節(jié)一共可以用來表示256種不同的狀態(tài),每一個(gè)狀態(tài)對(duì)應(yīng)一個(gè)符號(hào),就是256個(gè)符號(hào),從00000000到11111111。
上個(gè)世紀(jì)60年代,美國制定了一套字符編碼,對(duì)英語字符與二進(jìn)制位之間的關(guān)系,做了統(tǒng)一規(guī)定。這被稱為ASCII碼,一直沿用至今。ASCII碼一共規(guī)定了128個(gè)字符的編碼,比如空格“SPACE”是32(二進(jìn)制00100000),大寫的字母A是65(二進(jìn)制01000001)。這128個(gè)符號(hào)(包括32個(gè)不能打印出來的控制符號(hào)),只占用了一個(gè)字節(jié)的后面7位,最前面的1位統(tǒng)一規(guī)定為0。
在C#中如果你想看看某個(gè)字母的ASCII碼是多少,可以使用表示字符編碼的類Encoding ,代碼如下:
string s = "a"; byte[] ascii = Encoding.ASCII.GetBytes(s);
我們通過調(diào)試器可以看到ascii中為97,也就是說a的ASCII碼為97(1100001)
二、非ASCII編碼
英語用128個(gè)符號(hào)編碼就夠了,但是用來表示其他語言,128個(gè)符號(hào)是不夠的。比如,在法語中,字母上方有注音符號(hào),它就無法用ASCII碼表示。于是,一些歐洲國家就決定,利用字節(jié)中閑置的最高位編入新的符號(hào)。比如,法語中的é的編碼為130(二進(jìn)制10000010)。這樣一來,這些歐洲國家使用的編碼體系,可以表示最多256個(gè)符號(hào)。
但是,這里又出現(xiàn)了新的問題。不同的國家有不同的字母,因此,哪怕它們都使用256個(gè)符號(hào)的編碼方式,代表的字母卻不一樣。比如,130在法語編碼中代表了é,在希伯來語編碼中卻代表了字母Gimel ,在俄語編碼中又會(huì)代表另一個(gè)符號(hào)。但是不管怎樣,所有這些編碼方式中,0—127表示的符號(hào)是一樣的,不一樣的只是128—255的這一段。
至于亞洲國家的文字,使用的符號(hào)就更多了,漢字就多達(dá)10萬左右。一個(gè)字節(jié)只能表示256種符號(hào),肯定是不夠的,就必須使用多個(gè)字節(jié)表達(dá)一個(gè)符號(hào)。比如,簡體中文常見的編碼方式是GB2312,使用兩個(gè)字節(jié)表示一個(gè)漢字,所以理論上最多可以表示256x256=65536個(gè)符號(hào)。在C#中如果你想看看某個(gè)漢字的GB2312編碼可以使用如下代碼:
string s = "梁"; System.Text.Encoding GB2312 = System.Text.Encoding.GetEncoding("GB2312"); byte[] gb = GB2312.GetBytes(s);
這時(shí)gb中有兩個(gè)數(shù)字193(11000001),186(10111010)
三、Unicode
正如上邊所說,世界上存在著多種編碼方式,同一個(gè)二進(jìn)制數(shù)字可以被解釋成不同的符號(hào)。因此,要想打開一個(gè)文本文件,就必須知道它的編碼方式,否則用錯(cuò)誤的編碼方式解讀,就會(huì)出現(xiàn)亂碼。為什么電子郵件常常出現(xiàn)亂碼?就是因?yàn)榘l(fā)信人和收信人使用的編碼方式不一樣。
可以想象,如果有一種編碼,將世界上所有的符號(hào)都納入其中。每一個(gè)符號(hào)都給予一個(gè)獨(dú)一無二的編碼,那么亂碼問題就會(huì)消失。這就是Unicode,就像它的名字都表示的,這是一種所有符號(hào)的編碼。
Unicode當(dāng)然是一個(gè)很大的集合,現(xiàn)在的規(guī)??梢匀菁{100多萬個(gè)符號(hào)。每個(gè)符號(hào)的編碼都不一樣。C#中如果你想看看某個(gè)漢字的Unicode編碼可以使用如下代碼:
string s = "梁"; byte[] unicode = Encoding.Unicode.GetBytes(s);
這時(shí)unicode中有兩個(gè)數(shù)字129(10000001),104(1101000)
四、Unicode的問題
需要注意的是,Unicode只是一個(gè)符號(hào)集,它只規(guī)定了符號(hào)的二進(jìn)制代碼,卻沒有規(guī)定這個(gè)二進(jìn)制代碼應(yīng)該如何存儲(chǔ)。
比如,漢字“梁”的unicode是(110100010000001),也就是說這個(gè)符號(hào)的表示至少需要2個(gè)字節(jié)。表示其他更大的符號(hào),可能需要3個(gè)字節(jié)或者4個(gè)字節(jié),甚至更多。
這里就有兩個(gè)嚴(yán)重的問題,第一個(gè)問題是,如何才能區(qū)別unicode和ascii?計(jì)算機(jī)怎么知道三個(gè)字節(jié)表示一個(gè)符號(hào),而不是分別表示三個(gè)符號(hào)呢?第二個(gè)問題是,我們已經(jīng)知道,英文字母只用一個(gè)字節(jié)表示就夠了,如果unicode統(tǒng)一規(guī)定,每個(gè)符號(hào)用三個(gè)或四個(gè)字節(jié)表示,那么每個(gè)英文字母前都必然有二到三個(gè)字節(jié)是0,這對(duì)于存儲(chǔ)來說是極大的浪費(fèi),文本文件的大小會(huì)因此大出二三倍,這是無法接受的。
它們?cè)斐傻慕Y(jié)果是:1)出現(xiàn)了unicode的多種存儲(chǔ)方式,也就是說有許多種不同的二進(jìn)制格式,可以用來表示unicode。2)unicode在很長一段時(shí)間內(nèi)無法推廣,直到互聯(lián)網(wǎng)的出現(xiàn)。
五、UTF-8
互聯(lián)網(wǎng)的普及,強(qiáng)烈要求出現(xiàn)一種統(tǒng)一的編碼方式。UTF-8就是在互聯(lián)網(wǎng)上使用最廣的一種unicode的實(shí)現(xiàn)方式。其他實(shí)現(xiàn)方式還包括UTF-16和UTF-32,不過在互聯(lián)網(wǎng)上基本不用。重復(fù)一遍,這里的關(guān)系是,UTF-8是Unicode的實(shí)現(xiàn)方式之一。
UTF-8最大的一個(gè)特點(diǎn),就是它是一種變長的編碼方式。它可以使用1~4個(gè)字節(jié)表示一個(gè)符號(hào),根據(jù)不同的符號(hào)而變化字節(jié)長度。
UTF-8的編碼規(guī)則很簡單,只有二條:
1)對(duì)于單字節(jié)的符號(hào),字節(jié)的第一位設(shè)為0,后面7位為這個(gè)符號(hào)的unicode碼。因此對(duì)于英語字母,UTF-8編碼和ASCII碼是相同的。
2)對(duì)于n字節(jié)的符號(hào)(n>1),第一個(gè)字節(jié)的前n位都設(shè)為1,第n+1位設(shè)為0,后面字節(jié)的前兩位一律設(shè)為10。剩下的沒有提及的二進(jìn)制位,全部為這個(gè)符號(hào)的unicode碼。
Unicode和UTF-8之間轉(zhuǎn)換關(guān)系 |
|
UCS-2編碼 |
UTF-8字節(jié)流 |
U-00000000 – U-0000007F: |
0xxxxxxx |
U-00000080 – U-000007FF: |
110xxxxx 10xxxxxx |
U-00000800 – U-0000FFFF: |
1110xxxx 10xxxxxx 10xxxxxx |
U-00010000 – U-001FFFFF: |
11110xxx 10xxxxxx 10xxxxxx 10xxxxxx |
U-00200000 – U-03FFFFFF: |
111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx |
U-04000000 – U-7FFFFFFF: |
1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx |
舉一個(gè)例子
我們使用代碼
string s = "梁"; byte[] unicode = Encoding.Unicode.GetBytes(s); byte[] utf8 =Encoding.UTF8.GetBytes(s);
用調(diào)試器可以看到
這里在內(nèi)存中的數(shù)據(jù)是由高到低排列的,104十六進(jìn)制為68,129十六進(jìn)制為81,也就是說"梁"的unicode是十六進(jìn)制為6881,二進(jìn)制為110100010000001,我們從上邊的表中可以查到,6881應(yīng)該屬于地三行(800-FFFF),因此"梁"的UTF-8編碼需要三個(gè)字節(jié)即格式是“1110xxxx 10xxxxxx 10xxxxxx”。然后,從“梁”的最后一個(gè)二進(jìn)制位開始,依次從后向前填入格式中的x,多出的位補(bǔ)0。這樣就得到了,“梁”的UTF-8編碼是“111001101010001010000001”,按沒8位轉(zhuǎn)換成十進(jìn)制就是230,162,129。正好和上圖中utf8中的值一樣。
六、C# UTF-8 轉(zhuǎn) GB2312
NET中內(nèi)存中的字符串都是Unicode,所以測試程序在控制臺(tái)應(yīng)用程序下不好寫,請(qǐng)大家根據(jù)如下代碼自己來寫吧:
string UTF8ToGb2312(string str) { string gb2312info = string.Empty; Encoding utf8 = Encoding.UTF8; Encoding gb2312 = Encoding.GetEncoding("gb2312"); byte[] unicodeBytes = utf8.GetBytes(str); byte[] asciiBytes = Encoding.Convert(utf8, gb2312, unicodeBytes); char[] asciiChars = new char[gb2312.GetCharCount(asciiBytes, 0, asciiBytes.Length)]; gb2312.GetChars(asciiBytes, 0, asciiBytes.Length, asciiChars, 0); gb2312info = new string(asciiChars); return gb2312info; }
七、UTF8優(yōu)點(diǎn)
UTF-8是世界通用的語言編碼,如果在其他語言的操作系統(tǒng)下訪問gb2312編碼的網(wǎng)站,需要下載語言包,所以為了網(wǎng)站的通用性起見,用UTF8編碼是更好的選擇,但是相比較而言gb2312要比UTF-8得到的數(shù)據(jù)量少一些。
八、亂碼問題:
如果在內(nèi)存、文件或電子郵件中有一個(gè)字符串,那么應(yīng)該知道它是使用什么編碼方案,否則就不能將它正確的解釋或顯示給用戶。如果在試圖使用的編碼方案中沒有相應(yīng)的編碼值得等價(jià)內(nèi)容,那么通常會(huì)顯示一個(gè)小問號(hào)“?”,或者顯示一個(gè)方框。NET中內(nèi)存中的字符串都是Unicode,而asp.net程序默認(rèn)是UTF-8編碼,我們?cè)谑褂媚承┳址畷r(shí)出現(xiàn)了亂碼,我們首先要判斷是不是我們解釋用的編碼方式出錯(cuò)了
以上就是本文的全部內(nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
C#判斷程序是否是管理員權(quán)限運(yùn)行的方法代碼示例
這篇文章主要介紹了C#判斷程序是否是管理員權(quán)限運(yùn)行的方法代碼示例,本文直接給出實(shí)現(xiàn)代碼例子,需要的朋友可以參考下2015-03-03C#實(shí)現(xiàn)批量Word轉(zhuǎn)換Html的示例代碼
這篇文章主要為大家詳細(xì)介紹了如何利用C#批量Word轉(zhuǎn)換Html的功能,文中的示例代碼講解詳細(xì),對(duì)我們學(xué)習(xí)C#有一定的幫助,感興趣的小伙伴可以跟隨小編一起了解一下2022-12-12給c#添加SetTimeout和SetInterval函數(shù)
Javascript中的SetTimeout和SetInterval函數(shù)很方便,把他們移植到c#中來。2008-03-03C#備忘錄人生存檔的設(shè)計(jì)模式實(shí)例
這篇文章主要為大家介紹了C#設(shè)計(jì)模式中備忘錄模式的實(shí)例詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2022-06-06C#實(shí)現(xiàn)Post數(shù)據(jù)或文件到指定的服務(wù)器進(jìn)行接收
這篇文章主要為大家詳細(xì)介紹了如何通過C#實(shí)現(xiàn)Post數(shù)據(jù)或文件到指定的服務(wù)器進(jìn)行接收,文中的示例代碼講解詳細(xì),需要的小伙伴可以參考下2024-03-03C#循環(huán)與循環(huán)控制的表達(dá)式樹實(shí)現(xiàn)
這篇文章介紹了C#循環(huán)與循環(huán)控制的表達(dá)式樹實(shí)現(xiàn),文中通過示例代碼介紹的非常詳細(xì)。對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2022-01-01C#實(shí)現(xiàn)數(shù)據(jù)導(dǎo)出任一Word圖表的通用呈現(xiàn)方法
應(yīng)人才測評(píng)產(chǎn)品的需求,導(dǎo)出測評(píng)報(bào)告是其中一個(gè)重要的環(huán)節(jié),報(bào)告的文件類型也多種多樣,其中WORD輸出也扮演了一個(gè)重要的角色,本文給大家介紹了C#實(shí)現(xiàn)數(shù)據(jù)導(dǎo)出任一Word圖表的通用呈現(xiàn)方法及一些體會(huì),需要的朋友可以參考下2023-10-10C#中如何在Excel工作表創(chuàng)建混合型圖表實(shí)例
本篇文章主要介紹了C#中如何在Excel工作表創(chuàng)建混合型圖表實(shí)例,具有一定的參考價(jià)值,有需要的可以了解一下。2016-11-11