perl 中文處理技巧
更新時間:2008年10月01日 23:59:01 作者:
perl對中文的處理(encode,decode)
最近在處理中文時遇到亂碼的問題,google了一下,發(fā)現(xiàn)下面這篇文章。茅塞頓開!
Perl從5.6開始已經(jīng)開始在內(nèi)部使用utf8編碼來表示字符,也就是說對中文以及其他語言字符的處理應(yīng)該是完全沒有問題的。我們只需要利用好Encode這個模塊便能充分發(fā)揮Perl的utf8字符的優(yōu)勢了。
下面就以中文文本的處理為例進(jìn)行說明,比如有一個字符串"測試文本",我們想要把這個中文字符串拆成單個字符,可以這樣寫:
use Encode;
$dat="測試文本";
$str=decode("gb2312",$dat);
@chars=split //,$str;
foreach $char (@chars) {
print encode("gb2312",$char),"\n";
}
結(jié)果大家試一試就知道了,應(yīng)該是令人滿意的。
這里主要用到了Encode模塊的decode、encode函數(shù)。要了解這兩個函數(shù)的作用我們需要清楚幾個概念:
1、Perl字符串是使用utf8編碼的,它由Unicode字符組成而不是單個字節(jié),每個utf8編碼的Unicode字符占1~4個字節(jié)(變長)。
2、進(jìn)入或離開Perl處理環(huán)境(比如輸出到屏幕、讀入和保存文件等等)時不是直接使用Perl字符串,而需要把Perl字符串轉(zhuǎn)換成字節(jié)流,轉(zhuǎn)換過程中使用何種編碼方式完全取決于你(或者由Perl代勞)。一旦Perl字符串向字節(jié)流的編碼完成,字符的概念就不存在了,變成了純粹的字節(jié)組合,如何解釋這些組合則是你自己的工作。
我們可以看出如果想要Perl按照我們的字符概念來對待文本,文本數(shù)據(jù)就需要一直用Perl字符串的形式存放。但是我們平時寫出的每個字符一般都被作為純ASCII字符保存(包括在程序中明文寫出的字符串),也就是字節(jié)流的形式,這里就需要encode和decode函數(shù)的幫助了。
encode函數(shù)顧名思義是用來編碼Perl字符串的。它將Perl字符串中的字符用指定的編碼格式編碼,最終轉(zhuǎn)化為字節(jié)流的形式,因此和Perl處理環(huán)境之外的事物打交道經(jīng)常需要它。其格式很簡單:
$octets = encode(ENCODING, $string [, CHECK])
$string: Perl字符串
encoding: 是給定的編碼方式
$octets: 是編碼之后的字節(jié)流
check: 表示轉(zhuǎn)換時如何處理畸變字符(也就是Perl認(rèn)不出來的字符)。一般不需使用
編碼方式視語言環(huán)境的不同有很大變化,默認(rèn)可以識別utf8、ascii、ascii-ctrl、
iso-8859-1等。
decode函數(shù)則是用來解碼字節(jié)流的。它按照你給出的編碼格式解釋給定的字節(jié)流,將其轉(zhuǎn)化為使用utf8編碼的Perl字符串,一般來說從終端或者文件取得的文本數(shù)據(jù)都應(yīng)該用decode轉(zhuǎn)換為Perl字符串的形式。它的格式為:
$string = decode(ENCODING, $octets [, CHECK])
$string、ENCODING、$octets和CHECK的含義同上。
現(xiàn)在就很容易理解上面寫的那段程序了。因為字符串是用明文寫出的,存放的時候已經(jīng)是字節(jié)流形式,喪失了本來的意義,所以首先就要用 decode函數(shù)將其轉(zhuǎn)換為Perl字符串,由于漢字一般都用gb2312格式編碼,這里decode也要使用gb2312編碼格式。轉(zhuǎn)換完成后Perl 對待字符的行為就和我們一樣了,平時對字符串進(jìn)行操作的函數(shù)基本上都能正確對字符進(jìn)行處理,除了那些本來就把字符串當(dāng)成一堆字節(jié)的函數(shù)(如vec、 pack、unpack等)。于是split就能把字符串切成單個字符了。最后由于在輸出的時候不能直接使用utf8編碼的字符串,還需要將切割后的字符用encode函數(shù)編碼為gb2312格式的字節(jié)流,再用print輸出。
下面就以中文文本的處理為例進(jìn)行說明,比如有一個字符串"測試文本",我們想要把這個中文字符串拆成單個字符,可以這樣寫:
use Encode;
$dat="測試文本";
$str=decode("gb2312",$dat);
@chars=split //,$str;
foreach $char (@chars) {
print encode("gb2312",$char),"\n";
}
結(jié)果大家試一試就知道了,應(yīng)該是令人滿意的。
這里主要用到了Encode模塊的decode、encode函數(shù)。要了解這兩個函數(shù)的作用我們需要清楚幾個概念:
1、Perl字符串是使用utf8編碼的,它由Unicode字符組成而不是單個字節(jié),每個utf8編碼的Unicode字符占1~4個字節(jié)(變長)。
2、進(jìn)入或離開Perl處理環(huán)境(比如輸出到屏幕、讀入和保存文件等等)時不是直接使用Perl字符串,而需要把Perl字符串轉(zhuǎn)換成字節(jié)流,轉(zhuǎn)換過程中使用何種編碼方式完全取決于你(或者由Perl代勞)。一旦Perl字符串向字節(jié)流的編碼完成,字符的概念就不存在了,變成了純粹的字節(jié)組合,如何解釋這些組合則是你自己的工作。
我們可以看出如果想要Perl按照我們的字符概念來對待文本,文本數(shù)據(jù)就需要一直用Perl字符串的形式存放。但是我們平時寫出的每個字符一般都被作為純ASCII字符保存(包括在程序中明文寫出的字符串),也就是字節(jié)流的形式,這里就需要encode和decode函數(shù)的幫助了。
encode函數(shù)顧名思義是用來編碼Perl字符串的。它將Perl字符串中的字符用指定的編碼格式編碼,最終轉(zhuǎn)化為字節(jié)流的形式,因此和Perl處理環(huán)境之外的事物打交道經(jīng)常需要它。其格式很簡單:
$octets = encode(ENCODING, $string [, CHECK])
$string: Perl字符串
encoding: 是給定的編碼方式
$octets: 是編碼之后的字節(jié)流
check: 表示轉(zhuǎn)換時如何處理畸變字符(也就是Perl認(rèn)不出來的字符)。一般不需使用
編碼方式視語言環(huán)境的不同有很大變化,默認(rèn)可以識別utf8、ascii、ascii-ctrl、
iso-8859-1等。
decode函數(shù)則是用來解碼字節(jié)流的。它按照你給出的編碼格式解釋給定的字節(jié)流,將其轉(zhuǎn)化為使用utf8編碼的Perl字符串,一般來說從終端或者文件取得的文本數(shù)據(jù)都應(yīng)該用decode轉(zhuǎn)換為Perl字符串的形式。它的格式為:
$string = decode(ENCODING, $octets [, CHECK])
$string、ENCODING、$octets和CHECK的含義同上。
現(xiàn)在就很容易理解上面寫的那段程序了。因為字符串是用明文寫出的,存放的時候已經(jīng)是字節(jié)流形式,喪失了本來的意義,所以首先就要用 decode函數(shù)將其轉(zhuǎn)換為Perl字符串,由于漢字一般都用gb2312格式編碼,這里decode也要使用gb2312編碼格式。轉(zhuǎn)換完成后Perl 對待字符的行為就和我們一樣了,平時對字符串進(jìn)行操作的函數(shù)基本上都能正確對字符進(jìn)行處理,除了那些本來就把字符串當(dāng)成一堆字節(jié)的函數(shù)(如vec、 pack、unpack等)。于是split就能把字符串切成單個字符了。最后由于在輸出的時候不能直接使用utf8編碼的字符串,還需要將切割后的字符用encode函數(shù)編碼為gb2312格式的字節(jié)流,再用print輸出。
相關(guān)文章
Perl Mysql數(shù)據(jù)庫操作實現(xiàn)代碼
對于perl操作mysql的步驟,說的比較詳細(xì),建議大家好好看看,參考2009-01-01