UTF-8文件的Unicode簽名BOM(Byte Order Mark)問題

近日在調測一個UTF8編碼的中文Zen Cart網站時遇到一件怪事,網頁顯示文字正常,用ie的察看源文件(記事本打開)卻發(fā)現(xiàn)亂碼,firefox沒有這個問題。經在網上多方查證和多次測試,解決了這個問題,其實是UTF-8文件的Unicode簽名BOM(Byte Order Mark)問題。
BOM(Byte Order Mark),是UTF編碼方案里用于標識編碼的標準標記,在UTF-16里本來是FF FE,變成UTF-8就成了EF BB BF。這個標記是可選的,因為UTF8字節(jié)沒有順序,所以它可以被用來檢測一個字節(jié)流是否是UTF-8編碼的。微軟做這種檢測,但有些軟件不做這種檢測,而把它當作正常字符處理。
微軟在自己的UTF-8格式的文本文件之前加上了EF BB BF三個字節(jié), windows上面的notepad等程序就是根據(jù)這三個字節(jié)來確定一個文本文件是ASCII的還是UTF-8的, 然而這個只是微軟暗自作的標記, 其它平臺上并沒有對UTF-8文本文件做個這樣的標記。
也就是說一個UTF-8文件可能有BOM,也可能沒有BOM,那么怎么區(qū)分呢?三種方法。1,用UltraEdit-32打開文件,切換到十六進制編輯模式,察看文件頭部是否有EF BB BF。2,用Dreamweaver打開,察看頁面屬性,看“包括Unicode簽名BOM”前面是否有個勾。3,用Windows的記事本打開,選擇 “另存為”,看文件的默認編碼是UTF-8還是ANSI,如果是ANSI則不帶BOM。
我找到Zen Cart的模版文件中的html_header.php,發(fā)現(xiàn)文件果然不帶BOM,用UltraEdit-32另存為的方式加上BOM后,再上傳html_header.php,一切正常。
注意用Convertz把gb2312文件轉換成UTF-8文件時,默認設置是不帶BOM的。不帶BOM可能出現(xiàn)上述亂碼問題,但是帶 BOM,對于php的include文件要小心,會在php字節(jié)流前面多出EF BB BF,提前輸出到顯示器有可能會帶來程序錯誤。一個解決方案是凡是被include的文件都保存為ANSI,主文件可以是UTF-8。要想把一個文件去掉 BOM,使用UlterEdit打開, 切換到十六進制編輯模式,把最前面三個字節(jié)(就是那該死的 EF BB BF)替換為20,保存(注意關閉保存時自動備份的功能),再切換到默認編輯模式,把最前面的三個空格去掉就可以了。
另外還學到一些編碼的小知識:所謂的unicode保存的文件實際上是utf-16,只不過恰好跟unicode的碼相同而已,但在概念上unicode與utf是兩回事,unicode是內存編碼表示方案,而utf是如何保存和傳輸unicode的方案。utf-16還分高位在前 (LE)和高位在后(BE)兩種。官方的utf編碼還有utf-32,也分LE和BE。非unicode官方的utf編碼還有utf-7,主要用于郵件傳輸。utf-8的單字節(jié)部分是和iso-8859-1兼容的,這主要是一些舊的系統(tǒng)和庫函數(shù)不能正確處理utf-16而被迫出來的,而且對英語字符來說,也節(jié)省保存的文件空間(以非英語字符浪費空間為代價)。在iso-8859-1的時候,utf8和iso-8859-1都是用一個字節(jié)表示的,當表示其它字符的時候,utf-8會使用兩個或三個字節(jié)。
相關文章
- 今天的文章,我們將分享15個可以學習編程的網站,這些網站上提供了很多編程教程,圖書以及編程練習,希望對你有用2024-11-02
- 這篇文章主要介紹了web開發(fā)中的長度單位主要包括px,pt,em等,需要的朋友可以參考下2023-08-06
- px單位是絕對單位,一般用于pc端網頁開發(fā),因為是絕對單位所以在移動端上的使用體驗并不是很好,rem它是描述相對于當前根元素字體尺寸,是相對單位,它可以根據(jù)根元素的變換而2023-08-06
WEB前端優(yōu)化必備js/css壓縮工具YUI-compressor詳解與集成用法
壓縮工具層次不窮,各有優(yōu)點,選擇適合的壓縮工具為將來做項目開發(fā)使用是一件很重要的事情!!在這介紹YUI-compressor,需要的朋友可以參考下2023-06-21- 瀏覽器是多進程的,有瀏覽器主進程,網絡進程,渲染進程,插件進程等,在將html,css,javascript解析成一個頁面的時候,就需要多個進程的分工合作2023-05-01
- 本文為大家整理了常用的文件對應的MIME類型,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2022-04-25
postman中form-data、x-www-form-urlencoded、raw、binary的區(qū)別介紹
這篇文章介紹了postman中form-data、x-www-form-urlencoded、raw、binary的區(qū)別,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2021-12-28- 國際組織制定了可以容納世界上所有文字和符號的字符編碼方案,稱為Unicode,是通用字符集Universal Character Set的縮寫,用以滿足跨語言、跨平臺進行文本轉換、處理的要求2021-11-27
前端實現(xiàn)字符串GBK與GB2312的編解碼(小結)
這篇文章主要介紹了前端實現(xiàn)字符串GBK與GB2312的編解碼(小結),小編覺得挺不錯的,現(xiàn)在分享給大家,也給大家做個參考。一起跟隨小編過來看看吧2020-12-02- 這篇文章主要介紹了告別硬編碼讓你的前端表格自動計算,本文通過實例代碼給大家介紹的非常詳細,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下2020-09-27