Python實現(xiàn)自動識別并批量轉(zhuǎn)換文本文件編碼
如題,很簡單,就是先用chardet 庫識別文件編碼,解碼之后再輸出成目標(biāo)編碼。算是個偶爾能用上的小工具,要用的時候萬一沒有就很難受的那種,比如,網(wǎng)上下載了別人的項目文件,一打開全是亂碼……
代碼
加了比較詳細(xì)的注釋~~ 看懂的要求應(yīng)該不高,平時用過Python,知道幾個常用庫就行。
from pathlib import Path
import chardet
import re
def text_file_encoding_convert(f: Path, target_encoding: str, *, dry_run=False) -> (bool, str, float):
''' 轉(zhuǎn)換單個文件到目標(biāo)編碼
@param f 文件路徑
@param target_encoding 目標(biāo)編碼,比如urf-8
@param dry_run 為True 時不實際修改源文件
@return 返回三個值分別為(是否成功,估計的源文件編碼,估計的把握)
'''
target_encoding = target_encoding.lower() # python 的標(biāo)準(zhǔn)編碼名稱都是小寫
raw = f.read_bytes()
result = chardet.detect(raw)
encoding = result["encoding"].lower() # chardet 估計出來的編碼名稱
confidence = result["confidence"] # 估計的把握
flag = True
# 下面的單次for 循環(huán)用來避免重復(fù)寫return 語句,break 后統(tǒng)一跳到最后return
for _d( ̄_ ̄)b_ in (1,):
if encoding == target_encoding or encoding == "ascii" and target_encoding == "utf-8":
# 目標(biāo)編碼和源編碼相同時不用做處理。utf-8 編碼和ASCII 兼容,原編碼為ASCII 時轉(zhuǎn)換到utf-8 不會有變化,所以也跳過
print(f"-> [NO CONVERSION NEEDED] {f.name}: {encoding} ==> [ {target_encoding} ]")
break
try:
text = raw.decode(encoding)
except:
print(f"!> Encoding err: {f.name}, detected: {encoding}, {confidence}.")
flag = False
break
if dry_run:
print(f"-> [ NO WET ] {f.name}: {encoding} ==> [ {target_encoding} ]")
else:
# 必須先用目標(biāo)編碼轉(zhuǎn)換成字節(jié)數(shù)組,然后按字節(jié)寫入源文件
# 如果按文本方式寫入,就會遇到喜聞樂見的CR LF 換行問題,
# 源文件中的CR LF 換行會被自動變成CR CR LF,也就是多了一堆空行。
out = text.encode(target_encoding)
f.write_bytes(out)
print(f"-> {f.name}: {encoding} ==> [ {target_encoding} ]")
return (flag, encoding, confidence)
def text_file_encoding_batch_convert(
folder: Path,
target_encoding: str,
*,
dry_run=True,
recursive=False,
pattern=".*(c|h|txt|cxx|cpp|hpp|hxx|csv|asm)$",
skip_when_error=True,
):
''' 批量轉(zhuǎn)換一個目錄下文本文件的編碼
@param folder 目標(biāo)目錄
@param target_encoding 目標(biāo)編碼
@param dry_run 不實際修改源文件,避免手滑寫錯
@param recursive 包括所有子文件夾下的文件
@param pattern 基于文件名篩選文本文件的正則表達(dá)式,默認(rèn)根據(jù)后綴篩選幾種文本類型
@param skip_when_error 默認(rèn)True,單個文件轉(zhuǎn)換出錯時提示并跳過,否則終止
'''
if recursive:
flist = folder.rglob("*")
else:
flist = folder.glob("*")
p = re.compile(pattern) # 把正則編譯了,之后應(yīng)該能快一點
for f in flist:
if not (f.is_file() and p.match(f.name)):
continue
ok, encoding, confidence = text_file_encoding_convert(f, target_encoding, dry_run=dry_run)
if not ok:
if skip_when_error:
print("!> SKIP.")
else:
print("!> ABORT.")
return用法
既然是批量轉(zhuǎn)換文件,只調(diào)用第二個函數(shù)就好了,如下:
folder = Path(r"D:\Downloads\Some shit\\") text_file_encoding_batch_convert(folder, "utf-8", recursive=True)
目標(biāo)目錄為D:\Downloads\Some shit\\,放進(jìn)一個Path 對象里,作為第一個參數(shù)傳進(jìn)去。第二個參數(shù)是目標(biāo)編碼,第三個參數(shù)必須寫明參數(shù)名稱recursive,用來指定要不要遍歷子文件夾,默認(rèn)是False,為了避免意外情況。直接這么運(yùn)行的話,輸出的信息應(yīng)該類似這樣:
-> [NO WET] main.c : gb2312 ⇒ utf-8
[NO WET] 意思就是DRY [doge],也就是沒有實際修改源文件,只是讓你大致看看輸出信息對不對勁,實際運(yùn)行的話再加一個參數(shù):
text_file_encoding_batch_convert(folder, "utf-8", recursive=True, dry_run=False)
順便一說,輸出信息都是英文的,因為大伙應(yīng)該都遇到過控制臺輸出中文亂碼的問題,反正也沒幾個單詞。剩下兩個參數(shù),skip_when_error 放著別管就行,沒什么用;pattern 是匹配文件名的正則表達(dá)式,只有匹配的文件會被處理,可以自己設(shè)置;默認(rèn)的正則只匹配了幾種容易遇到亂碼問題的文本文件,匹配的太多了也可能錯殺,需要的話往括號里加就行。
對了,上面的代碼和這篇文章一樣,使用 CC - BY SA 4.0 協(xié)議。
到此這篇關(guān)于Python實現(xiàn)自動識別并批量轉(zhuǎn)換文本文件編碼的文章就介紹到這了,更多相關(guān)Python轉(zhuǎn)換文本文件編碼內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Python中的defaultdict與__missing__()使用介紹
下面這篇文章主要給大家介紹了關(guān)于Python中defaultdict使用的相關(guān)資料,文中通過示例代碼介紹的非常詳細(xì),對大家學(xué)習(xí)或者使用python具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧。2018-02-02
一文搞懂Pandas數(shù)據(jù)透視的4個函數(shù)的使用
今天主要和大家分享Pandas中四種有關(guān)數(shù)據(jù)透視的通用函數(shù),在數(shù)據(jù)處理中遇到這類需求時,能夠很好地應(yīng)對,快跟隨小編一起學(xué)習(xí)一下吧2022-06-06
深入探討PythonLogging模塊的高級用法與性能優(yōu)化
在Python應(yīng)用程序中,日志處理是一項至關(guān)重要的任務(wù),本文將探索Logging模塊的高級用法,包括日志級別、格式化、處理程序等方面的功能,需要的可以參考下2024-04-04
python sklearn庫實現(xiàn)簡單邏輯回歸的實例代碼
Scikit-learn(sklearn)是機(jī)器學(xué)習(xí)中常用的第三方模塊,對常用的機(jī)器學(xué)習(xí)方法進(jìn)行了封裝,這篇文章主要介紹了python sklearn庫實現(xiàn)簡單邏輯回歸的實例代碼,需要的朋友可以參考下2019-07-07
pytorch實現(xiàn)加載保存查看checkpoint文件
這篇文章主要介紹了pytorch實現(xiàn)加載保存查看checkpoint文件方式,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教2022-07-07
python函數(shù)中將變量名轉(zhuǎn)換成字符串實例
這篇文章主要介紹了python函數(shù)中將變量名轉(zhuǎn)換成字符串實例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-05-05
python基礎(chǔ)之reverse和reversed函數(shù)的介紹及使用
我們在整理資料的時候,有的時候過于混亂難以整理,這時我們不妨可以對它先進(jìn)行一個排序,這樣可以方便我們?yōu)g覽,查詢,有利于我們整理資料,下面這篇文章主要給大家介紹了關(guān)于python基礎(chǔ)之reverse和reversed函數(shù)的介紹及使用,需要的朋友可以參考下2022-12-12

