Python 二進制字節(jié)流數(shù)據(jù)的讀取操作(bytes與bitstring)
最近項目有個需求,需要對二進制文件讀取內(nèi)容,操作讀取到的字節(jié)流數(shù)據(jù),主要是查找與切片獲取內(nèi)容。這要求有兩個標(biāo)志,一個開始,一個結(jié)束,獲取中間的內(nèi)容。
Python 的 bytes 內(nèi)置了一些方法,但是卻不完美。在調(diào)查后,了解到 bitstring 這個第三方包,在對字節(jié)流數(shù)據(jù)的處理上,似乎更合適。
bytes
bytes:一種字符序列的類型。通過比較 dir(str) 與 dir(bytes) 可知,兩者的屬性與方法很相似,只有少數(shù)幾個不同。所以 bytes 也是可以像 string 一樣,對字節(jié)序列有各種操作方法,如查找(find),求長度(len),切割(split),切片等。
bytes 的優(yōu)點是:Python 內(nèi)置的方法,不需要的額外的安裝三方模塊。
但缺點也很明顯:只能單個查詢,不能一次查詢多個需要的結(jié)果。
首先通過 open 的 rb 模式打開文件,讀取內(nèi)容為 bytes 類型。查找特定字符串有 find() 方法,但是此方法只能找到第一個符合要求的字符串索引,并且給出的不是單個位的索引,而是 8 位一個字節(jié)的索引。當(dāng)需要查找多個符合的字符串,卻沒有內(nèi)置的 findall() 方法。如果要查詢多個,過程會麻煩,首先查到第一個符合的索引 1,以此索引 1 為開始,查詢第二個符合的索引 2,以此類推,直到查詢結(jié)束。
with open(path, 'rb') as f: datas = f.read() start_char = datas.find(b'Start') # start_char2 = datas.find(b'Start', start_char) end_char = datas.find(b'End', start_char) # end_char2 = datas.find(b'End', start_char2) data = datas[start_char:end_char] print(data)
注意上述代碼,start_char 和 end_char 會出現(xiàn)多次,次數(shù)并不一定會一樣,需要獲取兩個索引之間的內(nèi)容,但是既無法循環(huán),也不能一次查完。需要多次執(zhí)行已注釋的那行代碼,獲取關(guān)鍵字索引。由于不知道文件數(shù)據(jù)中會有多少個開始標(biāo)志,也就不知道執(zhí)行多少次,這應(yīng)該采用循環(huán)解決,但似乎沒有可供循環(huán)的變量。這使得問題更加復(fù)雜。
其次,由于是獲取兩個標(biāo)志之間的內(nèi)容,所以,以上過程需要執(zhí)行兩遍。因此過程更顯得繁雜無比。
因此,尋找新的方法,是完全必要的。
bitstring
bitstring 是一個三方包,以字節(jié)流形式讀取二進制文件。
bitstring.py 文件的第一句話是:This package defines classes that simplify bit-wise creation, manipulation and interpretation of data.
翻譯如下:這個包定義的類簡化了數(shù)據(jù)的逐位創(chuàng)建、操作和解釋。
簡單理解就是,直接操作 bytes 類型的數(shù)據(jù)。
有主要的四個類,如下:
Bits -- An immutable container for binary data.
BitArray -- A mutable container for binary data.
ConstBitStream -- An immutable container with streaming methods.
BitStream -- A mutable container with streaming methods.
Bits -- 二進制數(shù)據(jù)的不可變?nèi)萜鳌?br />BitArray -- 二進制數(shù)據(jù)的可變?nèi)萜鳌?br />ConstBitStream -- 具有流方法的不可變?nèi)萜鳌?br />BitStream -- 具有流方法的可變?nèi)萜鳌?/p>
像 bytes 一樣,首先讀取文件內(nèi)容,查找關(guān)鍵字索引,切片獲取數(shù)據(jù)內(nèi)容。
# update at 2022/05/06 start # from bistring import ConstBitStream, BitStream from bitstring import ConstBitStream, BitStream # update at 2022/05/06 end hex_datas = ConstBitStream(filename=path) ?# 讀取文件內(nèi)容 start_char = b'Start' start_chars = hex_datas.findall(start_char, bytealigned=True) ?# 一次找到全部符合的,返回一個生成器 start_indexs = [] for start_char in start_chars: ? ? start_indexs.append(start_char) end_char = b'End' end_indexs = [] for start_index in start_indexs: ? ? end_chars = hex_datas.find(end_char, start=start_index, bytealigned=True) ?# 找到第一個符合的,返回元組 ? ? for end_char in end_chars: ? ? ? ? end_indexs.append(end_char) result = [] for i in range(min(len(start_indexs), len(end_indexs))): ? ? hex_data = hex_datas[start_indexs[i]:end_indexs[i]] ? ? str_data = BitStream.tobytes(hex_data).decode('utf-8') ? ? result.append(str_data)
代碼分析,首先導(dǎo)入需要的兩個類:ConstBitStream, BitStream。獲取文件內(nèi)容,findall() 查找所有符合的字符串索引,find() 查找第一個符合的字符串索引。取開始、結(jié)束兩個列表的較小值,切片獲取數(shù)據(jù),類型為 ‘bitstring.ConstBitStream’,BitStream.tobytes() 方法轉(zhuǎn)為 bytes 類型,中文字符會亂碼,所以再用 decode() 解碼,得到需要的字符串。
整個過程還是簡潔、連續(xù)。代碼中用到了 findall()、find()、tobytes() 方法。此外還有許多小細節(jié)需要注意,比如,start_indexs 如果為空,后續(xù)的代碼就不該執(zhí)行了,end_indexs 為空亦是如此。
由此可見,bitstring 這個包還是比較好用的。根據(jù)需求,用到的方法比較少,其實還有許多其他的方法,按需選擇。
到此這篇關(guān)于Python 二進制字節(jié)流數(shù)據(jù)的讀取操作(bytes與bitstring)的文章就介紹到這了,更多相關(guān)Python 二進制字節(jié)流讀取內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
在django-xadmin中APScheduler的啟動初始化實例
今天小編就為大家分享一篇在django-xadmin中APScheduler的啟動初始化實例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-11-11Scrapy-redis爬蟲分布式爬取的分析和實現(xiàn)
所謂的scrapy-Redis實際上就是scrapy+redis,其中對redis的操作采用redis-py客戶端。下面這篇文章詳細介紹了Scrapy-redis爬蟲分布式爬取的分析和實現(xiàn),需要的朋友可以參考借鑒,下面來一起看看吧。2017-02-02Python中threading.Timer()定時器實現(xiàn)定時任務(wù)
本文主要介紹了Python中threading.Timer()定時器實現(xiàn)定時任務(wù),文中通過示例代碼介紹的非常詳細,對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2023-01-01Pytorch使用MNIST數(shù)據(jù)集實現(xiàn)基礎(chǔ)GAN和DCGAN詳解
今天小編就為大家分享一篇Pytorch使用MNIST數(shù)據(jù)集實現(xiàn)基礎(chǔ)GAN和DCGAN詳解,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-01-01PyTorch手寫數(shù)字?jǐn)?shù)據(jù)集進行多分類
這篇文章主要介紹了PyTorch手寫數(shù)字?jǐn)?shù)據(jù)集進行多分類,損失函數(shù)采用交叉熵,激活函數(shù)采用ReLU,優(yōu)化器采用帶有動量的mini-batchSGD算法,需要的朋友可以參考一下2022-03-03Python爬蟲包BeautifulSoup學(xué)習(xí)實例(五)
這篇文章主要為大家詳細介紹了Python爬蟲包BeautifulSoup的學(xué)習(xí)實例,具有一定的參考價值,感興趣的朋友可以參考一下2018-06-06