Python 二進(jìn)制字節(jié)流數(shù)據(jù)的讀取操作(bytes與bitstring)
最近項(xiàng)目有個(gè)需求,需要對(duì)二進(jìn)制文件讀取內(nèi)容,操作讀取到的字節(jié)流數(shù)據(jù),主要是查找與切片獲取內(nèi)容。這要求有兩個(gè)標(biāo)志,一個(gè)開(kāi)始,一個(gè)結(jié)束,獲取中間的內(nèi)容。
Python 的 bytes 內(nèi)置了一些方法,但是卻不完美。在調(diào)查后,了解到 bitstring 這個(gè)第三方包,在對(duì)字節(jié)流數(shù)據(jù)的處理上,似乎更合適。
bytes
bytes:一種字符序列的類(lèi)型。通過(guò)比較 dir(str) 與 dir(bytes) 可知,兩者的屬性與方法很相似,只有少數(shù)幾個(gè)不同。所以 bytes 也是可以像 string 一樣,對(duì)字節(jié)序列有各種操作方法,如查找(find),求長(zhǎng)度(len),切割(split),切片等。
bytes 的優(yōu)點(diǎn)是:Python 內(nèi)置的方法,不需要的額外的安裝三方模塊。
但缺點(diǎn)也很明顯:只能單個(gè)查詢(xún),不能一次查詢(xún)多個(gè)需要的結(jié)果。
首先通過(guò) open 的 rb 模式打開(kāi)文件,讀取內(nèi)容為 bytes 類(lèi)型。查找特定字符串有 find() 方法,但是此方法只能找到第一個(gè)符合要求的字符串索引,并且給出的不是單個(gè)位的索引,而是 8 位一個(gè)字節(jié)的索引。當(dāng)需要查找多個(gè)符合的字符串,卻沒(méi)有內(nèi)置的 findall() 方法。如果要查詢(xún)多個(gè),過(guò)程會(huì)麻煩,首先查到第一個(gè)符合的索引 1,以此索引 1 為開(kāi)始,查詢(xún)第二個(gè)符合的索引 2,以此類(lèi)推,直到查詢(xún)結(jié)束。
with open(path, 'rb') as f: datas = f.read() start_char = datas.find(b'Start') # start_char2 = datas.find(b'Start', start_char) end_char = datas.find(b'End', start_char) # end_char2 = datas.find(b'End', start_char2) data = datas[start_char:end_char] print(data)
注意上述代碼,start_char 和 end_char 會(huì)出現(xiàn)多次,次數(shù)并不一定會(huì)一樣,需要獲取兩個(gè)索引之間的內(nèi)容,但是既無(wú)法循環(huán),也不能一次查完。需要多次執(zhí)行已注釋的那行代碼,獲取關(guān)鍵字索引。由于不知道文件數(shù)據(jù)中會(huì)有多少個(gè)開(kāi)始標(biāo)志,也就不知道執(zhí)行多少次,這應(yīng)該采用循環(huán)解決,但似乎沒(méi)有可供循環(huán)的變量。這使得問(wèn)題更加復(fù)雜。
其次,由于是獲取兩個(gè)標(biāo)志之間的內(nèi)容,所以,以上過(guò)程需要執(zhí)行兩遍。因此過(guò)程更顯得繁雜無(wú)比。
因此,尋找新的方法,是完全必要的。
bitstring
bitstring 是一個(gè)三方包,以字節(jié)流形式讀取二進(jìn)制文件。
bitstring.py 文件的第一句話(huà)是:This package defines classes that simplify bit-wise creation, manipulation and interpretation of data.
翻譯如下:這個(gè)包定義的類(lèi)簡(jiǎn)化了數(shù)據(jù)的逐位創(chuàng)建、操作和解釋。
簡(jiǎn)單理解就是,直接操作 bytes 類(lèi)型的數(shù)據(jù)。
有主要的四個(gè)類(lèi),如下:
Bits -- An immutable container for binary data.
BitArray -- A mutable container for binary data.
ConstBitStream -- An immutable container with streaming methods.
BitStream -- A mutable container with streaming methods.
Bits -- 二進(jìn)制數(shù)據(jù)的不可變?nèi)萜鳌?br />BitArray -- 二進(jìn)制數(shù)據(jù)的可變?nèi)萜鳌?br />ConstBitStream -- 具有流方法的不可變?nèi)萜鳌?br />BitStream -- 具有流方法的可變?nèi)萜鳌?/p>
像 bytes 一樣,首先讀取文件內(nèi)容,查找關(guān)鍵字索引,切片獲取數(shù)據(jù)內(nèi)容。
# update at 2022/05/06 start # from bistring import ConstBitStream, BitStream from bitstring import ConstBitStream, BitStream # update at 2022/05/06 end hex_datas = ConstBitStream(filename=path) ?# 讀取文件內(nèi)容 start_char = b'Start' start_chars = hex_datas.findall(start_char, bytealigned=True) ?# 一次找到全部符合的,返回一個(gè)生成器 start_indexs = [] for start_char in start_chars: ? ? start_indexs.append(start_char) end_char = b'End' end_indexs = [] for start_index in start_indexs: ? ? end_chars = hex_datas.find(end_char, start=start_index, bytealigned=True) ?# 找到第一個(gè)符合的,返回元組 ? ? for end_char in end_chars: ? ? ? ? end_indexs.append(end_char) result = [] for i in range(min(len(start_indexs), len(end_indexs))): ? ? hex_data = hex_datas[start_indexs[i]:end_indexs[i]] ? ? str_data = BitStream.tobytes(hex_data).decode('utf-8') ? ? result.append(str_data)
代碼分析,首先導(dǎo)入需要的兩個(gè)類(lèi):ConstBitStream, BitStream。獲取文件內(nèi)容,findall() 查找所有符合的字符串索引,find() 查找第一個(gè)符合的字符串索引。取開(kāi)始、結(jié)束兩個(gè)列表的較小值,切片獲取數(shù)據(jù),類(lèi)型為 ‘bitstring.ConstBitStream’,BitStream.tobytes() 方法轉(zhuǎn)為 bytes 類(lèi)型,中文字符會(huì)亂碼,所以再用 decode() 解碼,得到需要的字符串。
整個(gè)過(guò)程還是簡(jiǎn)潔、連續(xù)。代碼中用到了 findall()、find()、tobytes() 方法。此外還有許多小細(xì)節(jié)需要注意,比如,start_indexs 如果為空,后續(xù)的代碼就不該執(zhí)行了,end_indexs 為空亦是如此。
由此可見(jiàn),bitstring 這個(gè)包還是比較好用的。根據(jù)需求,用到的方法比較少,其實(shí)還有許多其他的方法,按需選擇。
到此這篇關(guān)于Python 二進(jìn)制字節(jié)流數(shù)據(jù)的讀取操作(bytes與bitstring)的文章就介紹到這了,更多相關(guān)Python 二進(jìn)制字節(jié)流讀取內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
在django-xadmin中APScheduler的啟動(dòng)初始化實(shí)例
今天小編就為大家分享一篇在django-xadmin中APScheduler的啟動(dòng)初始化實(shí)例,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2019-11-11Python pandas 計(jì)算每行的增長(zhǎng)率與累計(jì)增長(zhǎng)率
這篇文章主要介紹了Python pandas 計(jì)算每行的增長(zhǎng)率與累計(jì)增長(zhǎng)率,文章舉例詳細(xì)說(shuō)明。需要的小伙伴可以參考一下2022-03-03Scrapy-redis爬蟲(chóng)分布式爬取的分析和實(shí)現(xiàn)
所謂的scrapy-Redis實(shí)際上就是scrapy+redis,其中對(duì)redis的操作采用redis-py客戶(hù)端。下面這篇文章詳細(xì)介紹了Scrapy-redis爬蟲(chóng)分布式爬取的分析和實(shí)現(xiàn),需要的朋友可以參考借鑒,下面來(lái)一起看看吧。2017-02-02Python中threading.Timer()定時(shí)器實(shí)現(xiàn)定時(shí)任務(wù)
本文主要介紹了Python中threading.Timer()定時(shí)器實(shí)現(xiàn)定時(shí)任務(wù),文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2023-01-01Pytorch使用MNIST數(shù)據(jù)集實(shí)現(xiàn)基礎(chǔ)GAN和DCGAN詳解
今天小編就為大家分享一篇Pytorch使用MNIST數(shù)據(jù)集實(shí)現(xiàn)基礎(chǔ)GAN和DCGAN詳解,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2020-01-01PyTorch手寫(xiě)數(shù)字?jǐn)?shù)據(jù)集進(jìn)行多分類(lèi)
這篇文章主要介紹了PyTorch手寫(xiě)數(shù)字?jǐn)?shù)據(jù)集進(jìn)行多分類(lèi),損失函數(shù)采用交叉熵,激活函數(shù)采用ReLU,優(yōu)化器采用帶有動(dòng)量的mini-batchSGD算法,需要的朋友可以參考一下2022-03-03Python爬蟲(chóng)包BeautifulSoup學(xué)習(xí)實(shí)例(五)
這篇文章主要為大家詳細(xì)介紹了Python爬蟲(chóng)包BeautifulSoup的學(xué)習(xí)實(shí)例,具有一定的參考價(jià)值,感興趣的朋友可以參考一下2018-06-06Python 多線(xiàn)程其他屬性以及繼承Thread類(lèi)詳解
這篇文章主要介紹了Python 多線(xiàn)程其他屬性以及繼承Thread類(lèi)詳解,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2019-08-08