Python內(nèi)存映射文件讀寫方式
我就廢話不多說了,還是直接看代碼吧!
import os import time import mmap filename = 'test.txt' #如果不存在,創(chuàng)建。 if not os.path.exists(filename): open(filename, 'w') print(os.path.isdir(filename)) if os.path.isfile(filename): print(time.ctime(os.path.getctime(filename))) fd = os.open(filename, os.O_RDWR) m = mmap.mmap(fd, 50, access=mmap.ACCESS_WRITE) # 1024字節(jié)的文件。 m.seek(2) buf1 = bytes(b'Zhang') m[2:len(buf1)+2] = buf1 buf2 = b'Phil' m.seek(20) # 定位寫入的位置。 m.write(buf2) # 寫入字節(jié)數(shù)據(jù)。 m.close() fd = os.open(filename, os.O_RDWR) m = mmap.mmap(fd, 50, access=mmap.ACCESS_READ) m.seek(20) buf3 = m.read(len(buf2)) m.close() print(list(buf3))
操作后的test.txt文件內(nèi)容:
Zhang Phil
補(bǔ)充知識:Python對二進(jìn)制文件做內(nèi)存映射,高效優(yōu)雅地對內(nèi)容隨機(jī)訪問
讀寫二進(jìn)制文件還在使用open函數(shù)?
各種組合seek()、read()和write()累不累?
使用 mmap 模塊實現(xiàn)對文件的內(nèi)存映射,讓我們讀寫二進(jìn)制文件像操作數(shù)組一樣高效優(yōu)雅。
先給出一個實用函數(shù),用來演示如何打開一個文件并對它進(jìn)行內(nèi)存映射操作。
def memory_map(filename, access=mmap.ACCESS_WRITE): size = os.path.getsize(filename) fd = os.open(filename, os.O_RDWR) return mmap.mmap(fd, size, access=access)
要使用這個函數(shù),需要先準(zhǔn)備一個已經(jīng)創(chuàng)建好的文件并為之填充一些數(shù)據(jù)。
>>> size = 1000000 >>> with open('data','wb') as f: f.seek(size-1) f.write(b'\x00')
接著我們可以使用memory_map()函數(shù)對文件內(nèi)容做內(nèi)存映射,它返回的mmap對象可以讓我們像操作數(shù)組一樣讀寫二進(jìn)制文件!
>>> m = memory_map('data') >>> len(m) 1000000 >>> m[:10] b'\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00' >>> m[0] 0 >>> m[0:11]=b'Hello World'#改變一個切片 >>> m.close() >>> with open('data','rb') as f:#驗證改變已經(jīng)生效 print(f.read(11)) b'Hello World'
由于mmap()返回的mmap對象也可以當(dāng)作上下文管理器使用,在這種情況下,底層的文件會自動關(guān)閉。
>>> with memory_map('data') as m: print(len(m)) print(m[0:11]) 1000000 b'Hello World'
默認(rèn)情況下memory_map()函數(shù)打開的文件既可以讀,也可以寫。對數(shù)據(jù)的任何修改都會拷貝回原始的文件中。
如果需要只讀訪問,可以為access參數(shù)提供mmap.ACCESS_READ值。
m = memory_map(filename, mmap.ACCESS_READ)
如果只想要在本地修改數(shù)據(jù),并不想將這些修改寫回到原始文件中,可以使用mmap.ACCESS_COPY參數(shù)。
m = memory_map(filename, mmap.ACCESS_COPY)
總結(jié):
通過mmap將文件映射到內(nèi)存之后,我們可以高效并優(yōu)雅地對文件的內(nèi)容進(jìn)行隨機(jī)訪問。
與其打開文件后通過組合各種seek()、read()和write()調(diào)用來訪問,不如簡單將文件映射到內(nèi)存,然后通過切片操作來訪問數(shù)據(jù)。
需要強(qiáng)調(diào)的是,對某個文件進(jìn)行內(nèi)存映射并不會導(dǎo)致將整個文件讀到內(nèi)存中。也就是說,文件并不會拷貝到某種內(nèi)存緩沖區(qū)或數(shù)組上。相反,操作系統(tǒng)只是為文件內(nèi)容保留一段虛擬內(nèi)存而已。
當(dāng)訪問文件的不同區(qū)域時,文件的這些區(qū)域?qū)⒈蛔x取并按照需要映射到內(nèi)存區(qū)域中。但是,文件中從未訪問過的部分會簡單地留在磁盤上。這一切都是以透明的方式在幕后完成的。
如果有多個Python解釋器對同一個文件做了內(nèi)存映射,得到的mmap對象可以用來在解釋器之間交換數(shù)據(jù)。也就是說,所有的解釋器可以同時讀/寫數(shù)據(jù),在一個解釋器中對數(shù)據(jù)做出的修改會自動反映到其他解釋器上。
雖然還需要一些額外的步驟來處理同步問題,但是有時候可以使用這種方法作為通過管道或者socket傳輸數(shù)據(jù)的替代方案。
以上這篇Python內(nèi)存映射文件讀寫方式就是小編分享給大家的全部內(nèi)容了,希望能給大家一個參考,也希望大家多多支持腳本之家。
相關(guān)文章
Python pandas之求和運算和非空值個數(shù)統(tǒng)計
數(shù)據(jù)處理的過程中經(jīng)常會遇到判斷空值和求和運算的需求,所以下面這篇文章主要給大家介紹了關(guān)于Python pandas之求和運算和非空值個數(shù)統(tǒng)計的相關(guān)資料,需要的朋友可以參考下2021-08-08在IIS服務(wù)器上以CGI方式運行Python腳本的教程
這篇文章主要介紹了在IIS服務(wù)器上以CGI方式運行Python腳本的教程,雖然IIS的性能并不理想...需要的朋友可以參考下2015-04-04python代碼 if not x: 和 if x is not None: 和 if not x is None:使用
這篇文章主要介紹了python代碼 if not x: 和 if x is not None: 和 if not x is None:使用介紹,需要的朋友可以參考下2016-09-09使用OpenCV獲取圖像某點的顏色值,并設(shè)置某點的顏色
這篇文章主要介紹了使用OpenCV獲取圖像某點的顏色值,并設(shè)置某點的顏色,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-06-06