如何用pandas處理hdf5文件
什么是HDF5
HDF5:Hierarchical Data Format Version 5,對(duì)于存儲(chǔ)大規(guī)模、具有相同類型的數(shù)據(jù),HDF5是一種非常不錯(cuò)的存儲(chǔ)格式,文件后綴名為h5。這種格式的文件的存儲(chǔ)和讀取速度非??欤⑶椅覀兛梢园袶DF5文件看成是一個(gè)"目錄",它是分層次的,我們來(lái)看看如何操作。
創(chuàng)建和讀取HDF5文件
import pandas as pd import numpy as np hdf5 = pd.HDFStore("hello.h5", mode="w", complevel=9) """ path: 文件路徑 mode: 和python的open函數(shù)中的mode一致 complevel: 壓縮級(jí)別,默認(rèn)是0到9。值越大,壓縮程度越高,那么最終形成的文件所占的體積越小,但是相應(yīng)的,在讀取的時(shí)候用的解壓縮的時(shí)間就越長(zhǎng) """ # 打印是一個(gè)HDFStore對(duì)象 print(hdf5) # <class 'pandas.io.pytables.HDFStore'> # 存儲(chǔ)數(shù)據(jù),可以直接使用賦值的方式 hdf5["series"] = pd.Series([1, 2, 3, 4, 5]) hdf5["dataframe"] = pd.DataFrame(np.random.randint(3, 10, size=(8, 4))) # 除此之外,還可以使用put的方式 """ hdf5.put("series", pd.Series([1, 2, 3, 4, 5])) hdf5.put("dataframe", pd.DataFrame(np.random.randint(3, 10, size=(8, 4)))) put函數(shù)里面支持如下參數(shù): key:寫入數(shù)據(jù)的key value:寫入數(shù)據(jù)的value format:指定寫出的模式,指定為"fixed",那么速度會(huì)快,但是不支持追加和查詢。指定為"table",會(huì)以表格的模式寫出,速度稍慢,但是支持追加和查詢操作 """ # 我們可以通過(guò)items來(lái)查看相應(yīng)屬性,類似于字典的items print(list(hdf5.items())) """ File path: hello.h5 [('/dataframe', /dataframe (Group) '' children := ['axis0' (CArray), 'axis1' (CArray), 'block0_values' (CArray), 'block0_items' (CArray)]), ('/series', /series (Group) '' children := ['index' (CArray), 'values' (CArray)])] """ # items不太好看,我們來(lái)看keys,查看keys,但是注意:沒有values # 我們發(fā)現(xiàn)key是類似于目錄一樣的東西,名字就是我們?cè)O(shè)置的名字 # 所以我們可以把HDF5看成是目錄,里面不同的目錄對(duì)應(yīng)不同的內(nèi)容 print(hdf5.keys()) # ['/dataframe', '/series'] # 查看元素直接調(diào)用即可 print(hdf5["dataframe"]) """ 0 1 2 3 0 4 8 5 6 1 4 6 7 9 2 6 3 9 4 3 8 9 3 9 4 6 6 3 4 5 6 9 9 8 6 4 8 9 6 7 9 5 8 8 """ # 刪除某個(gè)key,調(diào)用remove hdf5.remove("series") print(hdf5.keys()) # ['/dataframe'] # 如果想將數(shù)據(jù)保存到本地,那么調(diào)用close方法即可 hdf5.close() # 查看數(shù)據(jù)流是否開啟,返回False代表關(guān)閉了 print(hdf5.is_open) # False # 另外創(chuàng)建HDF5文件,除了使用HDFStore,還可以通過(guò)先有的DataFrame進(jìn)行操作。需要指定路徑和key # df.to_hdf("xx.h5", key="key")
下面來(lái)看看如何讀取文件
import pandas as pd import numpy as np # 將mode改成r即可 hdf5 = pd.HDFStore("hello.h5", mode="r") # 或者 """ hdfs = pd.read_hdf("hello.h5", key="xxx") """ # 至于操作我們上面已經(jīng)介紹了
hdf5這種格式是一種非常不錯(cuò)的格式,它無(wú)論是在存儲(chǔ)方面和讀取方面,文件大小和讀取數(shù)據(jù)都比csv強(qiáng)不少,因此如果要存儲(chǔ)大量的數(shù)據(jù)的話,那么hdf5這種文件格式是一種非常不錯(cuò)的選擇。
以上就是如何用pandas處理hdf5文件的詳細(xì)內(nèi)容,更多關(guān)于pandas處理hdf5文件的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章!
相關(guān)文章
使用python提取PowerPoint幻燈片中表格并保存到文本及Excel文件
owerPoint作為廣泛使用的演示工具,常被用于展示各類數(shù)據(jù)報(bào)告和分析結(jié)果,其中,表格以其直觀性和結(jié)構(gòu)性成為闡述數(shù)據(jù)關(guān)系的不二之選,本文將介紹如何使用Python來(lái)提取PowerPoint幻燈片中的表格,并將表格數(shù)據(jù)寫入文本文件以及Excel文件,需要的朋友可以參考下2024-06-06機(jī)器學(xué)習(xí)python實(shí)戰(zhàn)之手寫數(shù)字識(shí)別
這篇文章主要為大家詳細(xì)介紹了機(jī)器學(xué)習(xí)python實(shí)戰(zhàn)之手寫數(shù)字識(shí)別,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2017-11-11python相對(duì)企業(yè)語(yǔ)言優(yōu)勢(shì)在哪
在本篇文章里小編給大家分享的是關(guān)于python相對(duì)企業(yè)語(yǔ)言優(yōu)勢(shì)以及相關(guān)知識(shí)點(diǎn),需要的朋友們可以參考下。2020-06-06Python實(shí)現(xiàn)簡(jiǎn)易的圖書管理系統(tǒng)
這篇文章主要為大家詳細(xì)介紹了Python實(shí)現(xiàn)簡(jiǎn)易的圖書管理系統(tǒng),文中示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2022-03-03python實(shí)現(xiàn)比較文件內(nèi)容異同
這篇文章主要為大家詳細(xì)介紹了python實(shí)現(xiàn)比較文件內(nèi)容異同,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2018-06-06vue+element-ui動(dòng)態(tài)加載本地圖片方式
這篇文章主要介紹了vue+element-ui動(dòng)態(tài)加載本地圖片方式,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2023-09-09