Python實(shí)現(xiàn)多條件篩選Excel數(shù)據(jù)并批量繪制直方圖
本文介紹基于Python,讀取Excel數(shù)據(jù),以一列數(shù)據(jù)的值為標(biāo)準(zhǔn),對(duì)這一列數(shù)據(jù)處于指定范圍的所有行,再用其他幾列數(shù)據(jù)數(shù)值,加以篩選與剔除;同時(shí),對(duì)篩選與剔除前、后的數(shù)據(jù)分別繪制若干直方圖,并將結(jié)果數(shù)據(jù)導(dǎo)出保存為一個(gè)新的Excel表格文件的方法。
首先,我們來(lái)明確一下本文的具體需求。現(xiàn)有一個(gè)Excel表格文件,在本文中我們就以 .csv
格式的文件為例;其中,如下圖所示,這一文件中有一列(在本文中也就是 days
這一列)數(shù)據(jù),我們將其作為基準(zhǔn)數(shù)據(jù),希望首先取出 days
數(shù)值處于 0
至 45
、 320
至 365
范圍內(nèi)的所有樣本(一行就是一個(gè)樣本),進(jìn)行后續(xù)的操作。
其次,對(duì)于取出的樣本,再依據(jù)其他 4
列(在本文中也就是 blue_dif
、 green_dif
、 red_dif
與 inf_dif
這 4
列)數(shù)據(jù),將這 4
列數(shù)據(jù)不在指定數(shù)值區(qū)域內(nèi)的行刪除。在這一過(guò)程中,我們還希望繪制在數(shù)據(jù)刪除前、后,這 4
列(也就是 blue_dif
、 green_dif
、 red_dif
與 inf_dif
這 4
列)數(shù)據(jù)各自的直方圖,一共是 8
張圖。最后,我們還希望將刪除上述數(shù)據(jù)后的數(shù)據(jù)保存為一個(gè)新的Excel表格文件。
知道了需求,我們就可以撰寫代碼。本文所用的代碼如下所示。
# -*- coding: utf-8 -*- """ Created on Tue Sep 12 07:55:40 2023 @author: fkxxgis """ import numpy as np import pandas as pd import matplotlib.pyplot as plt original_file_path = "E:/01_Reflectivity/99_Model/02_Extract_Data/26_Train_Model_New/Train_Model_0715_Main_Over_NIR.csv" # original_file_path = "E:/01_Reflectivity/99_Model/02_Extract_Data/26_Train_Model_New/TEST.csv" result_file_path = "E:/01_Reflectivity/99_Model/02_Extract_Data/26_Train_Model_New/Train_Model_0715_Main_Over_NIR_New.csv" df = pd.read_csv(original_file_path) blue_original = df[(df['blue_dif'] >= -0.08) & (df['blue_dif'] <= 0.08)]['blue_dif'] green_original = df[(df['green_dif'] >= -0.08) & (df['green_dif'] <= 0.08)]['green_dif'] red_original = df[(df['red_dif'] >= -0.08) & (df['red_dif'] <= 0.08)]['red_dif'] inf_original = df[(df['inf_dif'] >= -0.1) & (df['inf_dif'] <= 0.1)]['inf_dif'] mask = ((df['days'] >= 0) & (df['days'] <= 45)) | ((df['days'] >= 320) & (df['days'] <= 365)) range_min = -0.03 range_max = 0.03 df.loc[mask, 'blue_dif'] = df.loc[mask, 'blue_dif'].apply(lambda x: x if range_min <= x <= range_max else np.random.choice([np.nan, x])) df.loc[mask, 'green_dif'] = df.loc[mask, 'green_dif'].apply(lambda x: x if range_min <= x <= range_max else np.random.choice([np.nan, x])) df.loc[mask, 'red_dif'] = df.loc[mask, 'red_dif'].apply(lambda x: x if range_min <= x <= range_max else np.random.choice([np.nan, x])) df.loc[mask, 'inf_dif'] = df.loc[mask, 'inf_dif'].apply(lambda x: x if range_min <= x <= range_max else np.random.choice([np.nan, x], p =[0.9, 0.1])) df = df.dropna() blue_new = df[(df['blue_dif'] >= -0.08) & (df['blue_dif'] <= 0.08)]['blue_dif'] green_new = df[(df['green_dif'] >= -0.08) & (df['green_dif'] <= 0.08)]['green_dif'] red_new = df[(df['red_dif'] >= -0.08) & (df['red_dif'] <= 0.08)]['red_dif'] inf_new = df[(df['inf_dif'] >= -0.1) & (df['inf_dif'] <= 0.1)]['inf_dif'] plt.figure(0) plt.hist(blue_original, bins = 50) plt.figure(1) plt.hist(green_original, bins = 50) plt.figure(2) plt.hist(red_original, bins = 50) plt.figure(3) plt.hist(inf_original, bins = 50) plt.figure(4) plt.hist(blue_new, bins = 50) plt.figure(5) plt.hist(green_new, bins = 50) plt.figure(6) plt.hist(red_new, bins = 50) plt.figure(7) plt.hist(inf_new, bins = 50) df.to_csv(result_file_path, index=False)
首先,我們通過(guò) pd.read_csv
函數(shù)從指定路徑的 .csv
文件中讀取數(shù)據(jù),并將其存儲(chǔ)在名為 df
的DataFrame中。
接下來(lái),通過(guò)一系列條件篩選操作,從原始數(shù)據(jù)中選擇滿足特定條件的子集。具體來(lái)說(shuō),我們篩選出了在 blue_dif
、 green_dif
、 red_dif
與 inf_dif
這 4
列中數(shù)值在一定范圍內(nèi)的數(shù)據(jù),并將這些數(shù)據(jù)存儲(chǔ)在名為 blue_original
、 green_original
、 red_original
和 inf_original
的新Series中,這些數(shù)據(jù)為我們后期繪制直方圖做好了準(zhǔn)備。
其次,創(chuàng)建一個(gè)名為 mask
的布爾掩碼,該掩碼用于篩選滿足條件的數(shù)據(jù)。在這里,它篩選出了 days
列的值在 0
到 45
之間或在 320
到 365
之間的數(shù)據(jù)。
隨后,我們使用 apply
函數(shù)和 lambda
表達(dá)式,對(duì)于 days
列的值在 0
到 45
之間或在 320
到 365
之間的行,如果其 blue_dif
、 green_dif
、 red_dif
與 inf_dif
這 4
列的數(shù)據(jù)不在指定范圍內(nèi),那么就將這列的數(shù)據(jù)隨機(jī)設(shè)置為NaN, p =[0.9, 0.1]
則是指定了隨機(jī)替換為NaN的概率。這里需要注意,如果我們不給出 p =[0.9, 0.1]
這樣的概率分布,那么程序?qū)⒁罁?jù)均勻分布的原則隨機(jī)選取數(shù)據(jù)。
最后,我們使用 dropna
函數(shù),刪除包含NaN值的行,從而得到篩選處理后的數(shù)據(jù)。其次,我們依然根據(jù)這四列的篩選條件,計(jì)算出處理后的數(shù)據(jù)的子集,存儲(chǔ)在 blue_new
、 green_new
、 red_new
和 inf_new
中。緊接著,使用Matplotlib創(chuàng)建直方圖來(lái)可視化原始數(shù)據(jù)和處理后數(shù)據(jù)的分布;這些直方圖被分別存儲(chǔ)在 8
個(gè)不同的圖形中。
代碼的最后,將處理后的數(shù)據(jù)保存為新的 .csv
文件,該文件路徑由 result_file_path
指定。
運(yùn)行上述代碼,我們將得到 8
張直方圖,如下圖所示。且在指定的文件夾中看到結(jié)果文件。
至此,大功告成。
以上就是Python實(shí)現(xiàn)多條件篩選Excel數(shù)據(jù)并批量繪制直方圖的詳細(xì)內(nèi)容,更多關(guān)于Python繪制直方圖的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章!
相關(guān)文章
python雙向鏈表實(shí)現(xiàn)實(shí)例代碼
python雙向鏈表和單鏈表類似,只不過(guò)是增加了一個(gè)指向前面一個(gè)元素的指針,下面的代碼實(shí)例了python雙向鏈表的方法2013-11-11windows下pycharm安裝、創(chuàng)建文件、配置默認(rèn)模板
這篇文章主要為大家詳細(xì)介紹了windows下pycharm安裝、創(chuàng)建文件、配置默認(rèn)模板,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2018-07-07利用Python通過(guò)商品條形碼查詢商品信息的實(shí)現(xiàn)示例
這篇文章主要介紹了利用Python通過(guò)商品條形碼查詢商品信息,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2022-07-07python簡(jiǎn)單獲取數(shù)組元素個(gè)數(shù)的方法
這篇文章主要介紹了python簡(jiǎn)單獲取數(shù)組元素個(gè)數(shù)的方法,實(shí)例分析了Python中l(wèi)en方法的相關(guān)使用技巧,非常簡(jiǎn)單實(shí)用,需要的朋友可以參考下2015-07-07Python實(shí)現(xiàn)查詢某個(gè)目錄下修改時(shí)間最新的文件示例
這篇文章主要介紹了Python實(shí)現(xiàn)查詢某個(gè)目錄下修改時(shí)間最新的文件,涉及Python使用os與shutil模塊針對(duì)文件的遍歷、屬性獲取、讀寫等相關(guān)操作技巧,需要的朋友可以參考下2018-08-08python圖片由RGB空間轉(zhuǎn)成LAB空間的實(shí)現(xiàn)方式
這篇文章主要介紹了python圖片由RGB空間轉(zhuǎn)成LAB空間的實(shí)現(xiàn)方式,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2023-10-10