pandas預(yù)處理部分地區(qū)數(shù)據(jù)案例
數(shù)據(jù)清洗的任務(wù)是過濾那些不符合要求的數(shù)據(jù),將過濾的結(jié)果交給業(yè)務(wù)主管部門,確認是否過濾掉還是由業(yè)務(wù)單位修正之后再進行抽取。不符合要求的數(shù)據(jù)主要是有不完整的數(shù)據(jù)、錯誤的數(shù)據(jù)、重復(fù)的數(shù)據(jù)三大類。數(shù)據(jù)清洗是與問卷審核不同,錄入后的數(shù)據(jù)清理一般是由計算機而不是人工完成。
數(shù)據(jù)清洗主要是處理缺失數(shù)據(jù)、重復(fù)數(shù)據(jù)、錯誤數(shù)據(jù)等。
處理缺失值常用方法:
- 刪除數(shù)據(jù):根據(jù)缺失情況,按行刪除或者按列刪除
- 度量填補缺失值:可以根據(jù)數(shù)據(jù)屬性,采用均值、中位數(shù)、眾數(shù)等中心度量值來填補缺失數(shù)據(jù)
- 預(yù)測填補缺失值:可以將缺失屬性作為因變量,建立分類或回歸模型,對缺失值進行建模填補
案例一:預(yù)處理部分地區(qū)數(shù)據(jù)
- 讀取北京地區(qū)的數(shù)據(jù)
- 讀取天津地區(qū)的數(shù)據(jù)
- 檢測file_data_bjinfo中的數(shù)據(jù),返回True的表示是重復(fù)數(shù)據(jù)
- 檢測file_data_tjinfo中的數(shù)據(jù),返回True的表示是重復(fù)數(shù)據(jù)
- 對北京地區(qū)的數(shù)據(jù),刪除重復(fù)值
- 檢測天津地區(qū)的數(shù)據(jù)是否存在缺失值
- 計算天津地區(qū)常住人口的平均數(shù),設(shè)置float類型,并保留兩位小數(shù),并且以字典映射的方式進行填充
- 對北京地區(qū)信息進行異常值檢測。并且用箱型圖進行表示
- 對天津地區(qū)信息進行異常值檢測。并且用箱型圖進行表示
- 對兩地數(shù)據(jù)進行合并
# 讀取北京地區(qū)的數(shù)據(jù) import pandas as pd with open("北京地區(qū)信息.csv") as f: file_data_bjinfo = pd.read_csv(f) # 讀取天津地區(qū)的數(shù)據(jù) with open("天津地區(qū)信息.csv") as f: file_data_tjinfo = pd.read_csv(f) # 檢測file_data_bjinfo中的數(shù)據(jù),返回True的表示是重復(fù)數(shù)據(jù) dup_bj = file_data_bjinfo.duplicated() print(dup_bj) # 檢測file_data_tjinfo中的數(shù)據(jù),返回True的表示是重復(fù)數(shù)據(jù) dup_tj = file_data_tjinfo.duplicated() print(dup_tj) # 對北京地區(qū)的數(shù)據(jù),刪除重復(fù)值 drop_dup_bj = file_data_bjinfo.drop_duplicates() print(drop_dup_bj) # 檢測天津地區(qū)的數(shù)據(jù)是否存在缺失值 print(pd.isnull(file_data_tjinfo)) # 計算天津地區(qū)常住人口的平均數(shù),設(shè)置float類型,并保留兩位小數(shù) avg = float("{:.2f}".format(file_data_tjinfo['常住人口(萬人)'].mean())) # 以字典映射的方式進行填充 values = {'常住人口(萬人)':avg} file_data_tjinfo = file_data_tjinfo.fillna(value=values) print(file_data_tjinfo)
# 對北京地區(qū)信息進行異常值檢測。并且用箱型圖進行表示 from matplotlib import pyplot as plt plt.rcParams['font.family']=['STFangsong'] # 用來正常顯示中文標簽 plt.rcParams['axes.unicode_minus'] = False # 用來正常顯示負號 file_data_bjinfo.boxplot() plt.show()
# 對天津地區(qū)信息進行異常值檢測。并且用箱型圖進行表示 file_data_tjinfo.boxplot() plt.show()
# 對兩地數(shù)據(jù)進行合并 print(pd.concat([file_data_bjinfo,file_data_tjinfo],join='inner',axis=0,ignore_index=True))
數(shù)據(jù)
北京地區(qū)信息.csv
省級單位,地級單位,縣級單位,區(qū)劃類型,行政面積(K㎡),戶籍人口(萬人),男性,女性,GDP(億元),常住人口(萬人)
北京,北京,西城區(qū),市轄區(qū),51,146.47,72.88,73.59,3602.36,125.9
北京,北京,東城區(qū),市轄區(qū),42,97.41,47.91,49.5,2061.8,87.8
北京,北京,豐臺區(qū),市轄區(qū),306,115.33,58.39,56.95,1297.03,225.5
北京,北京,西城區(qū),市轄區(qū),51,146.47,72.88,73.59,3602.36,125.9
北京,北京,朝陽區(qū),市轄區(qū),455,210.91,105.43,105.48,5171.03,385.6
北京,北京,房山區(qū),市轄區(qū),1990,81.28,40.76,40.52,606.61,109.6
北京,北京,豐臺區(qū),市轄區(qū),306,115.33,58.39,56.95,1297.03,225.5
北京,北京,石景山區(qū),市轄區(qū),84,38.69,19.87,18.82,482.14,63.4
北京,北京,海淀區(qū),市轄區(qū),431,240.2,120.08,120.12,5395.16,359.3
北京,北京,房山區(qū),市轄區(qū),1990,81.28,40.76,40.52,606.61,109.6
北京,北京,通州區(qū),市轄區(qū),906,74.68,37.08,37.6,674.81,142.8
北京,北京,順義區(qū),市轄區(qū),1020,62.74,31.12,31.61,1591.6,107.5
北京,北京,昌平區(qū),市轄區(qū),1344,61.14,30.72,30.41,753.39,201
北京,北京,大興區(qū),市轄區(qū),1036,68.38,34.02,34.36,1796.95,169.4
北京,北京,門頭溝區(qū),市轄區(qū),1451,25.12,12.8,12.32,157.86,31.1
北京,北京,懷柔區(qū),市轄區(qū),2123,28.29,14.13,14.16,259.41,39.3
北京,北京,平谷區(qū),市轄區(qū),950,40.2,20.22,19.98,218.31,43.7
北京,北京,密云區(qū),市轄區(qū),2229,43.59,21.77,21.82,251.13,48.3
北京,北京,延慶區(qū),市轄區(qū),1994,28.42,14.32,14.11,122.66,32.7
天津地區(qū)信息.csv
省級單位,地級單位,縣級單位,區(qū)劃類型,行政面積(K㎡),戶籍人口(萬人),男性,女性,GDP(億元),常住人口(萬人)
天津,天津,和平區(qū),市轄區(qū),10,42.32,20.37,21.95,802.62,35.19
天津,天津,河?xùn)|區(qū),市轄區(qū),39,75.79,38.06,37.73,290.98,97.61
天津,天津,河西區(qū),市轄區(qū),37,83.2,40.83,42.37,819.85,99.25
天津,天津,南開區(qū),市轄區(qū),39,87.28,43.3,43.98,652.09,114.55
天津,天津,河北區(qū),市轄區(qū),27,63.42,31.86,31.56,415.67,89.24
天津,天津,紅橋區(qū),市轄區(qū),21,51.66,25.93,25.73,208.16,56.69
天津,天津,東麗區(qū),市轄區(qū),460,37.7,18.83,18.87,927.08,76.04
天津,天津,西青區(qū),市轄區(qū),545,14.85,19.85,20.38,1040.27,85.37
天津,天津,津南區(qū),市轄區(qū),401,44.83,22.35,22.48,810.16,89.41
天津,天津,北辰區(qū),市轄區(qū),478,40.39,20.09,20.3,1058.14,
天津,天津,武清區(qū),市轄區(qū),1570,92.27,45.86,46.41,1151.65,119.96
天津,天津,寶坻區(qū),市轄區(qū),1523,71.1,35.72,35.39,684.07,92.98
天津,天津,濱海新區(qū),市轄區(qū),2270,128.18,66.04,62.14,6654,299.42
天津,天津,寧河區(qū),市轄區(qū),1414,40,20.21,19.79,525.37,49.57
天津,天津,靜海區(qū),市轄區(qū),1476,59.79,30.35,29.44,667.83,79.29
天津,天津,薊州區(qū),市轄區(qū),1593,86.24,43.86,42.38,392.55,91.15
到此這篇關(guān)于pandas預(yù)處理部分地區(qū)數(shù)據(jù)案例的文章就介紹到這了,更多相關(guān)pandas預(yù)處理數(shù)據(jù)內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
python中的os.mkdir和os.makedirs的使用區(qū)別及如何查看某個模塊中的某些字母開頭的屬性方法
這篇文章主要介紹了python中的os.mkdir和os.makedirs的使用區(qū)別及如何查看某個模塊中的某些字母開頭的屬性方法,本文給大家介紹的非常詳細,對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下2023-03-03Django多數(shù)據(jù)庫聯(lián)用實現(xiàn)方法解析
這篇文章主要介紹了Django多數(shù)據(jù)庫聯(lián)用實現(xiàn)方法解析,文中通過示例代碼介紹的非常詳細,對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下2020-11-11使用Keras構(gòu)造簡單的CNN網(wǎng)絡(luò)實例
這篇文章主要介紹了使用Keras構(gòu)造簡單的CNN網(wǎng)絡(luò)實例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-06-06Python3 pip3 list 出現(xiàn) DEPRECATION 警告的解決方法
今天小編就為大家分享一篇Python3 pip3 list 出現(xiàn) DEPRECATION 警告的解決方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-02-02Python+fuzzywuzzy計算兩個字符串之間的相似度
fuzzywuzzy?可以計算兩個字符串之間的相似度,它依據(jù)?Levenshtein?Distance?算法來進行計算,該算法又叫?Edit?Distance?算法,感興趣的小伙伴可以跟隨小編一起學(xué)習(xí)一下2022-09-09