python 缺失值處理的方法(Imputation)
一、缺失值的處理方法
由于各種各樣的原因,真實(shí)世界中的許多數(shù)據(jù)集都包含缺失數(shù)據(jù),這些數(shù)據(jù)經(jīng)常被編碼成空格、nans或者是其他的占位符。但是這樣的數(shù)據(jù)集并不能被scikit - learn算法兼容,因?yàn)榇蠖鄶?shù)的學(xué)習(xí)算法都會默認(rèn)數(shù)組中的元素都是數(shù)值,因此素偶有的元素都有自己的代表意義。
使用不完整的數(shù)據(jù)集的一個(gè)基本策略就是舍棄掉整行或者整列包含缺失值的數(shù)值,但是這樣處理會浪費(fèi)大量有價(jià)值的數(shù)據(jù)。下面是處理缺失值的常用方法:
1.忽略元組
當(dāng)缺少類別標(biāo)簽時(shí)通常這樣做(假定挖掘任務(wù)涉及分類時(shí)),除非元組有多個(gè)屬性缺失值,否則該方法不是很有效。當(dāng)每個(gè)屬性缺少值的百分比變化很大時(shí),它的性能特別差。
2.人工填寫缺失值
一般該方法很費(fèi)時(shí),并且當(dāng)數(shù)據(jù)集很大,缺少很多值時(shí),該方法可能行不通。
3.使用一個(gè)全局常量填充缺失值
將缺失的屬性值用同一個(gè)常數(shù)(如“Unknown”或 負(fù)無窮)替換。如果缺失值都用“unknown”替換,則挖掘程序可能會認(rèn)為它們形成一個(gè)有趣的概念,因?yàn)樗鼈兌季哂邢嗤闹怠皍nknown”。因此,雖然該方法很簡單,但是它十分不可靠。
4.使用與給定元組屬同一類的所有樣本的屬性均值
例如:將顧客按照credit_risk分類,則使用具有相同信用度的給定元組的顧客的平均收入替換income中的缺失值。
5.使用最可能的值填充缺失值
可以用回歸、使用貝葉斯形式化的基于推理的工具或決策樹歸納確定。例如,利用數(shù)據(jù)集中其他顧客的屬性,可以構(gòu)造一顆決策樹來預(yù)測income的缺失值。
注意:缺失值并不總是意味著數(shù)據(jù)的錯(cuò)誤?。。。。。。?/p>
二、缺失值處理的代碼實(shí)現(xiàn)
class:`Imputer`類提供了缺失數(shù)值處理的基本策略,比如使用缺失數(shù)值所在行或列的均值、中位數(shù)、眾數(shù)來替代缺失值。該類也兼容不同的缺失值編碼。
1、使用均值填充缺失值
import numpy as np from sklearn.preprocessing import Imputer imp = Imputer(missing_values='NaN', strategy='mean', axis=0) import numpy as np from sklearn.preprocessing import Imputer ###1.使用均值填充缺失值 imp = Imputer(missing_values='NaN', strategy='mean', axis=0) imp.fit([[1, 2], [np.nan, 3], [7, 6]]) X = [[np.nan, 2], [6, np.nan], [7, 6]] print(imp.transform(X)) [[4. 2. ] [6. 3.66666667] [7. 6. ]]
2、Imputer 類也支持稀疏矩陣:
import scipy.sparse as sp X = sp.csc_matrix([[1, 2], [0, 3], [7, 6]]) imp = Imputer(missing_values=0, strategy='mean', axis=0) imp.fit(X) X_test = sp.csc_matrix([[0, 2], [6, 0], [7, 6]]) print(imp.transform(X_test)) #注意,在這里,缺失數(shù)據(jù)被編碼為0, 這種方式用在當(dāng)缺失數(shù)據(jù)比觀察數(shù)據(jù)更多的情況時(shí)是非常合適的。
以上就是本文的全部內(nèi)容,希望對大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
Python使用matplotlib繪制三維參數(shù)曲線操作示例
這篇文章主要介紹了Python使用matplotlib繪制三維參數(shù)曲線操作,結(jié)合實(shí)例形式分析了Python使用matplotlib的數(shù)值計(jì)算與圖形繪制相關(guān)操作技巧,需要的朋友可以參考下2019-09-09PyTorch搭建ANN實(shí)現(xiàn)時(shí)間序列風(fēng)速預(yù)測
這篇文章主要為大家介紹了PyTorch搭建ANN實(shí)現(xiàn)時(shí)間序列風(fēng)速預(yù)測,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2022-05-05總結(jié)網(wǎng)絡(luò)IO模型與select模型的Python實(shí)例講解
同步、異步、阻塞、非阻塞,當(dāng)這些網(wǎng)絡(luò)IO名詞堆到一起時(shí)難免使編程初學(xué)者感到困惑,這里我們就來為大家總結(jié)網(wǎng)絡(luò)IO模型與select模型的Python實(shí)例講解:2016-06-06python遠(yuǎn)程調(diào)用rpc模塊xmlrpclib的方法
今天小編就為大家分享一篇python遠(yuǎn)程調(diào)用rpc模塊xmlrpclib的方法,具有很好的參考價(jià)值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-01-01