欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

python 缺失值處理的方法(Imputation)

 更新時間:2019年07月02日 10:26:02   作者:飛飛飛鳥不會飛  
這篇文章主要介紹了python 缺失值處理的方法(Imputation),文中通過示例代碼介紹的非常詳細,對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧

一、缺失值的處理方法

由于各種各樣的原因,真實世界中的許多數(shù)據(jù)集都包含缺失數(shù)據(jù),這些數(shù)據(jù)經(jīng)常被編碼成空格、nans或者是其他的占位符。但是這樣的數(shù)據(jù)集并不能被scikit - learn算法兼容,因為大多數(shù)的學(xué)習(xí)算法都會默認數(shù)組中的元素都是數(shù)值,因此素偶有的元素都有自己的代表意義。

使用不完整的數(shù)據(jù)集的一個基本策略就是舍棄掉整行或者整列包含缺失值的數(shù)值,但是這樣處理會浪費大量有價值的數(shù)據(jù)。下面是處理缺失值的常用方法:

1.忽略元組

當缺少類別標簽時通常這樣做(假定挖掘任務(wù)涉及分類時),除非元組有多個屬性缺失值,否則該方法不是很有效。當每個屬性缺少值的百分比變化很大時,它的性能特別差。

2.人工填寫缺失值

一般該方法很費時,并且當數(shù)據(jù)集很大,缺少很多值時,該方法可能行不通。

3.使用一個全局常量填充缺失值

將缺失的屬性值用同一個常數(shù)(如“Unknown”或 負無窮)替換。如果缺失值都用“unknown”替換,則挖掘程序可能會認為它們形成一個有趣的概念,因為它們都具有相同的值“unknown”。因此,雖然該方法很簡單,但是它十分不可靠。

4.使用與給定元組屬同一類的所有樣本的屬性均值

例如:將顧客按照credit_risk分類,則使用具有相同信用度的給定元組的顧客的平均收入替換income中的缺失值。

5.使用最可能的值填充缺失值

可以用回歸、使用貝葉斯形式化的基于推理的工具或決策樹歸納確定。例如,利用數(shù)據(jù)集中其他顧客的屬性,可以構(gòu)造一顆決策樹來預(yù)測income的缺失值。

注意:缺失值并不總是意味著數(shù)據(jù)的錯誤?。。。。。。?/p>

二、缺失值處理的代碼實現(xiàn)

class:`Imputer`類提供了缺失數(shù)值處理的基本策略,比如使用缺失數(shù)值所在行或列的均值、中位數(shù)、眾數(shù)來替代缺失值。該類也兼容不同的缺失值編碼。

1、使用均值填充缺失值

import numpy as np

from sklearn.preprocessing import Imputer

imp = Imputer(missing_values='NaN', strategy='mean', axis=0)

import numpy as np

from sklearn.preprocessing import Imputer
 
###1.使用均值填充缺失值
imp = Imputer(missing_values='NaN', strategy='mean', axis=0)
imp.fit([[1, 2], [np.nan, 3], [7, 6]])


X = [[np.nan, 2], [6, np.nan], [7, 6]]
print(imp.transform(X)) 
[[4.     2.    ]
 [6.     3.66666667]
 [7.     6.    ]]

2、Imputer 類也支持稀疏矩陣:

import scipy.sparse as sp
 
X = sp.csc_matrix([[1, 2], [0, 3], [7, 6]])
 
imp = Imputer(missing_values=0, strategy='mean', axis=0)
 
imp.fit(X)
 
 
X_test = sp.csc_matrix([[0, 2], [6, 0], [7, 6]])
 
print(imp.transform(X_test))

#注意,在這里,缺失數(shù)據(jù)被編碼為0, 這種方式用在當缺失數(shù)據(jù)比觀察數(shù)據(jù)更多的情況時是非常合適的。 

以上就是本文的全部內(nèi)容,希望對大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。

相關(guān)文章

  • Python使用matplotlib繪制三維參數(shù)曲線操作示例

    Python使用matplotlib繪制三維參數(shù)曲線操作示例

    這篇文章主要介紹了Python使用matplotlib繪制三維參數(shù)曲線操作,結(jié)合實例形式分析了Python使用matplotlib的數(shù)值計算與圖形繪制相關(guān)操作技巧,需要的朋友可以參考下
    2019-09-09
  • keras多顯卡訓(xùn)練方式

    keras多顯卡訓(xùn)練方式

    這篇文章主要介紹了keras多顯卡訓(xùn)練方式,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2020-06-06
  • Python-opencv 雙線性插值實例

    Python-opencv 雙線性插值實例

    今天小編就為大家分享一篇Python-opencv 雙線性插值實例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2020-01-01
  • Pytorch中使用TensorBoard詳情

    Pytorch中使用TensorBoard詳情

    這篇文章主要介紹了Pytorch中使用TensorBoard詳情,TensorBoard的前段數(shù)據(jù)顯示和后端數(shù)據(jù)記錄是異步I/O的,即后端程序?qū)?shù)據(jù)寫入到一個文件中,而前端程序讀取文件中的數(shù)據(jù)來進行顯示
    2022-06-06
  • PyTorch搭建ANN實現(xiàn)時間序列風速預(yù)測

    PyTorch搭建ANN實現(xiàn)時間序列風速預(yù)測

    這篇文章主要為大家介紹了PyTorch搭建ANN實現(xiàn)時間序列風速預(yù)測,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪
    2022-05-05
  • 總結(jié)網(wǎng)絡(luò)IO模型與select模型的Python實例講解

    總結(jié)網(wǎng)絡(luò)IO模型與select模型的Python實例講解

    同步、異步、阻塞、非阻塞,當這些網(wǎng)絡(luò)IO名詞堆到一起時難免使編程初學(xué)者感到困惑,這里我們就來為大家總結(jié)網(wǎng)絡(luò)IO模型與select模型的Python實例講解:
    2016-06-06
  • Python中的引用和拷貝淺析

    Python中的引用和拷貝淺析

    這篇文章主要介紹了Python中的引用和拷貝淺析,本文同時講解了深拷貝和淺拷貝、引用計數(shù)和垃圾回收等內(nèi)容,需要的朋友可以參考下
    2014-11-11
  • python進階教程之動態(tài)類型詳解

    python進階教程之動態(tài)類型詳解

    這篇文章主要介紹了python進階教程之動態(tài)類型詳解,動態(tài)類型是動態(tài)語言的特性,本文對多種動態(tài)類型應(yīng)用做了講解,需要的朋友可以參考下
    2014-08-08
  • python遠程調(diào)用rpc模塊xmlrpclib的方法

    python遠程調(diào)用rpc模塊xmlrpclib的方法

    今天小編就為大家分享一篇python遠程調(diào)用rpc模塊xmlrpclib的方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2019-01-01
  • python?yield迭代器詳解

    python?yield迭代器詳解

    帶有yield的函數(shù)在Python中被稱之為generator(生成器),也就是說,當你調(diào)用這個函數(shù)的時候,函數(shù)內(nèi)部的代碼并不立即執(zhí)行?,這個函數(shù)只是返回一個生成器
    2022-11-11

最新評論