欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

用scikit-learn和pandas學習線性回歸的方法

 更新時間:2019年06月21日 10:22:57   作者:劉建平Pinard  
這篇文章主要介紹了用scikit-learn和pandas學習線性回歸的方法,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧

對于想深入了解線性回歸的童鞋,這里給出一個完整的例子,詳細學完這個例子,對用scikit-learn來運行線性回歸,評估模型不會有什么問題了。

1. 獲取數(shù)據(jù),定義問題

沒有數(shù)據(jù),當然沒法研究機器學習啦。:) 這里我們用UCI大學公開的機器學習數(shù)據(jù)來跑線性回歸。

數(shù)據(jù)的介紹在這:http://archive.ics.uci.edu/ml/datasets/Combined+Cycle+Power+Plant

數(shù)據(jù)的下載地址在這:http://archive.ics.uci.edu/ml/machine-learning-databases/00294/

里面是一個循環(huán)發(fā)電場的數(shù)據(jù),共有9568個樣本數(shù)據(jù),每個數(shù)據(jù)有5列,分別是:AT(溫度), V(壓力), AP(濕度), RH(壓強), PE(輸出電力)。我們不用糾結(jié)于每項具體的意思。

我們的問題是得到一個線性的關(guān)系,對應PE是樣本輸出,而AT/V/AP/RH這4個是樣本特征, 機器學習的目的就是得到一個線性回歸模型,即:

PE=θ 0 +θ 1 AT+θ 2 V+θ 3 AP+θ 4 RH 而需要學習的,就是\(\theta_0, \theta_1, \theta_2, \theta_3, \theta_4\)這5個參數(shù)。

2. 整理數(shù)據(jù)

下載后的數(shù)據(jù)可以發(fā)現(xiàn)是一個壓縮文件,解壓后可以看到里面有一個xlsx文件,我們先用excel把它打開,接著“另存為“”csv格式,保存下來,后面我們就用這個csv來運行線性回歸。

打開這個csv可以發(fā)現(xiàn)數(shù)據(jù)已經(jīng)整理好,沒有非法數(shù)據(jù),因此不需要做預處理。但是這些數(shù)據(jù)并沒有歸一化,也就是轉(zhuǎn)化為均值0,方差1的格式。也不用我們搞,后面scikit-learn在線性回歸時會先幫我們把歸一化搞定。

好了,有了這個csv格式的數(shù)據(jù),我們就可以大干一場了。

3.用pandas來讀取數(shù)據(jù)

我們先打開ipython notebook,新建一個notebook。當然也可以直接在python的交互式命令行里面輸入,不過還是推薦用notebook。下面的例子和輸出我都是在notebook里面跑的。

先把要導入的庫聲明了:

import matplotlib.pyplot as plt
%matplotlib inline
import numpy as np
import pandas as pd
from sklearn import datasets, linear_model

接著我們就可以用pandas讀取數(shù)據(jù)了:

# read_csv里面的參數(shù)是csv在你電腦上的路徑,此處csv文件放在notebook運行目錄下面的CCPP目錄里
data = pd.read_csv('.\CCPP\ccpp.csv')

測試下讀取數(shù)據(jù)是否成功:

#讀取前五行數(shù)據(jù),如果是最后五行,用data.tail()
data.head()

運行結(jié)果應該如下,看到下面的數(shù)據(jù),說明pandas讀取數(shù)據(jù)成功:

  AT V AP RH PE
0 8.34 40.77 1010.84 90.01 480.48
1 23.64 58.49 1011.40 74.20 445.75
2 29.74 56.90 1007.15 41.91 438.76
3 19.07 49.69 1007.22 76.79 453.09
4 11.80 40.66 1017.13 97.20 464.43

4.準備運行算法的數(shù)據(jù)

我們看看數(shù)據(jù)的維度:

data.shape

結(jié)果是(9568, 5)。說明我們有9568個樣本,每個樣本有5列。

現(xiàn)在我們開始準備樣本特征X,我們用AT, V,AP和RH這4個列作為樣本特征。

X = data[['AT', 'V', 'AP', 'RH']]
X.head()

可以看到X的前五條輸出如下:

  AT V AP RH
0 8.34 40.77 1010.84 90.01
1 23.64 58.49 1011.40 74.20
2 29.74 56.90 1007.15 41.91
3 19.07 49.69 1007.22 76.79
4 11.80 40.66 1017.13 97.20

接著我們準備樣本輸出y, 我們用PE作為樣本輸出。

y = data[['PE']]
y.head()

可以看到y(tǒng)的前五條輸出如下:

  PE
0 480.48
1 445.75
2 438.76
3 453.09
4 464.43

5. 劃分訓練集和測試集

我們把X和y的樣本組合劃分成兩部分,一部分是訓練集,一部分是測試集,代碼如下:

from sklearn.cross_validation import train_test_split
X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=1)

查看下訓練集和測試集的維度:

print X_train.shape
print y_train.shape
print X_test.shape
print y_test.shape

結(jié)果如下:

(7176, 4)
(7176, 1)
(2392, 4)
(2392, 1)      

可以看到75%的樣本數(shù)據(jù)被作為訓練集,25%的樣本被作為測試集。

6. 運行scikit-learn的線性模型

終于到了臨門一腳了,我們可以用scikit-learn的線性模型來擬合我們的問題了。scikit-learn的線性回歸算法使用的是最小二乘法來實現(xiàn)的。代碼如下:

from sklearn.linear_model import LinearRegression
linreg = LinearRegression()
linreg.fit(X_train, y_train)

擬合完畢后,我們看看我們的需要的模型系數(shù)結(jié)果:

print linreg.intercept_
print linreg.coef_

輸出如下:

[ 447.06297099]
[[-1.97376045 -0.23229086 0.0693515 -0.15806957]]

這樣我們就得到了在步驟1里面需要求得的5個值。也就是說PE和其他4個變量的關(guān)系如下:

7. 模型評價

我們需要評估我們的模型的好壞程度,對于線性回歸來說,我們一般用均方差(Mean Squared Error, MSE)或者均方根差(Root Mean Squared Error, RMSE)在測試集上的表現(xiàn)來評價模型的好壞。

我們看看我們的模型的MSE和RMSE,代碼如下:

#模型擬合測試集
y_pred = linreg.predict(X_test)
from sklearn import metrics
# 用scikit-learn計算MSE
print "MSE:",metrics.mean_squared_error(y_test, y_pred)
# 用scikit-learn計算RMSE
print "RMSE:",np.sqrt(metrics.mean_squared_error(y_test, y_pred))

輸出如下:

MSE: 20.0804012021
RMSE: 4.48111606657

得到了MSE或者RMSE,如果我們用其他方法得到了不同的系數(shù),需要選擇模型時,就用MSE小的時候?qū)膮?shù)。

比如這次我們用AT, V,AP這3個列作為樣本特征。不要RH, 輸出仍然是PE。代碼如下:

X = data[['AT', 'V', 'AP']]
y = data[['PE']]
X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=1)
from sklearn.linear_model import LinearRegression
linreg = LinearRegression()
linreg.fit(X_train, y_train)
#模型擬合測試集
y_pred = linreg.predict(X_test)
from sklearn import metrics
# 用scikit-learn計算MSE
print "MSE:",metrics.mean_squared_error(y_test, y_pred)
# 用scikit-learn計算RMSE
print "RMSE:",np.sqrt(metrics.mean_squared_error(y_test, y_pred))

輸出如下:

MSE: 23.2089074701
RMSE: 4.81756239919  

可以看出,去掉RH后,模型擬合的沒有加上RH的好,MSE變大了。

8. 交叉驗證 

我們可以通過交叉驗證來持續(xù)優(yōu)化模型,代碼如下,我們采用10折交叉驗證,即cross_val_predict中的cv參數(shù)為10:

X = data[['AT', 'V', 'AP', 'RH']]
y = data[['PE']]
from sklearn.model_selection import cross_val_predict
predicted = cross_val_predict(linreg, X, y, cv=10)
# 用scikit-learn計算MSE
print "MSE:",metrics.mean_squared_error(y, predicted)
# 用scikit-learn計算RMSE
print "RMSE:",np.sqrt(metrics.mean_squared_error(y, predicted))

輸出如下:

MSE: 20.7955974619
RMSE: 4.56021901469

可以看出,采用交叉驗證模型的MSE比第6節(jié)的大,主要原因是我們這里是對所有折的樣本做測試集對應的預測值的MSE,而第6節(jié)僅僅對25%的測試集做了MSE。兩者的先決條件并不同。

9. 畫圖觀察結(jié)果

這里畫圖真實值和預測值的變化關(guān)系,離中間的直線y=x直接越近的點代表預測損失越低。代碼如下:

fig, ax = plt.subplots()
ax.scatter(y, predicted)
ax.plot([y.min(), y.max()], [y.min(), y.max()], 'k--', lw=4)
ax.set_xlabel('Measured')
ax.set_ylabel('Predicted')
plt.show()

輸出的圖像如下:

完整的jupyter-notebook代碼參看我的Github。

以上就是用scikit-learn和pandas學習線性回歸的過程,希望可以對初學者有所幫助。也希望大家多多支持腳本之家。

相關(guān)文章

  • python如何更新包

    python如何更新包

    在本篇文章里小編給大家整理的是關(guān)于python更新包的相關(guān)知識點內(nèi)容,有興趣的朋友們可以參考下。
    2020-06-06
  • Python字典fromkeys()方法使用代碼實例

    Python字典fromkeys()方法使用代碼實例

    這篇文章主要介紹了Python字典fromkeys()方法使用代碼實例,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下
    2020-07-07
  • 基于Python實現(xiàn)絲滑換裝視頻剪輯

    基于Python實現(xiàn)絲滑換裝視頻剪輯

    看到人家用PR什么編輯軟件做這種絲滑一鍵換裝的視頻,自己也想嘗試一下。不過PR這破玩意太難用了,還不如敲代碼來的省事。所以本文將利用Python算法實現(xiàn)絲滑換裝視頻,感興趣的可以了解一下
    2022-04-04
  • tensorflow轉(zhuǎn)onnx的實現(xiàn)方法

    tensorflow轉(zhuǎn)onnx的實現(xiàn)方法

    本文主要介紹了tensorflow轉(zhuǎn)onnx的實現(xiàn)方法,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧
    2023-03-03
  • 利用Python繪制創(chuàng)意中秋節(jié)月餅

    利用Python繪制創(chuàng)意中秋節(jié)月餅

    又是一年中秋至——花好月圓夜。turtle庫作為Python重要的標準庫之一,是最有價值的程序設(shè)計入門實踐庫,它是程序設(shè)計入門層面最常用的基本繪圖庫。本文將使用turtle(海龜)來繪制中秋創(chuàng)意月餅,感興趣的可以了解一下
    2022-09-09
  • Python讀取pdf表格寫入excel的方法

    Python讀取pdf表格寫入excel的方法

    這篇文章主要介紹了Python讀取pdf表格寫入excel的方法,幫助大家更好的利用python處理excel表格,感興趣的朋友可以了解下
    2021-01-01
  • Django框架models使用group by詳解

    Django框架models使用group by詳解

    這篇文章主要介紹了Django框架models使用group by詳解,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2020-03-03
  • python遞歸實現(xiàn)鏈表快速倒轉(zhuǎn)

    python遞歸實現(xiàn)鏈表快速倒轉(zhuǎn)

    這篇文章主要為大家詳細介紹了python遞歸實現(xiàn)鏈表快速倒轉(zhuǎn),文中示例代碼介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們可以參考一下
    2022-05-05
  • python基礎(chǔ)操作列表推導式

    python基礎(chǔ)操作列表推導式

    列表推導式形式較為簡潔,是利用其它列表創(chuàng)建新列表的一種方式,它的工作方式類似于for循環(huán),也可以嵌套if條件判斷語句,需要的朋友可以參考下
    2023-04-04
  • NumPy實現(xiàn)多維數(shù)組中的線性代數(shù)

    NumPy實現(xiàn)多維數(shù)組中的線性代數(shù)

    本文主要介紹了NumPy實現(xiàn)多維數(shù)組中的線性代數(shù),文中通過示例代碼介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們可以參考一下
    2021-07-07

最新評論