欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

python實(shí)現(xiàn)機(jī)器學(xué)習(xí)之多元線性回歸

 更新時(shí)間：2021年04月20日 08:50:07   作者：婉如  
這篇文章主要為大家詳細(xì)介紹了python實(shí)現(xiàn)機(jī)器學(xué)習(xí)之多元線性回歸，文中示例代碼介紹的非常詳細(xì)，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下

總體思路與一元線性回歸思想一樣，現(xiàn)在將數(shù)據(jù)以矩陣形式進(jìn)行運(yùn)算，更加方便。
一元線性回歸實(shí)現(xiàn)代碼

下面是多元線性回歸用Python實(shí)現(xiàn)的代碼：

import numpy as np

def linearRegression(data_X,data_Y,learningRate,loopNum):
 W = np.zeros(shape=[1, data_X.shape[1]])
 # W的shape取決于特征個(gè)數(shù)，而x的行是樣本個(gè)數(shù)，x的列是特征值個(gè)數(shù)
 # 所需要的W的形式為 行=特征個(gè)數(shù)，列=1 這樣的矩陣。但也可以用1行，再進(jìn)行轉(zhuǎn)置：W.T
 # X.shape[0]取X的行數(shù)，X.shape[1]取X的列數(shù)
 b = 0

 #梯度下降
 for i in range(loopNum):
  W_derivative = np.zeros(shape=[1, data_X.shape[1]])
  b_derivative, cost = 0, 0

  WXPlusb = np.dot(data_X, W.T) + b # W.T：W的轉(zhuǎn)置
  W_derivative += np.dot((WXPlusb - data_Y).T, data_X) # np.dot:矩陣乘法
  b_derivative += np.dot(np.ones(shape=[1, data_X.shape[0]]), WXPlusb - data_Y)
  cost += (WXPlusb - data_Y)*(WXPlusb - data_Y)
  W_derivative = W_derivative / data_X.shape[0] # data_X.shape[0]:data_X矩陣的行數(shù)，即樣本個(gè)數(shù)
  b_derivative = b_derivative / data_X.shape[0]


  W = W - learningRate*W_derivative
  b = b - learningRate*b_derivative

  cost = cost/(2*data_X.shape[0])
  if i % 100 == 0:
   print(cost)
 print(W)
 print(b)

if __name__== "__main__":
 X = np.random.normal(0, 10, 100)
 noise = np.random.normal(0, 0.05, 20)
 W = np.array([[3, 5, 8, 2, 1]]) #設(shè)5個(gè)特征值
 X = X.reshape(20, 5)  #reshape成20行5列
 noise = noise.reshape(20, 1)
 Y = np.dot(X, W.T)+6 + noise
 linearRegression(X, Y, 0.003, 5000)

特別需要注意的是要弄清：矩陣的形狀

在梯度下降的時(shí)候，計(jì)算兩個(gè)偏導(dǎo)值，這里面的矩陣形狀變化需要注意。

梯度下降數(shù)學(xué)式子：

以代碼中為例，來分析一下梯度下降中的矩陣形狀。
代碼中設(shè)了5個(gè)特征。 

WXPlusb = np.dot(data_X, W.T) + b

W是一個(gè)1*5矩陣，data_X是一個(gè)20*5矩陣
WXPlusb矩陣形狀=20*5矩陣乘上5*1（W的轉(zhuǎn)置）的矩陣=20*1矩陣

W_derivative += np.dot((WXPlusb - data_Y).T, data_X)

W偏導(dǎo)矩陣形狀=1*20矩陣乘上 20*5矩陣=1*5矩陣

b_derivative += np.dot(np.ones(shape=[1, data_X.shape[0]]), WXPlusb - data_Y)

b是一個(gè)數(shù)，用1*20的全1矩陣乘上20*1矩陣=一個(gè)數(shù)

以上就是本文的全部內(nèi)容，希望對大家的學(xué)習(xí)有所幫助，也希望大家多多支持腳本之家。

相關(guān)文章

最新評論