Python實(shí)現(xiàn)批量梯度下降法(BGD)擬合曲線
1. 導(dǎo)入庫(kù)
import numpy as np #矩陣運(yùn)算 import matplotlib.pyplot as plt #可視化 import random #產(chǎn)生數(shù)據(jù)擾動(dòng)
2. 產(chǎn)生數(shù)據(jù)
擬合曲線 y = 2 × x2 + x + 1
X_m = np.mat([[i**2, i, 1] for i in range(-10,10)]) #矩陣類型,用于運(yùn)算 y_m = np.mat([[2*x[0,0]+x[0,1]+1+random.normalvariate(0,1)] for x in X_m]) #矩陣類型,用于運(yùn)算 X_a = np.asarray(X_m[:,1].T)[0] #array類型,用于可視化 y_a = np.asarray(y_m.T)[0] #array類型,用于可視化 plt.scatter(X_a, y_a) #顯示數(shù)據(jù) plt.show()
3. BGD
def BGD(X,y,w0,step,e): #批量梯度下降法 n=0 while n<=10000: w1 = w0-step*X.T.dot(X.dot(w0)-y)/X.shape[0] dw = w1-w0; if dw.dot(dw.T)[0,0] <= e**2: return w1 n += 1 w0 = w1 return w1
4. 計(jì)算
w_m = BGD(X_m,y_m,np.mat([[5],[3],[2]]),1e-4,1e-20) #可自行調(diào)參 w_a = np.asarray(w_m.T)[0] print(w_a)
array([1.99458492, 0.91587829, 1.48498921])
5. 評(píng)價(jià)( R 2)
y_mean = y_a.mean() y_pre = np.array([w_a[0]*x[0,0]+w_a[1]*x[0,1]+w_a[2] for x in X_m]) SSR = ((y_pre-y_mean)**2).sum() SST = ((y_a-y_mean)**2).sum() R2 = SSR/SST print(R2)
0.9845542903194531
我們可以認(rèn)為擬合效果不錯(cuò)。如果 R 2 R^{2} R2的值接近0,可能需要重新調(diào)參。
6. 結(jié)果展示
X = np.linspace(-10,10,50) y = np.array([w_a[0]*x**2+w_a[1]*x+w_a[2] for x in X]) plt.scatter(X_a,y_a) plt.plot(X,y) plt.show()
到此這篇關(guān)于Python實(shí)現(xiàn)批量梯度下降法(BGD)擬合曲線的文章就介紹到這了,更多相關(guān)Python 批量梯度下降內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
關(guān)于matplotlib-legend 位置屬性 loc 使用說(shuō)明
這篇文章主要介紹了關(guān)于matplotlib-legend 位置屬性 loc 使用說(shuō)明,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2020-05-05夯實(shí)基礎(chǔ)python集合的應(yīng)用場(chǎng)景及字符串定義和表示
這篇文章主要為大家介紹了python集合的應(yīng)用場(chǎng)景及字符串定義和表示,來(lái)幫大家夯實(shí)基礎(chǔ),有需要的朋友可以借鑒參考下,希望能夠有所幫助2023-10-10詳解K-means算法在Python中的實(shí)現(xiàn)
這篇文章主要介紹了詳解K-means算法在Python中的實(shí)現(xiàn),具有一定借鑒價(jià)值,需要的朋友可以了解下。2017-12-12基于python3 pyQt5 QtDesignner實(shí)現(xiàn)窗口化猜數(shù)字游戲功能
這篇文章主要介紹了基于python3 pyQt5 QtDesignner實(shí)現(xiàn)窗口化猜數(shù)字游戲功能,本文通過(guò)實(shí)例代碼給大家介紹的非常詳細(xì),具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2019-07-07