python實(shí)現(xiàn)最小二乘法線性擬合
本文python代碼實(shí)現(xiàn)的是最小二乘法線性擬合,并且包含自己造的輪子與別人造的輪子的結(jié)果比較。
問題:對直線附近的帶有噪聲的數(shù)據(jù)進(jìn)行線性擬合,最終求出w,b的估計(jì)值。
最小二乘法基本思想是使得樣本方差最小。
代碼中self_func()函數(shù)為自定義擬合函數(shù),skl_func()為調(diào)用scikit-learn中線性模塊的函數(shù)。
import numpy as np
import matplotlib.pyplot as plt
from sklearn.linear_model import LinearRegression
n = 101
x = np.linspace(0,10,n)
noise = np.random.randn(n)
y = 2.5 * x + 0.8 + 2.0 * noise
def self_func(steps=100, alpha=0.01):
w = 0.5
b = 0
alpha = 0.01
for i in range(steps):
y_hat = w*x + b
dy = 2.0*(y_hat - y)
dw = dy*x
db = dy
w = w - alpha*np.sum(dw)/n
b = b - alpha*np.sum(db)/n
e = np.sum((y_hat-y)**2)/n
#print (i,'W=',w,'\tb=',b,'\te=',e)
print ('self_func:\tW =',w,'\n\tb =',b)
plt.scatter(x,y)
plt.plot(np.arange(0,10,1), w*np.arange(0,10,1) + b, color = 'r', marker = 'o', label = 'self_func(steps='+str(steps)+', alpha='+str(alpha)+')')
def skl_func():
lr = LinearRegression()
lr.fit(x.reshape(-1,1),y)
y_hat = lr.predict(np.arange(0,10,0.75).reshape(-1,1))
print('skl_fun:\tW = %f\n\tb = %f'%(lr.coef_,lr.intercept_))
plt.plot(np.arange(0,10,0.75), y_hat, color = 'g', marker = 'x', label = 'skl_func')
self_func(10000)
skl_func()
plt.legend(loc='upper left')
plt.show()
結(jié)果:
self_func: W = 2.5648753825503197 b = 0.24527830841237772
skl_fun: W = 2.564875 b = 0.245278

以上就是本文的全部內(nèi)容,希望對大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
Python標(biāo)準(zhǔn)庫sys庫常用功能詳解
這篇文章主要介紹了Python標(biāo)準(zhǔn)庫sys庫常用功能詳解,sys是Python提供的程序與解釋器交互的標(biāo)準(zhǔn)庫,文章圍繞主題展開相關(guān)介紹,需要的朋友可以參考一下2022-07-07
Python實(shí)現(xiàn)PS圖像抽象畫風(fēng)效果的方法
這篇文章主要介紹了Python實(shí)現(xiàn)PS圖像抽象畫風(fēng)效果的方法,涉及Python基于skimage模塊進(jìn)行圖像處理的相關(guān)操作技巧,需要的朋友可以參考下2018-01-01
Python游戲開發(fā)之Pygame使用的最全教程分享
Pygame庫是Python中一個(gè)專為游戲開發(fā)設(shè)計(jì)的庫,它提供了大量的功能來幫助開發(fā)者創(chuàng)建各種2D游戲,本文就來和大家分享一下Pygame的具體使用,希望對大家有所幫助2023-05-05
Pytorch中的backward()多個(gè)loss函數(shù)用法
這篇文章主要介紹了Pytorch中的backward()多個(gè)loss函數(shù)用法,具有很好的參考價(jià)值,希望對大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2021-05-05
python包實(shí)現(xiàn)?retrying?重復(fù)回調(diào)操作
這篇文章主要介紹了python包實(shí)現(xiàn)?retrying?重復(fù)回調(diào)操作,文章python的相關(guān)資料展開對retrying?重復(fù)回調(diào)的詳細(xì)介紹,需要的小伙伴可以參考一下,希望對你的學(xué)習(xí)有所幫助2022-04-04
python BitMap算法處理20億隨機(jī)整數(shù)去重
這篇文章主要為大家介紹了python BitMap算法處理20億隨機(jī)整數(shù)去重,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2024-01-01

