欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

python梯度下降法的簡(jiǎn)單示例

 更新時(shí)間:2018年08月31日 10:39:25   作者:小城印象  
這篇文章主要為大家詳細(xì)介紹了Python梯度下降法的簡(jiǎn)單示例,文中示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下

梯度下降法的原理和公式這里不講,就是一個(gè)直觀的、易于理解的簡(jiǎn)單例子。

1.最簡(jiǎn)單的情況,樣本只有一個(gè)變量,即簡(jiǎn)單的(x,y)。多變量的則可為使用體重或身高判斷男女(這是假設(shè),并不嚴(yán)謹(jǐn)),則變量有兩個(gè),一個(gè)是體重,一個(gè)是身高,則可表示為(x1,x2,y),即一個(gè)目標(biāo)值有兩個(gè)屬性。

2.單個(gè)變量的情況最簡(jiǎn)單的就是,函數(shù)hk(x)=k*x這條直線(注意:這里k也是變化的,我們的目的就是求一個(gè)最優(yōu)的   k)。而深度學(xué)習(xí)中,我們是不知道函數(shù)的,也就是不知道上述的k。   這里討論單變量的情況:

在不知道k的情況下,我們是通過(guò)樣本(x1,y1),(x2,y2),(xn,yn)來(lái)獲取k。獲取的k的好壞則有損失函數(shù)來(lái)衡量。

損失函數(shù):就是你預(yù)測(cè)的值和真實(shí)值的差異大小(比如一個(gè)樣本(1,1)他的真實(shí)值是1,而你預(yù)測(cè)的是0.5,則差異   比較大,如果你預(yù)測(cè)值為0.9999,則差異就比較小了)。

損失函數(shù)為定義如下(此處為單變量的情況)

目的是求使損失函數(shù)最小的變量k(注意和變量x區(qū)分),則將損失函數(shù)對(duì)k求導(dǎo)(多變量時(shí)為求偏導(dǎo)得梯度,這里單變量求導(dǎo),其實(shí)不算梯度),求偏導(dǎo)如下:

然后迭代,迭代時(shí)有個(gè)步長(zhǎng)alpha,(深度學(xué)習(xí)中貌似叫學(xué)習(xí)率)

3.例子

假如我們得到樣本(1,1),(2,2),(3,3).其實(shí),由這三個(gè)樣本可以得到函數(shù)為y = 1*x。此時(shí)損失函數(shù)為0.而機(jī)器是不知道的,所以我們需要訓(xùn)練。

下面是一段python代碼。

import numpy as np
import matplotlib.pyplot as plt
x=np.arange(-5, 5, 0.001)
y=(((x-1)*(x-1)+(x*2-2)*(x*2-2)+(x*3-3)*(x*3-3))*1/6.0)
plt.plot(x,y) 
#plt.show() #顯示圖形 
 

def sum(x):
 return ((x*1-1)*1+(x*2-2)*2+(x*3-3)*3)
def fun(x):
 return ((1/3.0)*sum(x))
old = 0
new = 5
step = 0.01
pre = 0.00000001
 
def src_fun(x):
 print(((x-1)*(x-1)+(x*2-2)*(x*2-2)+(x*3-3)*(x*3-3))*1/6.0)
 
while abs(new-old)>pre:
 old = new
 #src_fun(old)  #輸出每次迭代的損失值
 new = new - step*fun(old)
 
 
print(new)
print(src_fun(new))

下圖是損失函數(shù)的圖像,損失函數(shù)中變量是k。下圖橫坐標(biāo)為k的不同取值,縱軸為對(duì)應(yīng)的損失大小。由下圖可以大致看出,當(dāng)k為1時(shí),損失函數(shù)值為0。注意:這里取的最優(yōu)值k=1是在我們已有樣本的情況下得出的,樣本不同,k值自然不同。

下面是print(new)和print(src_fun(new))的輸出結(jié)果

以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。

相關(guān)文章

  • Python可視化學(xué)習(xí)之seaborn繪制矩陣圖詳解

    Python可視化學(xué)習(xí)之seaborn繪制矩陣圖詳解

    矩陣圖即用一張圖繪制多個(gè)變量之間的關(guān)系,數(shù)據(jù)挖掘中常用于初期數(shù)據(jù)探索。本文介紹python中seaborn.pairplot和seaborn.PairGrid繪制矩陣圖,需要的可以參考一下
    2022-02-02
  • Python調(diào)整matplotlib圖片大小的3種方法匯總

    Python調(diào)整matplotlib圖片大小的3種方法匯總

    我們?cè)谑褂胢atplotlib作圖時(shí),會(huì)遇到圖片不清晰或者圖片大小不是我們想要的,這個(gè)時(shí)候就需要調(diào)整下,這篇文章主要給大家介紹了關(guān)于Python調(diào)整matplotlib圖片大小的3種方法,文中通過(guò)實(shí)例代碼介紹的非常詳細(xì),需要的朋友可以參考下
    2022-08-08
  • python?requests.post請(qǐng)求404問(wèn)題及解決方法

    python?requests.post請(qǐng)求404問(wèn)題及解決方法

    這篇文章主要介紹了python?requests.post請(qǐng)求404問(wèn)題,這里需要根據(jù)自己實(shí)際情況來(lái)分析當(dāng)前接口接收數(shù)據(jù)時(shí)使用的是什么格式,但目前一般的網(wǎng)站都開(kāi)始采用application/jsond的數(shù)據(jù)格式,本文通過(guò)圖文并茂的形式給大家介紹的非常詳細(xì),需要的朋友可以參考下
    2022-09-09
  • Keras實(shí)現(xiàn)將兩個(gè)模型連接到一起

    Keras實(shí)現(xiàn)將兩個(gè)模型連接到一起

    這篇文章主要介紹了Keras實(shí)現(xiàn)將兩個(gè)模型連接到一起,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧
    2020-05-05
  • python程序調(diào)用遠(yuǎn)程服務(wù)的步驟詳解

    python程序調(diào)用遠(yuǎn)程服務(wù)的步驟詳解

    這篇文章主要介紹了python程序調(diào)用遠(yuǎn)程服務(wù)的步驟詳解,本文給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友參考下吧
    2021-03-03
  • python+selenium實(shí)現(xiàn)自動(dòng)化百度搜索關(guān)鍵詞

    python+selenium實(shí)現(xiàn)自動(dòng)化百度搜索關(guān)鍵詞

    在本篇文章里我們給大家分享了一篇關(guān)于python+selenium實(shí)現(xiàn)自動(dòng)化百度搜索關(guān)鍵詞的實(shí)例文章,需要的朋友們可以跟著操作下。
    2019-06-06
  • Python Pandas處理CSV文件的常用技巧分享

    Python Pandas處理CSV文件的常用技巧分享

    這篇文章主要和大家分享幾個(gè)Python Pandas中處理CSV文件的常用技巧,如:統(tǒng)計(jì)列值出現(xiàn)的次數(shù)、篩選特定列值、遍歷數(shù)據(jù)行等,需要的可以參考一下
    2022-06-06
  • python之matplotlib矢量圖svg?emf

    python之matplotlib矢量圖svg?emf

    這篇文章主要介紹了python之matplotlib矢量圖svg?emf,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教
    2023-09-09
  • 對(duì)pandas進(jìn)行數(shù)據(jù)預(yù)處理的實(shí)例講解

    對(duì)pandas進(jìn)行數(shù)據(jù)預(yù)處理的實(shí)例講解

    下面小編就為大家分享一篇對(duì)pandas進(jìn)行數(shù)據(jù)預(yù)處理的實(shí)例講解,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧
    2018-04-04
  • Python使用textract實(shí)現(xiàn)從各種文件中提取文本信息

    Python使用textract實(shí)現(xiàn)從各種文件中提取文本信息

    textract是一個(gè)強(qiáng)大的Python庫(kù),可以用于從各種文件格式中提取文本,本文將介紹textract的使用場(chǎng)景,以及一些常用的Python代碼案例,希望對(duì)大家有所幫助
    2024-01-01

最新評(píng)論