使用 pytorch 創(chuàng)建神經(jīng)網(wǎng)絡擬合sin函數(shù)的實現(xiàn)
我們知道深度神經(jīng)網(wǎng)絡的本質(zhì)是輸入端數(shù)據(jù)和輸出端數(shù)據(jù)的一種高維非線性擬合,如何更好的理解它,下面嘗試擬合一個正弦函數(shù),本文可以通過簡單設置節(jié)點數(shù),實現(xiàn)任意隱藏層數(shù)的擬合。
基于pytorch的深度神經(jīng)網(wǎng)絡實戰(zhàn),無論任務多么復雜,都可以將其拆分成必要的幾個模塊來進行理解。
1)構建數(shù)據(jù)集,包括輸入,對應的標簽y
2) 構建神經(jīng)網(wǎng)絡模型,一般基于nn.Module繼承一個net類,必須的是__init__函數(shù)和forward函數(shù)。__init__構造函數(shù)包括創(chuàng)建該類是必須的參數(shù),比如輸入節(jié)點數(shù),隱藏層節(jié)點數(shù),輸出節(jié)點數(shù)。forward函數(shù)則定義了整個網(wǎng)絡的前向傳播過程,類似于一個Sequential。
3)實例化上步創(chuàng)建的類。
4)定義損失函數(shù)(判別準則),比如均方誤差,交叉熵等
5)定義優(yōu)化器(optim:SGD,adam,adadelta等),設置學習率
6)開始訓練。開始訓練是一個從0到設定的epoch的循環(huán),循環(huán)期間,根據(jù)loss,不斷迭代和更新網(wǎng)絡權重參數(shù)。
無論多么復雜的網(wǎng)絡,基于pytorch的深度神經(jīng)網(wǎng)絡都包括6個模塊,訓練階段包括5個步驟,本文只通過擬合一個正弦函數(shù)來說明加深理解。
廢話少說,直接上代碼:
from torch.utils.data import DataLoader from torch.utils.data import TensorDataset import torch.nn as nn import numpy as np import torch # 準備數(shù)據(jù) x=np.linspace(-2*np.pi,2*np.pi,400) y=np.sin(x) # 將數(shù)據(jù)做成數(shù)據(jù)集的模樣 X=np.expand_dims(x,axis=1) Y=y.reshape(400,-1) # 使用批訓練方式 dataset=TensorDataset(torch.tensor(X,dtype=torch.float),torch.tensor(Y,dtype=torch.float)) dataloader=DataLoader(dataset,batch_size=100,shuffle=True) # 神經(jīng)網(wǎng)絡主要結構,這里就是一個簡單的線性結構 class Net(nn.Module): def __init__(self): super(Net, self).__init__() self.net=nn.Sequential( nn.Linear(in_features=1,out_features=10),nn.ReLU(), nn.Linear(10,100),nn.ReLU(), nn.Linear(100,10),nn.ReLU(), nn.Linear(10,1) ) def forward(self, input:torch.FloatTensor): return self.net(input) net=Net() # 定義優(yōu)化器和損失函數(shù) optim=torch.optim.Adam(Net.parameters(net),lr=0.001) Loss=nn.MSELoss() # 下面開始訓練: # 一共訓練 1000次 for epoch in range(1000): loss=None for batch_x,batch_y in dataloader: y_predict=net(batch_x) loss=Loss(y_predict,batch_y) optim.zero_grad() loss.backward() optim.step() # 每100次 的時候打印一次日志 if (epoch+1)%100==0: print("step: {0} , loss: {1}".format(epoch+1,loss.item())) # 使用訓練好的模型進行預測 predict=net(torch.tensor(X,dtype=torch.float)) # 繪圖展示預測的和真實數(shù)據(jù)之間的差異 import matplotlib.pyplot as plt plt.plot(x,y,label="fact") plt.plot(x,predict.detach().numpy(),label="predict") plt.title("sin function") plt.xlabel("x") plt.ylabel("sin(x)") plt.legend() plt.savefig(fname="result.png",figsize=[10,10]) plt.show()
輸出結果:
step: 100 , loss: 0.06755948066711426
step: 200 , loss: 0.003788222325965762
step: 300 , loss: 0.0004728269996121526
step: 400 , loss: 0.0001810075482353568
step: 500 , loss: 0.0001108720971387811
step: 600 , loss: 6.29749265499413e-05
step: 700 , loss: 3.707894938997924e-05
step: 800 , loss: 0.0001250380591955036
step: 900 , loss: 3.0654005968244746e-05
step: 1000 , loss: 4.349641676526517e-05
輸出圖像:
到此這篇關于使用 pytorch 創(chuàng)建神經(jīng)網(wǎng)絡擬合sin函數(shù)的實現(xiàn)的文章就介紹到這了,更多相關pytorch 創(chuàng)建擬合sin函數(shù)內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!
相關文章
利用Python Django實現(xiàn)簡單博客系統(tǒng)
這篇文章主要介紹了利用Python Django實現(xiàn)簡單博客系統(tǒng),文中有非常詳細的代碼示例,對正在學習python的小伙伴們有很好地幫助,需要的朋友可以參考下2021-05-05python實現(xiàn)12306登錄并保存cookie的方法示例
這篇文章主要介紹了 python實現(xiàn)12306登錄并保存cookie的方法示例,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2019-12-12python查詢MySQL將數(shù)據(jù)寫入Excel
這篇文章主要介紹了python如何查詢MySQL將數(shù)據(jù)寫入Excel,幫助大家利用python高效的辦公,感興趣的朋友可以了解下2020-10-10OpenCV?圖像分割實現(xiàn)Kmean聚類的示例代碼
本文主要介紹了OpenCV?圖像分割實現(xiàn)Kmean聚類的示例代碼,文中通過示例代碼介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們可以參考一下2022-03-03