pytorch簡單實現(xiàn)神經網絡功能
更新時間：2022年09月15日 08:25:19 作者：那小子真混蛋
這篇文章主要介紹了pytorch簡單實現(xiàn)神經網絡，本文通過實例代碼給大家介紹的非常詳細，對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下
一、基本
（1）利用pytorch建好的層進行搭建
import torch
from torch import nn
from torch.nn import functional as F
#定義一個MLP網絡
class MLP(nn.Module):
'''
網絡里面主要是要定義__init__()、forward()
'''
def __init__(self):
'''
這里定義網絡有哪些層(比如nn.Linear,Conv2d……)[可不含激活函數]
'''
super().__init__()#調用Module（父）初始化
self.hidden = nn.Linear(5,10)
self.out = nn.Linear(10,2)
def forward(self,x):
'''
這里定義前向傳播的順序,即__init__()中定義的層是按怎樣的順序進行連接以及傳播的[在這里加上激活函數,以構造復雜函數,提高擬合能力]
'''
return self.out(F.relu(self.hidden(x)))上面的3層感知器可以用于解決一個簡單的現(xiàn)實問題：給定5個特征，輸出0-1類別概率值，是一個簡單的2分類解決方案。
搭建一些簡單的網絡時，可以用nn.Sequence(層1，層2，……，層n)一步到位：
import torch from torch import nn from torch.nn import functional as F net = nn.Sequential(nn.Linear(5,10),nn.ReLU(),nn.Linear(10,2))
但是nn.Sequence僅局限于簡單的網絡搭建，而自定義網絡可以實現(xiàn)復雜網絡結構。
?。?）中定義的MLP大致如上（5個輸入->全連接->ReLU()->輸出）
（2）使用網絡
import torch from torch import nn from torch.nn import functional as F net = MLP() x = torch.randn((15,5))#15個samples，5個輸入屬性 out = net(x) #也可調用forward->"out = net.forward(x)" print(out) #print(out.shape)
tensor([[-0.0760, -0.1026],
[-0.3277, -0.2332],
[-0.0314, -0.1921],
[ 0.0131, -0.1473],
[-0.0650, -0.2310],
[ 0.3009, -0.5510],
[ 0.1491, -0.0928],
[-0.1438, -0.1304],
[-0.1945, -0.1944],
[ 0.1088, -0.2249],
[ 0.0016, -0.2334],
[ 0.1401, -0.3709],
[-0.1864, -0.1764],
[ 0.0775, -0.0160],
[ 0.0150, -0.3198]], grad_fn=<AddmmBackward>)二、進階
（1）構建較復雜的網絡結構
a. Sequence、net套娃
import torch
from torch import nn
from torch.nn import functional as F
class MLP2(nn.Module):
def __init__(self):
super().__init__()
self.net = nn.Sequential(nn.Linear(5,10),nn.ReLU(),nn.Linear(10,5))
self.out = nn.Linear(5,4)
def forward(self,x):
return self.out(F.relu(self.net(x)))
net2 = nn.Sequential(MLP2(),nn.ReLU(),nn.Linear(4,2))
net2.eval()
# eval()等價print(net2)Sequential(
(0): MLP2(
(net): Sequential(
(0): Linear(in_features=5, out_features=10, bias=True)
(1): ReLU()
(2): Linear(in_features=10, out_features=5, bias=True)
)
(out): Linear(in_features=5, out_features=4, bias=True)
)
(1): ReLU()
(2): Linear(in_features=4, out_features=2, bias=True)
)（2） 參數
a. 權重、偏差的訪問
#訪問權重和偏差 print(net2[2].weight)#注意weight是parameter類型，.data訪問數值 print(net2[2].bias.data) #輸出所有權重、偏差 print(*[(name,param) for name,param in net2[2].parameters()])
b. 不同網絡之間共享參數
shared = nn.Linear(8,8) net = nn.Sequential(nn.Linear(5,8),nn.ReLU(),shared,nn.ReLU(),shared) print(net[2].weight.data[0]) net[2].weight.data[0][0] = 100 print(net[2].weight.data[0][0]) print(net[2].weight.data[0] == net[4].weight.data[0]) net.eval()
c. 參數初始化
def init_Linear(m):
if type(m) == nn.Linear:
nn.init.normal_(m.weight,mean = 0,std = 0.01) #將權重按照均值為0，標準差為0.01的正態(tài)分布進行初始化
nn.init.zeros_(m.bias) #將偏差置為0
def init_const(m):
if type(m) == nn.Linear:
nn.init.constant_(m.weight,42) #將權重全部置為42
def my_init(m):
if type(m) == nn.Linear:
'''
對weight和bias自定義初始化
'''
pass
#如何調用？
net2.apply(init_const) #在net2中進行遍歷，對每個Linear執(zhí)行初始化（3）自定義層（__init__()中可含輸入輸出層）
a. 不帶輸入輸出的自定義層（輸入輸出一致，x數進,x數出，對每個值進行相同的操作，類似激活函數）
b. 帶輸入輸出的自定義層
import torch
from torch import nn
from torch.nn import functional as F
#a
class decentralized(nn.Module):
def __init__(self):
super().__init__()
def forward(self,x):
return x-x.mean()
#b
class my_Linear(nn.Module):
def __init__(self,dim_in,dim_out):
super().__init__()
self.weight = nn.Parameter(torch.ones(dim_in,dim_out)) #由于x行數為dim_out，列數為dim_in，要做乘法，權重行列互換
self.bias = nn.Parameter(torch.randn(dim_out))
def forward(self,x):
return F.relu(torch.matmul(x,self.weight.data)+self.bias.data)
tmp = my_Linear(5,3)
print(tmp.weight)（4）讀寫
#存取任意torch類型變量
x = torch.randn((20,20))
torch.save(x,'X') #存
y = torch.load('X') #取
#存儲網絡
torch.save(net2.state_dict(),'Past_parameters') #把所有參數全部存儲
clone = nn.Sequential(MLP2(),nn.ReLU(),nn.Linear(4,2)) #存儲時同時存儲網絡定義（網絡結構）
clone.load_state_dict(torch.load('Past_parameters'))
clone.eval()到此這篇關于pytorch簡單實現(xiàn)神經網絡的文章就介紹到這了,更多相關pytorch神經網絡內容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家！
相關文章
Python?Bleach保障網絡安全防止網站受到XSS(跨站腳本)攻擊
Bleach?不僅可以清理?HTML?文檔,還能夠對鏈接進行處理,檢查是否是合法格式,并可以使用白名單來控制哪些?HTML?標簽、屬性是安全的,因此非常適合用于清潔用戶輸入的數據,確保網站安全2024-01-01
本文主要介紹了Python中l(wèi)oguru日志庫的使用，文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面隨著小編來一起學習學習吧2023-03-03
Python腳本有效檢測vsftpd2.3.4版本中的笑臉漏洞,該漏洞存在于6200端口,允許任何人連接,輸入帶有特定表情符號的用戶名和任意密碼即可觸發(fā),本文介紹了環(huán)境搭建、漏洞掃描和利用過程,通過nc命令演示了漏洞復現(xiàn)步驟2024-10-10
本文主要介紹了深入理解numpy中argmax的具體使用，文中通過示例代碼介紹的非常詳細，具有一定的參考價值，感興趣的小伙伴們可以參考一下2022-01-01
這篇文章主要介紹了Django視圖和URL配置詳解，分享了相關代碼示例，小編覺得還是挺不錯的，具有一定借鑒價值，需要的朋友可以參考下2018-01-01
今天小編就為大家分享一篇python實現(xiàn)用類讀取文件數據并計算矩形面積，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2020-01-01
這篇文章主要介紹了Python庫skimage繪制二值圖像代碼實例,文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下2020-04-04
這篇文章主要介紹了利用python進行接口測試詳情，文章基于python展開對接口測試的詳細介紹，具有一定的參考價值，需要的小伙伴可以參考一下2022-05-05
一文教你用python編寫Dijkstra算法進行機器人路徑規(guī)劃
迪杰斯特拉(Dijkstra)算法是典型最短路徑算法,用于計算一個節(jié)點到其他節(jié)點的最短路徑,這篇文章主要給大家介紹了關于利用python編寫Dijkstra算法進行機器人路徑規(guī)劃的相關資料,需要的朋友可以參考下2021-08-08
這篇文章主要介紹了python機器學習之線性回歸詳解,文中有非常詳細的代碼示例,對正在學習python的小伙伴們有很好的幫助,需要的朋友可以參考下2021-04-04