PyTorch快速搭建神經(jīng)網(wǎng)絡(luò)及其保存提取方法詳解
有時候我們訓(xùn)練了一個模型, 希望保存它下次直接使用,不需要下次再花時間去訓(xùn)練 ,本節(jié)我們來講解一下PyTorch快速搭建神經(jīng)網(wǎng)絡(luò)及其保存提取方法詳解
一、PyTorch快速搭建神經(jīng)網(wǎng)絡(luò)方法
先看實驗代碼:
import torch import torch.nn.functional as F # 方法1,通過定義一個Net類來建立神經(jīng)網(wǎng)絡(luò) class Net(torch.nn.Module): def __init__(self, n_feature, n_hidden, n_output): super(Net, self).__init__() self.hidden = torch.nn.Linear(n_feature, n_hidden) self.predict = torch.nn.Linear(n_hidden, n_output) def forward(self, x): x = F.relu(self.hidden(x)) x = self.predict(x) return x net1 = Net(2, 10, 2) print('方法1:\n', net1) # 方法2 通過torch.nn.Sequential快速建立神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu) net2 = torch.nn.Sequential( torch.nn.Linear(2, 10), torch.nn.ReLU(), torch.nn.Linear(10, 2), ) print('方法2:\n', net2) # 經(jīng)驗證,兩種方法構(gòu)建的神經(jīng)網(wǎng)絡(luò)功能相同,結(jié)構(gòu)細節(jié)稍有不同 ''''' 方法1: Net ( (hidden): Linear (2 -> 10) (predict): Linear (10 -> 2) ) 方法2: Sequential ( (0): Linear (2 -> 10) (1): ReLU () (2): Linear (10 -> 2) ) '''
先前學(xué)習了通過定義一個Net類來構(gòu)建神經(jīng)網(wǎng)絡(luò)的方法,classNet中首先通過super函數(shù)繼承torch.nn.Module模塊的構(gòu)造方法,再通過添加屬性的方式搭建神經(jīng)網(wǎng)絡(luò)各層的結(jié)構(gòu)信息,在forward方法中完善神經(jīng)網(wǎng)絡(luò)各層之間的連接信息,然后再通過定義Net類對象的方式完成對神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的構(gòu)建。
構(gòu)建神經(jīng)網(wǎng)絡(luò)的另一個方法,也可以說是快速構(gòu)建方法,就是通過torch.nn.Sequential,直接完成對神經(jīng)網(wǎng)絡(luò)的建立。
兩種方法構(gòu)建得到的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)完全相同,都可以通過print函數(shù)來打印輸出網(wǎng)絡(luò)信息,不過打印結(jié)果會有些許不同。
二、PyTorch的神經(jīng)網(wǎng)絡(luò)保存和提取
在學(xué)習和研究深度學(xué)習的時候,當我們通過一定時間的訓(xùn)練,得到了一個比較好的模型的時候,我們當然希望將這個模型及模型參數(shù)保存下來,以備后用,所以神經(jīng)網(wǎng)絡(luò)的保存和模型參數(shù)提取重載是很有必要的。
首先,我們需要在需要保存網(wǎng)路結(jié)構(gòu)及其模型參數(shù)的神經(jīng)網(wǎng)絡(luò)的定義、訓(xùn)練部分之后通過torch.save()實現(xiàn)對網(wǎng)絡(luò)結(jié)構(gòu)和模型參數(shù)的保存。有兩種保存方式:一是保存年整個神經(jīng)網(wǎng)絡(luò)的的結(jié)構(gòu)信息和模型參數(shù)信息,save的對象是網(wǎng)絡(luò)net;二是只保存神經(jīng)網(wǎng)絡(luò)的訓(xùn)練模型參數(shù),save的對象是net.state_dict(),保存結(jié)果都以.pkl文件形式存儲。
對應(yīng)上面兩種保存方式,重載方式也有兩種。對應(yīng)第一種完整網(wǎng)絡(luò)結(jié)構(gòu)信息,重載的時候通過torch.load(‘.pkl')直接初始化新的神經(jīng)網(wǎng)絡(luò)對象即可。對應(yīng)第二種只保存模型參數(shù)信息,需要首先搭建相同的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),通過net.load_state_dict(torch.load('.pkl'))完成模型參數(shù)的重載。在網(wǎng)絡(luò)比較大的時候,第一種方法會花費較多的時間。
代碼實現(xiàn):
import torch from torch.autograd import Variable import matplotlib.pyplot as plt torch.manual_seed(1) # 設(shè)定隨機數(shù)種子 # 創(chuàng)建數(shù)據(jù) x = torch.unsqueeze(torch.linspace(-1, 1, 100), dim=1) y = x.pow(2) + 0.2*torch.rand(x.size()) x, y = Variable(x, requires_grad=False), Variable(y, requires_grad=False) # 將待保存的神經(jīng)網(wǎng)絡(luò)定義在一個函數(shù)中 def save(): # 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu) net1 = torch.nn.Sequential( torch.nn.Linear(1, 10), torch.nn.ReLU(), torch.nn.Linear(10, 1), ) optimizer = torch.optim.SGD(net1.parameters(), lr=0.5) loss_function = torch.nn.MSELoss() # 訓(xùn)練部分 for i in range(300): prediction = net1(x) loss = loss_function(prediction, y) optimizer.zero_grad() loss.backward() optimizer.step() # 繪圖部分 plt.figure(1, figsize=(10, 3)) plt.subplot(131) plt.title('net1') plt.scatter(x.data.numpy(), y.data.numpy()) plt.plot(x.data.numpy(), prediction.data.numpy(), 'r-', lw=5) # 保存神經(jīng)網(wǎng)絡(luò) torch.save(net1, '7-net.pkl') # 保存整個神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和模型參數(shù) torch.save(net1.state_dict(), '7-net_params.pkl') # 只保存神經(jīng)網(wǎng)絡(luò)的模型參數(shù) # 載入整個神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)及其模型參數(shù) def reload_net(): net2 = torch.load('7-net.pkl') prediction = net2(x) plt.subplot(132) plt.title('net2') plt.scatter(x.data.numpy(), y.data.numpy()) plt.plot(x.data.numpy(), prediction.data.numpy(), 'r-', lw=5) # 只載入神經(jīng)網(wǎng)絡(luò)的模型參數(shù),神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)需要與保存的神經(jīng)網(wǎng)絡(luò)相同的結(jié)構(gòu) def reload_params(): # 首先搭建相同的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu) net3 = torch.nn.Sequential( torch.nn.Linear(1, 10), torch.nn.ReLU(), torch.nn.Linear(10, 1), ) # 載入神經(jīng)網(wǎng)絡(luò)的模型參數(shù) net3.load_state_dict(torch.load('7-net_params.pkl')) prediction = net3(x) plt.subplot(133) plt.title('net3') plt.scatter(x.data.numpy(), y.data.numpy()) plt.plot(x.data.numpy(), prediction.data.numpy(), 'r-', lw=5) # 運行測試 save() reload_net() reload_params()
實驗結(jié)果:
以上就是本文的全部內(nèi)容,希望對大家的學(xué)習有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
Python + Requests + Unittest接口自動化測試實例分析
這篇文章主要介紹了Python + Requests + Unittest接口自動化測試,結(jié)合具體實例形式分析了Python使用Requests與Unittest模塊實現(xiàn)接口自動化測試相關(guān)操作技巧,需要的朋友可以參考下2019-12-12python?tornado協(xié)程調(diào)度原理示例解析
這篇文章主要為大家介紹了python?tornado協(xié)程調(diào)度原理示例解析,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪2023-09-09解決jupyter notebook圖片顯示模糊和保存清晰圖片的操作
這篇文章主要介紹了解決jupyter notebook圖片顯示模糊和保存清晰圖片的操作方式,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2021-04-04Linux上安裝Python的PIL和Pillow庫處理圖片的實例教程
這里我們來看一下在Linux上安裝Python的PIL和Pillow庫處理圖片的實例教程,包括一個使用Pillow庫實現(xiàn)批量轉(zhuǎn)換圖片的例子:2016-06-06