欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

詳解PyTorch批訓練及優(yōu)化器比較

 更新時間:2018年04月28日 09:26:54   作者:marsjhao  
本篇文章主要介紹了詳解PyTorch批訓練及優(yōu)化器比較,詳細的介紹了什么是PyTorch批訓練和PyTorch的Optimizer優(yōu)化器,非常具有實用價值,需要的朋友可以參考下

一、PyTorch批訓練

1. 概述

PyTorch提供了一種將數(shù)據(jù)包裝起來進行批訓練的工具——DataLoader。使用的時候,只需要將我們的數(shù)據(jù)首先轉(zhuǎn)換為torch的tensor形式,再轉(zhuǎn)換成torch可以識別的Dataset格式,然后將Dataset放入DataLoader中就可以啦。

import torch 
import torch.utils.data as Data 
 
torch.manual_seed(1) # 設(shè)定隨機數(shù)種子 
 
BATCH_SIZE = 5 
 
x = torch.linspace(1, 10, 10) 
y = torch.linspace(0.5, 5, 10) 
 
# 將數(shù)據(jù)轉(zhuǎn)換為torch的dataset格式 
torch_dataset = Data.TensorDataset(data_tensor=x, target_tensor=y) 
 
# 將torch_dataset置入Dataloader中 
loader = Data.DataLoader( 
  dataset=torch_dataset, 
  batch_size=BATCH_SIZE, # 批大小 
  # 若dataset中的樣本數(shù)不能被batch_size整除的話,最后剩余多少就使用多少 
  shuffle=True, # 是否隨機打亂順序 
  num_workers=2, # 多線程讀取數(shù)據(jù)的線程數(shù) 
  ) 
 
for epoch in range(3): 
  for step, (batch_x, batch_y) in enumerate(loader): 
    print('Epoch:', epoch, '|Step:', step, '|batch_x:', 
       batch_x.numpy(), '|batch_y', batch_y.numpy()) 
''''' 
shuffle=True 
Epoch: 0 |Step: 0 |batch_x: [ 6. 7. 2. 3. 1.] |batch_y [ 3.  3.5 1.  1.5 0.5] 
Epoch: 0 |Step: 1 |batch_x: [ 9. 10.  4.  8.  5.] |batch_y [ 4.5 5.  2.  4.  2.5] 
Epoch: 1 |Step: 0 |batch_x: [ 3.  4.  2.  9. 10.] |batch_y [ 1.5 2.  1.  4.5 5. ] 
Epoch: 1 |Step: 1 |batch_x: [ 1. 7. 8. 5. 6.] |batch_y [ 0.5 3.5 4.  2.5 3. ] 
Epoch: 2 |Step: 0 |batch_x: [ 3. 9. 2. 6. 7.] |batch_y [ 1.5 4.5 1.  3.  3.5] 
Epoch: 2 |Step: 1 |batch_x: [ 10.  4.  8.  1.  5.] |batch_y [ 5.  2.  4.  0.5 2.5] 
 
shuffle=False 
Epoch: 0 |Step: 0 |batch_x: [ 1. 2. 3. 4. 5.] |batch_y [ 0.5 1.  1.5 2.  2.5] 
Epoch: 0 |Step: 1 |batch_x: [ 6.  7.  8.  9. 10.] |batch_y [ 3.  3.5 4.  4.5 5. ] 
Epoch: 1 |Step: 0 |batch_x: [ 1. 2. 3. 4. 5.] |batch_y [ 0.5 1.  1.5 2.  2.5] 
Epoch: 1 |Step: 1 |batch_x: [ 6.  7.  8.  9. 10.] |batch_y [ 3.  3.5 4.  4.5 5. ] 
Epoch: 2 |Step: 0 |batch_x: [ 1. 2. 3. 4. 5.] |batch_y [ 0.5 1.  1.5 2.  2.5] 
Epoch: 2 |Step: 1 |batch_x: [ 6.  7.  8.  9. 10.] |batch_y [ 3.  3.5 4.  4.5 5. ] 
''' 

2. TensorDataset

classtorch.utils.data.TensorDataset(data_tensor, target_tensor)

TensorDataset類用來將樣本及其標簽打包成torch的Dataset,data_tensor,和target_tensor都是tensor。

3. DataLoader

復制代碼 代碼如下:
classtorch.utils.data.DataLoader(dataset, batch_size=1, shuffle=False, sampler=None,num_workers=0, collate_fn=<function default_collate>, pin_memory=False,drop_last=False)

dataset就是Torch的Dataset格式的對象;batch_size即每批訓練的樣本數(shù)量,默認為;shuffle表示是否需要隨機取樣本;num_workers表示讀取樣本的線程數(shù)。

二、PyTorch的Optimizer優(yōu)化器

本實驗中,首先構(gòu)造一組數(shù)據(jù)集,轉(zhuǎn)換格式并置于DataLoader中,備用。定義一個固定結(jié)構(gòu)的默認神經(jīng)網(wǎng)絡(luò),然后為每個優(yōu)化器構(gòu)建一個神經(jīng)網(wǎng)絡(luò),每個神經(jīng)網(wǎng)絡(luò)的區(qū)別僅僅是優(yōu)化器不同。通過記錄訓練過程中的loss值,最后在圖像上呈現(xiàn)得到各個優(yōu)化器的優(yōu)化過程。

代碼實現(xiàn):

import torch 
import torch.utils.data as Data 
import torch.nn.functional as F 
from torch.autograd import Variable 
import matplotlib.pyplot as plt 
torch.manual_seed(1) # 設(shè)定隨機數(shù)種子 
 
# 定義超參數(shù) 
LR = 0.01 # 學習率 
BATCH_SIZE = 32 # 批大小 
EPOCH = 12 # 迭代次數(shù) 
 
x = torch.unsqueeze(torch.linspace(-1, 1, 1000), dim=1) 
y = x.pow(2) + 0.1*torch.normal(torch.zeros(*x.size())) 
 
#plt.scatter(x.numpy(), y.numpy()) 
#plt.show() 
 
# 將數(shù)據(jù)轉(zhuǎn)換為torch的dataset格式 
torch_dataset = Data.TensorDataset(data_tensor=x, target_tensor=y) 
# 將torch_dataset置入Dataloader中 
loader = Data.DataLoader(dataset=torch_dataset, batch_size=BATCH_SIZE, 
             shuffle=True, num_workers=2) 
 
class Net(torch.nn.Module): 
  def __init__(self): 
    super(Net, self).__init__() 
    self.hidden = torch.nn.Linear(1, 20) 
    self.predict = torch.nn.Linear(20, 1) 
 
  def forward(self, x): 
    x = F.relu(self.hidden(x)) 
    x = self.predict(x) 
    return x 
 
# 為每個優(yōu)化器創(chuàng)建一個Net 
net_SGD = Net() 
net_Momentum = Net() 
net_RMSprop = Net() 
net_Adam = Net()  
nets = [net_SGD, net_Momentum, net_RMSprop, net_Adam] 
 
# 初始化優(yōu)化器 
opt_SGD = torch.optim.SGD(net_SGD.parameters(), lr=LR) 
opt_Momentum = torch.optim.SGD(net_Momentum.parameters(), lr=LR, momentum=0.8) 
opt_RMSprop = torch.optim.RMSprop(net_RMSprop.parameters(), lr=LR, alpha=0.9) 
opt_Adam = torch.optim.Adam(net_Adam.parameters(), lr=LR, betas=(0.9, 0.99)) 
 
optimizers = [opt_SGD, opt_Momentum, opt_RMSprop, opt_Adam] 
 
# 定義損失函數(shù) 
loss_function = torch.nn.MSELoss() 
losses_history = [[], [], [], []] # 記錄training時不同神經(jīng)網(wǎng)絡(luò)的loss值 
 
for epoch in range(EPOCH): 
  print('Epoch:', epoch + 1, 'Training...') 
  for step, (batch_x, batch_y) in enumerate(loader): 
    b_x = Variable(batch_x) 
    b_y = Variable(batch_y) 
 
    for net, opt, l_his in zip(nets, optimizers, losses_history): 
      output = net(b_x) 
      loss = loss_function(output, b_y) 
      opt.zero_grad() 
      loss.backward() 
      opt.step() 
      l_his.append(loss.data[0]) 
 
labels = ['SGD', 'Momentum', 'RMSprop', 'Adam'] 
 
for i, l_his in enumerate(losses_history): 
  plt.plot(l_his, label=labels[i]) 
plt.legend(loc='best') 
plt.xlabel('Steps') 
plt.ylabel('Loss') 
plt.ylim((0, 0.2)) 
plt.show() 

實驗結(jié)果:

由實驗結(jié)果可見,SGD的優(yōu)化效果是最差的,速度很慢;作為SGD的改良版本,Momentum表現(xiàn)就好許多;相比RMSprop和Adam的優(yōu)化速度就非常好。實驗中,針對不同的優(yōu)化問題,比較各個優(yōu)化器的效果再來決定使用哪個。

三、其他補充

1. Python的zip函數(shù)

zip函數(shù)接受任意多個(包括0個和1個)序列作為參數(shù),返回一個tuple列表。

x = [1, 2, 3] 
y = [4, 5, 6] 
z = [7, 8, 9] 
xyz = zip(x, y, z) 
print xyz 
[(1, 4, 7), (2, 5, 8), (3, 6, 9)] 
 
x = [1, 2, 3] 
x = zip(x) 
print x 
[(1,), (2,), (3,)] 
 
x = [1, 2, 3] 
y = [4, 5, 6, 7] 
xy = zip(x, y) 
print xy 
[(1, 4), (2, 5), (3, 6)] 

以上就是本文的全部內(nèi)容,希望對大家的學習有所幫助,也希望大家多多支持腳本之家。

相關(guān)文章

  • 使用python采集腳本之家電子書資源并自動下載到本地的實例腳本

    使用python采集腳本之家電子書資源并自動下載到本地的實例腳本

    這篇文章主要介紹了python采集jb51電子書資源并自動下載到本地實例教程,非常不錯,具有一定的參考借鑒價值,需要的朋友可以參考下
    2018-10-10
  • python實現(xiàn)局部圖像放大

    python實現(xiàn)局部圖像放大

    這篇文章主要介紹了python實現(xiàn)局部圖像放大,畫中畫形式展示,文中示例代碼介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們可以參考一下
    2021-11-11
  • python光學仿真通過菲涅耳公式實現(xiàn)波動模型

    python光學仿真通過菲涅耳公式實現(xiàn)波動模型

    這篇文章主要介紹了python光學仿真通過菲涅耳公式實現(xiàn)波動模型的示例解析原理,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步
    2021-10-10
  • 用python擬合等角螺線的實現(xiàn)示例

    用python擬合等角螺線的實現(xiàn)示例

    這篇文章主要介紹了用python擬合等角螺線的實現(xiàn)示例,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧
    2019-12-12
  • 詳解Python中range()與xrange()的區(qū)別

    詳解Python中range()與xrange()的區(qū)別

    range()?和?xrange()?是兩個函數(shù),可用于在?Python的?for?循環(huán)中迭代一定次數(shù)。本文將通過示例詳細說說二者的區(qū)別與使用,需要的可以參考一下
    2022-09-09
  • tensorflow:指定gpu 限制使用量百分比,設(shè)置最小使用量的實現(xiàn)

    tensorflow:指定gpu 限制使用量百分比,設(shè)置最小使用量的實現(xiàn)

    今天小編就為大家分享一篇tensorflow:指定gpu 限制使用量百分比,設(shè)置最小使用量的實現(xiàn),具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2020-02-02
  • Python selenium根據(jù)class定位頁面元素的方法

    Python selenium根據(jù)class定位頁面元素的方法

    這篇文章主要介紹了Python selenium根據(jù)class定位頁面元素的方法,小編覺得挺不錯的,現(xiàn)在分享給大家,也給大家做個參考。一起跟隨小編過來看看吧
    2019-02-02
  • 使用python去除PDF簡單水印的示例

    使用python去除PDF簡單水印的示例

    最近在下載PDF書籍的時候,發(fā)現(xiàn)有些PDF有水印,于是就尋思著能不能用Python去除這些討厭的水印,PDF主要有兩種類型,一種是文字版,另外一種就是掃描版(圖片),這個去除水印主要就是針對掃描版的PDF,所以本文介紹了如何使用python去除PDF簡單水印,需要的朋友可以參考下
    2024-03-03
  • 簡單的Python2.7編程初學經(jīng)驗總結(jié)

    簡單的Python2.7編程初學經(jīng)驗總結(jié)

    這篇文章主要是作者寫給Python2.7編程初學者的經(jīng)驗總結(jié),側(cè)重于包管理、代碼調(diào)試等實際使用方面,需要的朋友可以參考下
    2015-04-04
  • Python Opencv實現(xiàn)單目標檢測的示例代碼

    Python Opencv實現(xiàn)單目標檢測的示例代碼

    這篇文章主要介紹了Python Opencv實現(xiàn)單目標檢測的示例代碼,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧
    2020-09-09

最新評論