欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

Pytorch保存模型用于測試和用于繼續(xù)訓練的區(qū)別詳解

 更新時間：2020年01月10日 16:27:24   作者：魚丸粗面233  
今天小編就為大家分享一篇Pytorch保存模型用于測試和用于繼續(xù)訓練的區(qū)別詳解，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧

保存模型

保存模型僅僅是為了測試的時候，只需要

torch.save(model.state_dict, path)

path 為保存的路徑

但是有時候模型及數(shù)據(jù)太多,難以一次性訓練完的時候,而且用的還是 Adam優(yōu)化器的時候, 一定要保存好訓練的優(yōu)化器參數(shù)以及epoch

state = { 'model': model.state_dict(), 'optimizer':optimizer.state_dict(), 'epoch': epoch }  
torch.save(state, path)

因為這里

def adjust_learning_rate(optimizer, epoch):
  lr_t = lr
  lr_t = lr_t * (0.3 ** (epoch // 2))
  for param_group in optimizer.param_groups:
    param_group['lr'] = lr_t

學習率是根據(jù)epoch變化的, 如果不保存epoch的話,基本上每次都從epoch為0開始訓練,這樣學習率就相當于不變了!!

恢復模型

恢復模型只用于測試的時候,

model.load_state_dict(torch.load(path))

path為之前存儲模型時的路徑

但是如果是用于繼續(xù)訓練的話,

checkpoint = torch.load(path)
model.load_state_dict(checkpoint['model'])
optimizer.load_state_dict(checkpoint['optimizer'])
start_epoch = checkpoint['epoch']+1

依次恢復出模型 優(yōu)化器參數(shù)以及epoch

以上這篇Pytorch保存模型用于測試和用于繼續(xù)訓練的區(qū)別詳解就是小編分享給大家的全部內(nèi)容了，希望能給大家一個參考，也希望大家多多支持腳本之家。

相關文章

最新評論