torch.optim優(yōu)化算法理解之optim.Adam()解讀
optim.Adam()解讀
torch.optim是一個實現(xiàn)了多種優(yōu)化算法的包,大多數(shù)通用的方法都已支持,提供了豐富的接口調(diào)用,未來更多精煉的優(yōu)化算法也將整合進來。
為了使用torch.optim,需先構(gòu)造一個優(yōu)化器對象Optimizer,用來保存當前的狀態(tài),并能夠根據(jù)計算得到的梯度來更新參數(shù)。
要構(gòu)建一個優(yōu)化器optimizer,你必須給它一個可進行迭代優(yōu)化的包含了所有參數(shù)(所有的參數(shù)必須是變量s)的列表。 然后,您可以指定程序優(yōu)化特定的選項,例如學習速率,權(quán)重衰減等。
optimizer = optim.SGD(model.parameters(), lr = 0.01, momentum=0.9) optimizer = optim.Adam([var1, var2], lr = 0.0001) self.optimizer_D_B = torch.optim.Adam(self.netD_B.parameters(), lr=opt.lr, betas=(opt.beta1, 0.999))
Optimizer
還支持指定每個參數(shù)選項。 只需傳遞一個可迭代的dict來替換先前可迭代的Variable。dict
中的每一項都可以定義為一個單獨的參數(shù)組,參數(shù)組用一個params鍵來包含屬于它的參數(shù)列表。
其他鍵應該與優(yōu)化器接受的關鍵字參數(shù)相匹配,才能用作此組的優(yōu)化選項。
optim.SGD([ ? ? ? ? ? ? ? ? {'params': model.base.parameters()}, ? ? ? ? ? ? ? ? {'params': model.classifier.parameters(), 'lr': 1e-3} ? ? ? ? ? ? ], lr=1e-2, momentum=0.9)
如上,model.base.parameters()將使用1e-2的學習率,model.classifier.parameters()將使用1e-3的學習率。0.9的momentum作用于所有的parameters。
優(yōu)化步驟
所有的優(yōu)化器Optimizer都實現(xiàn)了step()方法來對所有的參數(shù)進行更新,它有兩種調(diào)用方法:
optimizer.step()
這是大多數(shù)優(yōu)化器都支持的簡化版本,使用如下的backward()方法來計算梯度的時候會調(diào)用它。
for input, target in dataset: ? ? optimizer.zero_grad() ? ? output = model(input) ? ? loss = loss_fn(output, target) ? ? loss.backward() ? ? optimizer.step()
optimizer.step(closure)
一些優(yōu)化算法,如共軛梯度和LBFGS需要重新評估目標函數(shù)多次,所以你必須傳遞一個closure以重新計算模型。 closure必須清除梯度,計算并返回損失。
for input, target in dataset: ? ? def closure(): ? ? ? ? optimizer.zero_grad() ? ? ? ? output = model(input) ? ? ? ? loss = loss_fn(output, target) ? ? ? ? loss.backward() ? ? ? ? return loss ? ? optimizer.step(closure)
Adam算法
adam算法來源:Adam: A Method for Stochastic Optimization
Adam(Adaptive Moment Estimation)本質(zhì)上是帶有動量項的RMSprop,它利用梯度的一階矩估計和二階矩估計動態(tài)調(diào)整每個參數(shù)的學習率。它的優(yōu)點主要在于經(jīng)過偏置校正后,每一次迭代學習率都有個確定范圍,使得參數(shù)比較平穩(wěn)。
其公式如下
其中,前兩個公式分別是對梯度的一階矩估計和二階矩估計,可以看作是對期望E|gt|,E|gt^2|的估計;
公式3,4是對一階二階矩估計的校正,這樣可以近似為對期望的無偏估計??梢钥闯?,直接對梯度的矩估計對內(nèi)存沒有額外的要求,而且可以根據(jù)梯度進行動態(tài)調(diào)整。
最后一項前面部分是對學習率n形成的一個動態(tài)約束,而且有明確的范圍。
class torch.optim.Adam(params, lr=0.001, betas=(0.9, 0.999), eps=1e-08, weight_decay=0)
參數(shù)
params(iterable)
:可用于迭代優(yōu)化的參數(shù)或者定義參數(shù)組的dicts。lr (float, optional)
:學習率(默認: 1e-3)betas (Tuple[float, float], optional)
:用于計算梯度的平均和平方的系數(shù)(默認: (0.9, 0.999))eps (float, optional)
:為了提高數(shù)值穩(wěn)定性而添加到分母的一個項(默認: 1e-8)weight_decay (float, optional)
:權(quán)重衰減(如L2懲罰)(默認: 0)step(closure=None)
函數(shù):執(zhí)行單一的優(yōu)化步驟closure (callable, optional)
:用于重新評估模型并返回損失的一個閉包
torch.optim.adam源碼
import math from .optimizer import Optimizer class Adam(Optimizer): ? ? def __init__(self, params, lr=1e-3, betas=(0.9, 0.999), eps=1e-8,weight_decay=0): ? ? ? ? defaults = dict(lr=lr, betas=betas, eps=eps,weight_decay=weight_decay) ? ? ? ? super(Adam, self).__init__(params, defaults) ? ? def step(self, closure=None): ? ? ? ? loss = None ? ? ? ? if closure is not None: ? ? ? ? ? ? loss = closure() ? ? ? ? for group in self.param_groups: ? ? ? ? ? ? for p in group['params']: ? ? ? ? ? ? ? ? if p.grad is None: ? ? ? ? ? ? ? ? ? ? continue ? ? ? ? ? ? ? ? grad = p.grad.data ? ? ? ? ? ? ? ? state = self.state[p] ? ? ? ? ? ? ? ? # State initialization ? ? ? ? ? ? ? ? if len(state) == 0: ? ? ? ? ? ? ? ? ? ? state['step'] = 0 ? ? ? ? ? ? ? ? ? ? # Exponential moving average of gradient values ? ? ? ? ? ? ? ? ? ? state['exp_avg'] = grad.new().resize_as_(grad).zero_() ? ? ? ? ? ? ? ? ? ? # Exponential moving average of squared gradient values ? ? ? ? ? ? ? ? ? ? state['exp_avg_sq'] = grad.new().resize_as_(grad).zero_() ? ? ? ? ? ? ? ? exp_avg, exp_avg_sq = state['exp_avg'], state['exp_avg_sq'] ? ? ? ? ? ? ? ? beta1, beta2 = group['betas'] ? ? ? ? ? ? ? ? state['step'] += 1 ? ? ? ? ? ? ? ? if group['weight_decay'] != 0: ? ? ? ? ? ? ? ? ? ? grad = grad.add(group['weight_decay'], p.data) ? ? ? ? ? ? ? ? # Decay the first and second moment running average coefficient ? ? ? ? ? ? ? ? exp_avg.mul_(beta1).add_(1 - beta1, grad) ? ? ? ? ? ? ? ? exp_avg_sq.mul_(beta2).addcmul_(1 - beta2, grad, grad) ? ? ? ? ? ? ? ? denom = exp_avg_sq.sqrt().add_(group['eps']) ? ? ? ? ? ? ? ? bias_correction1 = 1 - beta1 ** state['step'] ? ? ? ? ? ? ? ? bias_correction2 = 1 - beta2 ** state['step'] ? ? ? ? ? ? ? ? step_size = group['lr'] * math.sqrt(bias_correction2) / bias_correction1 ? ? ? ? ? ? ? ? p.data.addcdiv_(-step_size, exp_avg, denom) ? ? ? ? return loss
Adam的特點有
1、結(jié)合了Adagrad善于處理稀疏梯度和RMSprop善于處理非平穩(wěn)目標的優(yōu)點;
2、對內(nèi)存需求較小;
3、為不同的參數(shù)計算不同的自適應學習率;
4、也適用于大多非凸優(yōu)化-適用于大數(shù)據(jù)集和高維空間。
以上為個人經(jīng)驗,希望能給大家一個參考,也希望大家多多支持腳本之家。
相關文章
Python3.6 中的pyinstaller安裝和使用教程
這篇文章主要介紹了Python3.6 中的pyinstaller安裝和使用的教程,本文給大家介紹的非常詳細,對大家的工作或?qū)W習具有一定的參考借鑒價值,需要的朋友可以參考下2020-03-03PyTorch中的參數(shù)類torch.nn.Parameter()詳解
這篇文章主要給大家介紹了關于PyTorch中torch.nn.Parameter()的相關資料,要內(nèi)容包括基礎應用、實用技巧、原理機制等方面,文章通過實例介紹的非常詳細,需要的朋友可以參考下2022-02-02詳解用python -m http.server搭一個簡易的本地局域網(wǎng)
這篇文章主要介紹了詳解用python -m http.server搭一個簡易的本地局域網(wǎng),文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2020-09-09Python比較文件夾比另一同名文件夾多出的文件并復制出來的方法
這篇文章主要介紹了Python比較文件夾比另一同名文件夾多出的文件并復制出來的方法,涉及Python針對文件與文件夾的操作技巧,具有一定參考借鑒價值,需要的朋友可以參考下2015-03-03