基于pytorch中的Sequential用法說明
class torch.nn.Sequential(* args)
一個時序容器。Modules 會以他們傳入的順序被添加到容器中。當然，也可以傳入一個OrderedDict。
為了更容易的理解如何使用Sequential, 下面給出了一個例子：
# Example of using Sequential
model = nn.Sequential(
nn.Conv2d(1,20,5),
nn.ReLU(),
nn.Conv2d(20,64,5),
nn.ReLU()
)
# Example of using Sequential with OrderedDict
model = nn.Sequential(OrderedDict([
('conv1', nn.Conv2d(1,20,5)),
('relu1', nn.ReLU()),
('conv2', nn.Conv2d(20,64,5)),
('relu2', nn.ReLU())
]))
補充知識：pytorch 中 torch.optim.Adam 方法的使用和參數(shù)的解釋
class torch.optim.Adam(params, lr=0.001, betas=(0.9, 0.999), eps=1e-08, weight_decay=0)[source]
實現(xiàn)Adam算法。
它在Adam: A Method for Stochastic Optimization中被提出。
參數(shù)：
params (iterable) – 待優(yōu)化參數(shù)的iterable或者是定義了參數(shù)組的dict
lr (float, 可選) – 學習率（默認：1e-3）
betas (Tuple[float, float], 可選) – 用于計算梯度以及梯度平方的運行平均值的系數(shù)（默認：0.9，0.999）
eps (float, 可選) – 為了增加數(shù)值計算的穩(wěn)定性而加到分母里的項（默認：1e-8）
weight_decay (float, 可選) – 權重衰減（L2懲罰）（默認: 0）
個人理解：
lr：同樣也稱為學習率或步長因子，它控制了權重的更新比率（如 0.001）。較大的值（如 0.3）在學習率更新前會有更快的初始學習，而較小的值（如 1.0E-5）會令訓練收斂到更好的性能。
betas = （beta1，beta2）
beta1：一階矩估計的指數(shù)衰減率（如 0.9）。
beta2：二階矩估計的指數(shù)衰減率（如 0.999）。該超參數(shù)在稀疏梯度（如在 NLP 或計算機視覺任務中）中應該設置為接近 1 的數(shù)。
eps：epsilon：該參數(shù)是非常小的數(shù)，其為了防止在實現(xiàn)中除以零（如 10E-8）。
讀者可結合官方文檔中的參數(shù)說明和我的個人理解掌握該函數(shù)的用法。
以上這篇基于pytorch中的Sequential用法說明就是小編分享給大家的全部內容了，希望能給大家一個參考，也希望大家多多支持腳本之家。
相關文章
今天小編就為大家分享一篇python3 批量獲取對應端口服務的實例，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2019-07-07
客戶系統(tǒng)升級，要求用戶密碼符合一定的規(guī)則，即：包含大小寫字母、數(shù)字、符號，長度不小于8,于是先用python寫了個簡單的測試程序：2014-06-06
這篇文章主要介紹了Flask使用類組織配置，在實際的項目中，我們一般都會建立三個環(huán)境：開發(fā)、測試和生產環(huán)境，這三種環(huán)境會使用不同的配置組合，為了能方便地切換配置，我們可以為不同的環(huán)境創(chuàng)建不同的配置文件，下面來看詳細內容,需要的朋友可以參考一下2021-11-11
這篇文章主要介紹了keras中的卷積層&池化層的用法，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2020-05-05
這篇文章主要介紹了12個Python程序員面試必備問題與答案，小編覺得挺不錯的，現(xiàn)在分享給大家，也給大家做個參考。一起跟隨小編過來看看吧2019-06-06
基于python實現(xiàn)數(shù)組格式參數(shù)加密計算
這篇文章主要介紹了基于python實現(xiàn)數(shù)組格式參數(shù)加密計算,文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下2020-04-04
python matplotlib模塊基本圖形繪制方法小結【直線，曲線，直方圖，餅圖等】
這篇文章主要介紹了python matplotlib模塊基本圖形繪制方法,結合實例形式總結分析了Python使用matplotlib模塊繪制直線，曲線，直方圖，餅圖等圖形的相關操作技巧,需要的朋友可以參考下2020-04-04
本文主要介紹了Python中常見異常，什么是異常，回溯信息，簡單的異常處理格式，異常嵌套以及異常處理注意事項與建議，有需要的朋友可以借鑒參考下2021-09-09
Python 使用 PyMysql、DBUtils 創(chuàng)建連接池提升性能
DBUtils 是一套 Python 數(shù)據(jù)庫連接池包，并允許對非線程安全的數(shù)據(jù)庫接口進行線程安全包裝。這篇文章主要介紹了Python 使用 PyMysql、DBUtils 創(chuàng)建連接池，提升性能,需要的朋友可以參考下2019-08-08
time庫是python中處理時間的標準庫,這篇文章主要介紹了Python中time庫的使用(日期時間),本文給大家介紹的非常詳細，對大家的學習或工作具有一定的參考借鑒價值，需要的朋友可以參考下2023-02-02