關(guān)于nn.BatchNorm1d()用法及說明
nn.BatchNorm1d()用法
torch.nn.BatchNorm1d(num_features, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
num_features
– 特征維度eps
– 為數(shù)值穩(wěn)定性而加到分母上的值。momentum
– 移動平均的動量值。affine
–一個布爾值,當(dāng)設(shè)置為真時,此模塊具有可學(xué)習(xí)的仿射參數(shù)。
這里其他幾個參數(shù)都不重要,只需要看num_features就可以了。
num_features就是你需要歸一化的那一維的維度。
nn.BatchNorm1d本身不是給定輸入矩陣,輸出歸一化結(jié)果的函數(shù),而是定義了一個方法,再用這個方法去做歸一化。
BN = nn.BatchNorm1d(100) input = torch.randn(20, 100) output = m(input)
我們首先定義了一個歸一化的函數(shù)BN,需要歸一化的維度為100,其他參數(shù)為默認(rèn)。
然后隨機初始化一個20×100的矩陣input,再用BN對這個矩陣歸一化。
函數(shù)的input可以是二維或者三維。
- 當(dāng)input的維度為(N, C)時,BN將對C維歸一化;
- 當(dāng)input的維度為(N, C, L) 時,歸一化的維度同樣為C維。
使用nn.BatchNorm1d出現(xiàn)RuntimeError
pytorch模型中添加batchnorm過程中出現(xiàn)錯誤
RuntimeError: running_mean should contain 1 elements not 512
錯誤來自于nn.BatchNorm1d(N),其中N=channels
解決辦法
將輸入重新排列
video = video.view(-1, video.shape[-1])
總結(jié)
以上為個人經(jīng)驗,希望能給大家一個參考,也希望大家多多支持腳本之家。
相關(guān)文章
python常用模塊(math itertools functools sys
這篇文章主要介紹了python常用模塊之math itertools functools sys shutil的使用示例講解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2023-06-06Python中input和raw_input的一點區(qū)別
這篇文章主要介紹了Python中input和raw_input的一點區(qū)別,它們都是用來讀取控制臺輸入的函數(shù),需要的朋友可以參考下2014-10-10基于Python制作一個端午節(jié)相關(guān)的小游戲
端午節(jié)快樂,今天我將為大家?guī)硪黄嘘P(guān)端午節(jié)的編程文章,希望能夠為大家獻(xiàn)上一份小小的驚喜,我們將會使用Python來實現(xiàn)一個與端午粽子相關(guān)的小應(yīng)用程序,在本文中,我將會介紹如何用Python代碼制做一個“粽子拆解器”,感興趣的小伙伴歡迎閱讀2023-06-06python flask sqlalchemy連接數(shù)據(jù)庫流程介紹
這篇文章主要介紹了python flask sqlalchemy連接數(shù)據(jù)庫流程,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2022-09-09python3 pandas 讀取MySQL數(shù)據(jù)和插入的實例
下面小編就為大家分享一篇python3 pandas 讀取MySQL數(shù)據(jù)和插入的實例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2018-04-04