pytorch 中nn.Dropout的使用說明
看代碼吧~
Class USeDropout(nn.Module):
def __init__(self):
super(DropoutFC, self).__init__()
self.fc = nn.Linear(100,20)
self.dropout = nn.Dropout(p=0.5)
def forward(self, input):
out = self.fc(input)
out = self.dropout(out)
return out
Net = USeDropout()
Net.train()
示例代碼如上，直接調(diào)用nn.Dropout即可，但是注意在調(diào)用時要將模型參數(shù)傳入。
補充：Pytorch的nn.Dropout運行穩(wěn)定性測試
結論：
Pytorch的nn.Dropout在每次被調(diào)用時dropout掉的參數(shù)都不一樣，即使是同一次forward也不同。
如果模型里多次使用的dropout的dropout rate大小相同，用同一個dropout層即可。
如代碼所示：
import torch
import torch.nn as nn
class MyModel(nn.Module):
def __init__(self):
super(MyModel, self).__init__()
self.dropout_1 = nn.Dropout(0.5)
self.dropout_2 = nn.Dropout(0.5)
def forward(self, input):
# print(input)
drop_1 = self.dropout_1(input)
print(drop_1)
drop_1 = self.dropout_1(input)
print(drop_1)
drop_2 = self.dropout_2(input)
print(drop_2)
if __name__ == '__main__':
i = torch.rand((5, 5))
m = MyModel()
m.forward(i)
結果如下：
*\python.exe */model.py
tensor([[0.0000, 0.0914, 0.0000, 1.4095, 0.0000],
[0.0000, 0.0000, 0.1726, 1.3800, 0.0000],
[1.7651, 0.0000, 0.0000, 0.9421, 1.5603],
[1.0510, 1.7290, 0.0000, 0.0000, 0.8565],
[0.0000, 0.0000, 0.0000, 0.0000, 0.0000]])
tensor([[0.0000, 0.0000, 0.4722, 1.4095, 0.0000],
[0.0416, 0.0000, 0.1726, 1.3800, 1.3193],
[0.0000, 0.3401, 0.6550, 0.0000, 0.0000],
[1.0510, 1.7290, 1.5515, 0.0000, 0.0000],
[0.6388, 0.0000, 0.0000, 1.0122, 0.0000]])
tensor([[0.0000, 0.0000, 0.4722, 0.0000, 1.2689],
[0.0416, 0.0000, 0.0000, 1.3800, 0.0000],
[0.0000, 0.0000, 0.6550, 0.0000, 1.5603],
[0.0000, 0.0000, 1.5515, 1.4596, 0.0000],
[0.0000, 0.0000, 0.0000, 0.0000, 0.0000]])Process finished with exit code 0
以上為個人經(jīng)驗，希望能給大家一個參考，也希望大家多多支持腳本之家。
相關文章
這篇文章主要介紹了用Python搶火車票的簡單小程序實現(xiàn)解析,文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下2019-08-08
這篇文章主要介紹了使用OpenCV去除面積較小的連通域，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2020-07-07
python處理excel文件有很多方法,最開始接觸的是xlrd、xlsxwriter模塊,分別用于excel文件的讀、寫,后來又學習了openpyxl模塊,可以同時完成excel文件的讀、寫,下面這篇文章主要給大家介紹了關于利用Python解決Excel問題的最佳方案,需要的朋友可以參考下2023-04-04
Python淘寶或京東等秒殺搶購腳本實現(xiàn)(秒殺腳本)
本篇文章主要介紹了Python 通過selenium實現(xiàn)毫秒級自動搶購的示例代碼，通過掃碼登錄即可自動完成一系列操作，搶購時間精確至毫秒，可搶加購物車等待時間結算的，也可以搶聚劃算、火車票等的商品，感興趣的朋友跟隨小編一起看看吧2022-10-10
這篇文章主要介紹了Pytorch中關于inplace的操作方式,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教2023-08-08
這篇文章主要介紹了用python寫一個帶有gui界面的密碼生成器，幫助大家更好的理解和使用python，感興趣的朋友可以了解下2020-11-11
基于Python的自媒體小助手---登錄頁面的實現(xiàn)代碼
這篇文章主要介紹了基于Python的自媒體小助手---登錄頁面的實現(xiàn)代碼，本文通過實例代碼給大家介紹的非常詳細，對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下2020-06-06
這篇文章主要介紹了Python標準庫defaultdict模塊使用示例,本文講解了如何使用defaultdict給字典value元素添加默認類型以及defaultdict的兩個使用小案例,需要的朋友可以參考下2015-04-04
這篇文章主要介紹了Python實現(xiàn)棧的方法,實例分析了Python實現(xiàn)棧的相關技巧,具有一定參考借鑒價值,需要的朋友可以參考下2015-05-05
python實現(xiàn)類之間的方法互相調(diào)用
下面小編就為大家分享一篇python實現(xiàn)類之間的方法互相調(diào)用，具有很的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2018-04-04