Pytorch實現(xiàn)各種2d卷積示例
普通卷積
使用nn.Conv2d(),一般還會接上BN和ReLu
參數(shù)量NNCin*Cout+Cout(如果有bias,相對來說表示對參數(shù)量影響很小,所以后面不考慮)
class ConvBNReLU(nn.Module): def __init__(self, C_in, C_out, kernel_size, stride, padding, affine=True): super(ConvBNReLU, self).__init__() self.op = nn.Sequential( nn.Conv2d(C_in, C_out, kernel_size, stride=stride, padding=padding, bias=False), nn.BatchNorm2d(C_out, eps=1e-3, affine=affine), nn.ReLU(inplace=False) ) def forward(self, x): return self.op(x)
深度可分離卷積depthwise separable convolution
卷積操作可以分為NN 的Depthwise卷積(不改變通道數(shù))和11的Pointwise卷積(改變?yōu)檩敵鐾ǖ罃?shù)),同樣后接BN,ReLU。參數(shù)量明顯減少
參數(shù)量:
NNCin+Cin11*Cout
class SepConv(nn.Module): def __init__(self, C_in, C_out, kernel_size, stride, padding, affine=True): super(SepConv, self).__init__() self.op = nn.Sequential( nn.ReLU(inplace=False), nn.Conv2d(C_in, C_in, kernel_size=kernel_size, stride=stride, padding=padding, groups=C_in, bias=False), nn.Conv2d(C_in, C_out, kernel_size=1, padding=0, bias=False), nn.BatchNorm2d(C_out, eps=1e-3, affine=affine) ) def forward(self, x): return self.op(x)
空洞卷積dilated convolution
空洞卷積(dilated convolution)是針對圖像語義分割問題中下采樣會降低圖像分辨率、丟失信息而提出的一種卷積思路。利用添加空洞擴大感受野。
參數(shù)量不變,但感受野增大(可結(jié)合深度可分離卷積實現(xiàn))
class DilConv(nn.Module): def __init__(self, C_in, C_out, kernel_size, stride, padding, dilation, affine=True): super(DilConv, self).__init__() self.op = nn.Sequential( nn.ReLU(inplace=False), nn.Conv2d(C_in, C_in, kernel_size=kernel_size, stride=stride, padding=padding, dilation=dilation, groups=C_in, bias=False), nn.Conv2d(C_in, C_out, kernel_size=1, padding=0, bias=False), nn.BatchNorm2d(C_out, eps=1e-3, affine=affine), ) def forward(self, x): return self.op(x)
Identity
這個其實不算卷積操作,但是在實現(xiàn)跨層傳遞捷徑
class Identity(nn.Module): def __init__(self): super(Identity, self).__init__() def forward(self, x): return x
以上這篇Pytorch實現(xiàn)各種2d卷積示例就是小編分享給大家的全部內(nèi)容了,希望能給大家一個參考,也希望大家多多支持腳本之家。
相關文章
python使用ctypes庫調(diào)用DLL動態(tài)鏈接庫
這篇文章主要介紹了python如何使用ctypes庫調(diào)用DLL動態(tài)鏈接庫,幫助大家更好的理解和使用python,感興趣的朋友可以了解下2020-10-10python實現(xiàn)一組典型數(shù)據(jù)格式轉(zhuǎn)換
這篇文章主要為大家詳細介紹了python實現(xiàn)一組典型數(shù)據(jù)格式轉(zhuǎn)換,具有一定的參考價值,感興趣的小伙伴們可以參考一下2018-12-12Python數(shù)據(jù)類型相互轉(zhuǎn)換
當涉及數(shù)據(jù)類型轉(zhuǎn)換時,Python提供了多種內(nèi)置函數(shù)來執(zhí)行不同類型之間的轉(zhuǎn)換,本文主要介紹了Python數(shù)據(jù)類型相互轉(zhuǎn)換,具有一定的參考價值,感興趣的可以了解一下2023-09-09Python實現(xiàn)Wordcloud生成詞云圖的示例
這篇文章主要介紹了Python實現(xiàn)Wordcloud生成詞云圖的示例,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2020-03-03Python?調(diào)用函數(shù)時檢查參數(shù)的類型是否合規(guī)的實現(xiàn)代碼
這篇文章主要介紹了Python?調(diào)用函數(shù)時檢查參數(shù)的類型是否合規(guī)的實現(xiàn)代碼,本文給大家講解的非常詳細,需要的朋友可以參考下2024-06-06Python使用pyinstaller打包成.exe文件執(zhí)行后閃退的圖文解決辦法
這篇文章主要給大家介紹了關于Python使用pyinstaller打包成.exe文件執(zhí)行后閃退的圖文解決辦法,閃退問題通常是由于程序運行過程中出現(xiàn)了未處理的異常或錯誤,導致程序崩潰,文中通過圖文介紹的非常詳細,需要的朋友可以參考下2023-12-12Django 允許局域網(wǎng)中的機器訪問你的主機操作
這篇文章主要介紹了Django 允許局域網(wǎng)中的機器訪問你的主機實例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-05-05