Pytorch實(shí)現(xiàn)各種2d卷積示例
普通卷積
使用nn.Conv2d(),一般還會(huì)接上BN和ReLu
參數(shù)量NNCin*Cout+Cout(如果有bias,相對(duì)來說表示對(duì)參數(shù)量影響很小,所以后面不考慮)
class ConvBNReLU(nn.Module): def __init__(self, C_in, C_out, kernel_size, stride, padding, affine=True): super(ConvBNReLU, self).__init__() self.op = nn.Sequential( nn.Conv2d(C_in, C_out, kernel_size, stride=stride, padding=padding, bias=False), nn.BatchNorm2d(C_out, eps=1e-3, affine=affine), nn.ReLU(inplace=False) ) def forward(self, x): return self.op(x)
深度可分離卷積depthwise separable convolution
卷積操作可以分為NN 的Depthwise卷積(不改變通道數(shù))和11的Pointwise卷積(改變?yōu)檩敵鐾ǖ罃?shù)),同樣后接BN,ReLU。參數(shù)量明顯減少
參數(shù)量:
NNCin+Cin11*Cout
class SepConv(nn.Module): def __init__(self, C_in, C_out, kernel_size, stride, padding, affine=True): super(SepConv, self).__init__() self.op = nn.Sequential( nn.ReLU(inplace=False), nn.Conv2d(C_in, C_in, kernel_size=kernel_size, stride=stride, padding=padding, groups=C_in, bias=False), nn.Conv2d(C_in, C_out, kernel_size=1, padding=0, bias=False), nn.BatchNorm2d(C_out, eps=1e-3, affine=affine) ) def forward(self, x): return self.op(x)
空洞卷積dilated convolution
空洞卷積(dilated convolution)是針對(duì)圖像語義分割問題中下采樣會(huì)降低圖像分辨率、丟失信息而提出的一種卷積思路。利用添加空洞擴(kuò)大感受野。
參數(shù)量不變,但感受野增大(可結(jié)合深度可分離卷積實(shí)現(xiàn))
class DilConv(nn.Module): def __init__(self, C_in, C_out, kernel_size, stride, padding, dilation, affine=True): super(DilConv, self).__init__() self.op = nn.Sequential( nn.ReLU(inplace=False), nn.Conv2d(C_in, C_in, kernel_size=kernel_size, stride=stride, padding=padding, dilation=dilation, groups=C_in, bias=False), nn.Conv2d(C_in, C_out, kernel_size=1, padding=0, bias=False), nn.BatchNorm2d(C_out, eps=1e-3, affine=affine), ) def forward(self, x): return self.op(x)
Identity
這個(gè)其實(shí)不算卷積操作,但是在實(shí)現(xiàn)跨層傳遞捷徑
class Identity(nn.Module): def __init__(self): super(Identity, self).__init__() def forward(self, x): return x
以上這篇Pytorch實(shí)現(xiàn)各種2d卷積示例就是小編分享給大家的全部內(nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
python使用ctypes庫調(diào)用DLL動(dòng)態(tài)鏈接庫
這篇文章主要介紹了python如何使用ctypes庫調(diào)用DLL動(dòng)態(tài)鏈接庫,幫助大家更好的理解和使用python,感興趣的朋友可以了解下2020-10-10Python利用xlwings實(shí)現(xiàn)考勤表制作
這篇文章主要為大家詳細(xì)介紹了Python如何利用xlwings庫操作excel實(shí)現(xiàn)考勤表的制作,文中的實(shí)現(xiàn)步驟講解詳細(xì),感興趣的可以嘗試一下2023-04-04python實(shí)現(xiàn)一組典型數(shù)據(jù)格式轉(zhuǎn)換
這篇文章主要為大家詳細(xì)介紹了python實(shí)現(xiàn)一組典型數(shù)據(jù)格式轉(zhuǎn)換,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2018-12-12Python數(shù)據(jù)類型相互轉(zhuǎn)換
當(dāng)涉及數(shù)據(jù)類型轉(zhuǎn)換時(shí),Python提供了多種內(nèi)置函數(shù)來執(zhí)行不同類型之間的轉(zhuǎn)換,本文主要介紹了Python數(shù)據(jù)類型相互轉(zhuǎn)換,具有一定的參考價(jià)值,感興趣的可以了解一下2023-09-09Python實(shí)現(xiàn)Wordcloud生成詞云圖的示例
這篇文章主要介紹了Python實(shí)現(xiàn)Wordcloud生成詞云圖的示例,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-03-03Python?調(diào)用函數(shù)時(shí)檢查參數(shù)的類型是否合規(guī)的實(shí)現(xiàn)代碼
這篇文章主要介紹了Python?調(diào)用函數(shù)時(shí)檢查參數(shù)的類型是否合規(guī)的實(shí)現(xiàn)代碼,本文給大家講解的非常詳細(xì),需要的朋友可以參考下2024-06-06Python使用pyinstaller打包成.exe文件執(zhí)行后閃退的圖文解決辦法
這篇文章主要給大家介紹了關(guān)于Python使用pyinstaller打包成.exe文件執(zhí)行后閃退的圖文解決辦法,閃退問題通常是由于程序運(yùn)行過程中出現(xiàn)了未處理的異?;蝈e(cuò)誤,導(dǎo)致程序崩潰,文中通過圖文介紹的非常詳細(xì),需要的朋友可以參考下2023-12-12Django 允許局域網(wǎng)中的機(jī)器訪問你的主機(jī)操作
這篇文章主要介紹了Django 允許局域網(wǎng)中的機(jī)器訪問你的主機(jī)實(shí)例,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2020-05-05