PyTorch中反卷積的用法詳解
pytorch中的 2D 卷積層 和 2D 反卷積層 函數(shù)分別如下:
class torch.nn.Conv2d(in_channels, out_channels, kernel_size, stride=1, padding=0, groups=1, bias=True)
class torch.nn.ConvTranspose2d(in_channels, out_channels, kernel_size, stride=1, padding=0, output_padding=0, bias=True)
我不禁有疑問:
問題1: 兩個(gè)函數(shù)的參數(shù)為什么幾乎一致呢?
問題2: 反卷積層中的 output_padding是什么意思呢?
問題3: 反卷積層如何計(jì)算input和output的形狀關(guān)系呢?
看了中文文檔后,我得不出答案,看了英文文檔,才弄明白了。花費(fèi)了一個(gè)下午的時(shí)間去研究這個(gè)問題,值得用此文紀(jì)錄一下。
我們知道,在卷積層中,輸入輸出的形狀關(guān)系為:
o = [ (i + 2p - k)/s ] +1 (1)
其中:
O : 為 output size
i: 為 input size
p: 為 padding size
k: 為kernel size
s: 為 stride size
[] 為下取整運(yùn)算
(1) 當(dāng) S=1 時(shí)
若 s等于1,則公式(1)中的取整符號消失,o 與 i 為 一一對應(yīng) 的關(guān)系。 我們有結(jié)論:
如果卷積層函數(shù)和反卷積層函數(shù)的 kernel_size, padding size參數(shù)相同(且 stride= 1),設(shè)反卷基層的輸入輸出形狀為 i' 和 o', 卷積層的輸入輸出形狀i和o, 則它們?yōu)?交叉對應(yīng) 的關(guān)系,即:
i = o' o = i'
為回答問題3, 我們將上述關(guān)系代入公式中,即:
i' = o' + 2p - k +1
已知 i', 即可推出 o':
o' = i' - 2p + k - 1 (2)
摘兩個(gè)例子:
(2) 當(dāng) S>1 時(shí)
若 S>1 , 則公式(1)中的取整符號不能消去,o 與 i 為 多對1 的關(guān)系。 效仿 S=1時(shí)的情形, 我們有結(jié)論:
如果卷積層函數(shù)和反卷積層函數(shù)的 kernel_size, padding size參數(shù)相同(且 stride>1),設(shè)反卷基層的輸入輸出形狀為 i' 和 o', 卷積層的輸入輸出形狀i和o,
i' = [ (o' + 2p - k)/s ] +1
已知 i', 我們可以得出 s 個(gè) o' 解:
o'(0) = ( i' - 1) x s + k - 2p o'(1) = o'(1) + 1 o'(2) = o'(1) + 2 ... o'(s-1) = o'(1) + s-1
即:
o'(n) =o'(1) + n = ( i' - 1) x s + k - 2p + n, n = {0, 1, 2...s-1}
為了確定唯一的 o' 解, 我們用反卷積層函數(shù)中的ouput padding參數(shù)指定公式中的 n 值。這樣,我們就回答了問題(2)。
摘一個(gè)簡單的例子:
(3) 實(shí)驗(yàn)驗(yàn)證
給出一小段測試代碼,改變各個(gè)參數(shù)值,運(yùn)行比較來驗(yàn)證上面得出的結(jié)論,have fun~.
from torch import nn from torch.nn import init from torch.autograd import Variable dconv = nn.ConvTranspose2d(in_channels=1, out_channels= 1, kernel_size=2, stride=2, padding=1,output_padding=0, bias= False) init.constant(dconv.weight, 1) print(dconv.weight) input = Variable(torch.ones(1, 1, 2, 2)) print(input) print(dconv(input))
以上這篇PyTorch中反卷積的用法詳解就是小編分享給大家的全部內(nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
對django后臺admin下拉框進(jìn)行過濾的實(shí)例
今天小編就為大家分享一篇對django后臺admin下拉框進(jìn)行過濾的實(shí)例,具有很好的參考價(jià)值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-07-07pandas 實(shí)現(xiàn)將重復(fù)表格去重,并重新轉(zhuǎn)換為表格的方法
下面小編就為大家分享一篇pandas 實(shí)現(xiàn)將重復(fù)表格去重,并重新轉(zhuǎn)換為表格的方法,具有很好的參考價(jià)值,希望對大家有所幫助。一起跟隨小編過來看看吧2018-04-04Java Spring項(xiàng)目國際化(i18n)詳細(xì)方法與實(shí)例
這篇文章主要介紹了Java Spring項(xiàng)目國際化詳細(xì)方法與實(shí)例,需要的朋友可以參考下2020-03-03