pytorch神經(jīng)網(wǎng)絡(luò)之卷積層與全連接層參數(shù)的設(shè)置方法
當(dāng)使用pytorch寫網(wǎng)絡(luò)結(jié)構(gòu)的時(shí)候,本人發(fā)現(xiàn)在卷積層與第一個(gè)全連接層的全連接層的input_features不知道該寫多少?一開始本人的做法是對(duì)著pytorch官網(wǎng)的公式推,但是總是算錯(cuò)。
后來發(fā)現(xiàn),寫完卷積層后可以根據(jù)模擬神經(jīng)網(wǎng)絡(luò)的前向傳播得出這個(gè)。
全連接層的input_features是多少。首先來看一下這個(gè)簡(jiǎn)單的網(wǎng)絡(luò)。這個(gè)卷積的Sequential本人就不再啰嗦了,現(xiàn)在看nn.Linear(???, 4096)這個(gè)全連接層的第一個(gè)參數(shù)該為多少呢?
請(qǐng)看下文詳解。
class AlexNet(nn.Module): def __init__(self): super(AlexNet, self).__init__() self.conv = nn.Sequential( nn.Conv2d(3, 96, kernel_size=11, stride=4), nn.ReLU(inplace=True), nn.MaxPool2d(kernel_size=3, stride=2), nn.Conv2d(96, 256, kernel_size=5, padding=2), nn.ReLU(inplace=True), nn.MaxPool2d(kernel_size=3, stride=2), nn.Conv2d(256, 384, kernel_size=3, padding=1), nn.ReLU(inplace=True), nn.Conv2d(384, 384, kernel_size=3, padding=1), nn.ReLU(inplace=True), nn.Conv2d(384, 256, kernel_size=3, padding=1), nn.ReLU(inplace=True), nn.MaxPool2d(kernel_size=3, stride=2) ) self.fc = nn.Sequential( nn.Linear(???, 4096) ...... ...... )
首先,我們先把forward寫一下:
def forward(self, x): x = self.conv(x) print x.size()
就寫到這里就可以了。其次,我們初始化一下網(wǎng)絡(luò),隨機(jī)一個(gè)輸入:
import torch from Alexnet.AlexNet import * from torch.autograd import Variable if __name__ == '__main__': net = AlexNet() data_input = Variable(torch.randn([1, 3, 96, 96])) # 這里假設(shè)輸入圖片是96x96 print data_input.size() net(data_input)
結(jié)果如下:
(1L, 3L, 96L, 96L) (1L, 256L, 1L, 1L)
顯而易見,咱們這個(gè)全連接層的input_features為256。
以上這篇pytorch神經(jīng)網(wǎng)絡(luò)之卷積層與全連接層參數(shù)的設(shè)置方法就是小編分享給大家的全部?jī)?nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
Window環(huán)境下Scrapy開發(fā)環(huán)境搭建
這篇文章主要介紹了Window環(huán)境下Scrapy開發(fā)環(huán)境搭建,需要的朋友可以參考下2018-11-11python+selenium+Chrome options參數(shù)的使用
這篇文章主要介紹了python+selenium+Chrome options參數(shù)的使用,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-03-03Windows下的Jupyter Notebook 安裝與自定義啟動(dòng)(圖文詳解)
這篇文章主要介紹了Windows下的Jupyter Notebook 安裝與自定義啟動(dòng)(圖文詳解),需要的朋友可以參考下2018-02-02詳解python如何調(diào)用C/C++底層庫與互相傳值
Python作為一門腳本解釋語言,本身又很好的結(jié)合C++,所以使用Python開發(fā),在性能要求的地方調(diào)用C/C++底層庫,這簡(jiǎn)直是神器。本文詳細(xì)介紹了Python調(diào)用C/C++底層庫,互相傳值問題,下面一起來看看。2016-08-08使用Jupyter notebooks上傳文件夾或大量數(shù)據(jù)到服務(wù)器
這篇文章主要介紹了使用Jupyter notebooks上傳文件夾或大量數(shù)據(jù)到服務(wù)器,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2020-04-04