人工智能學(xué)習(xí)pyTorch的ResNet殘差模塊示例詳解
1.定義ResNet殘差模塊
一個(gè)block中，有兩個(gè)卷積層，之后的輸出還要和輸入進(jìn)行相加。因此一個(gè)block的前向流程如下：
輸入x→卷積層→數(shù)據(jù)標(biāo)準(zhǔn)化→ReLU→卷積層→數(shù)據(jù)標(biāo)準(zhǔn)化→數(shù)據(jù)和x相加→ReLU→輸出out
中間加上了數(shù)據(jù)的標(biāo)準(zhǔn)化（通過nn.BatchNorm2d實(shí)現(xiàn)），可以使得效果更好一些。
①各層的定義
②前向傳播
在前向傳播中輸入x，過程中根據(jù)前向流程，調(diào)用上面定義的層即可。
如此，便定義好了一個(gè)殘差的模塊。
2.ResNet18的實(shí)現(xiàn)
此處的ResNet18并沒有涉及到太多細(xì)節(jié)，只是一個(gè)大致的內(nèi)容。
在初始化的時(shí)候，定義好所需要使用的模塊，根據(jù)上面定義好的殘差模塊，調(diào)用即可。在這里使用了4次殘差模塊，將通道數(shù)從輸入的3（也就是RGB），變成了512通道。也就是最終提取的高級(jí)特征。提取完特征，直接輸入給Linear方法，得到圖片在10種圖片類型上的結(jié)果，用于預(yù)測(cè)以及損失值的求解。
①各層的定義
②前向傳播
同樣的，調(diào)用上面定義好的層，根據(jù)流程傳播即可。
3.測(cè)試ResNet18
如下圖，輸入的是2張圖，RGB，長寬均是32的數(shù)據(jù)。
通過ResNet18之后，輸出的是2張圖，每張圖對(duì)應(yīng)10種類型的不同取值logits。
過程中的通道數(shù)目的轉(zhuǎn)換如下面的結(jié)果所示：3→64→128→256→512→512
過程中的尺寸轉(zhuǎn)換，根據(jù)設(shè)置的卷積核，以及步長，會(huì)有不同的結(jié)果。但總體都是為了得到更高級(jí)的特征，最終輸入全連層，得到Logits。
以上就是人工智能學(xué)習(xí)pyTorch的ResNet殘差模塊示例詳解的詳細(xì)內(nèi)容，更多關(guān)于PyTorch人工智能學(xué)習(xí)ResNet殘差模塊的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章！
相關(guān)文章
opencv python 對(duì)指針儀表讀數(shù)識(shí)別的兩種方式
這篇文章主要介紹了opencv python 對(duì)指針儀表讀數(shù)識(shí)別的兩種方式,本文給大家介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值，需要的朋友可以參考下2021-01-01
Python類的動(dòng)態(tài)綁定實(shí)現(xiàn)原理
這篇文章主要介紹了Python類的動(dòng)態(tài)綁定實(shí)現(xiàn)原理,文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-03-03
一直以來，中國象棋都是中華民族的一種象征，當(dāng)然也是人們最為喜感的一種娛樂方式。這篇文章主要介紹了如何基于Python實(shí)現(xiàn)有趣的象棋游戲，感興趣的可以了解一下2023-03-03
python網(wǎng)絡(luò)爬蟲之模擬登錄 自動(dòng)獲取cookie值 驗(yàn)證碼識(shí)別的具體實(shí)現(xiàn)
有時(shí)，我們需要爬取一些基于個(gè)人用戶的用戶信息（需要登陸后才可以查看）就要進(jìn)行模擬登陸，因?yàn)轵?yàn)證碼往往是作為登陸請(qǐng)求中的請(qǐng)求參數(shù)被使用，就需要識(shí)別驗(yàn)證碼2021-09-09
python print輸出延時(shí),讓其立刻輸出的方法
今天小編就為大家分享一篇python print輸出延時(shí),讓其立刻輸出的方法，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2019-01-01
基于python3 OpenCV3實(shí)現(xiàn)靜態(tài)圖片人臉識(shí)別
這篇文章主要為大家詳細(xì)介紹了基于Python3 OpenCV3實(shí)現(xiàn)靜態(tài)圖片人臉識(shí)別，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下2018-05-05
Python基于鏈接表實(shí)現(xiàn)無向圖最短路徑搜索
鏈接表的存儲(chǔ)相比較鄰接炬陣，使用起來更方便，對(duì)于空間的使用是剛好夠用原則，不會(huì)產(chǎn)生太多空間浪費(fèi)。所以本文將以鏈接表方式實(shí)現(xiàn)無向圖最短路徑搜索，需要的可以參考一下2022-04-04
Python常用數(shù)據(jù)庫接口sqlite3和MySQLdb學(xué)習(xí)指南
在本章節(jié)中，我們將學(xué)習(xí) Python 中常用的數(shù)據(jù)庫接口，包括 sqlite3用于SQLite數(shù)據(jù)庫和MySQLdb用于 MySQL 數(shù)據(jù)庫，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪2023-06-06
大家好，本篇文章主要講的是用python的哈希函數(shù)對(duì)密碼加密，感興趣的同學(xué)趕快來看一看吧，對(duì)你有幫助的話記得收藏一下2022-02-02
pyspark?dataframe列的合并與拆分實(shí)例
這篇文章主要介紹了pyspark?dataframe列的合并與拆分實(shí)例，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方，望不吝賜教2023-03-03