Python深度學(xué)習(xí)pytorch神經(jīng)網(wǎng)絡(luò)匯聚層理解
我們的機器學(xué)習(xí)任務(wù)通常會跟全局圖像的問題有關(guān)(例如,“圖像是否包含一只貓呢?”),所以我們最后一層的神經(jīng)元應(yīng)該對整個輸入的全局敏感。通過逐漸聚合信息,生成越來越粗糙的映射,最終實現(xiàn)學(xué)習(xí)全局表示的目標,同時將卷積圖層的所有有時保留在中間層。
此外,當(dāng)檢測較底層的特征時(例如之前討論的邊緣),我們通常希望這些特征保持某種程度上的平移不變性。例如,如果我們拍攝黑白之間輪廓清晰的圖像X,并將整個圖像向右移動一個像素,即Z[i, j] = X[i, j+1],則新圖像Z的輸出可能大不相同。而在現(xiàn)實中,隨著拍攝角度的移動,任何物體幾乎不可能發(fā)生在同一像素上。即使用三腳架拍攝一個靜止的物體,由于快門的移動而引起的相機振動,可能會使所有物體左右移動一個像素(除了高端相機配備了特殊功能來解決這個問題)。
本節(jié)將介紹池化(pooling)層,它具有雙重目的:降低卷積層對位置的敏感性,同時降低對空間降采樣表示的敏感性。
最大匯聚層和平均匯聚層
與卷積層類似,匯聚層運算符由一個固定形狀的窗口組成,該窗口根據(jù)其步幅大小在輸入的所有區(qū)域上滑動,為固定形狀窗口(有時稱為池化窗口)遍歷的每個位置計算一個輸出。然而,不同域卷積層的輸入與卷積核之間的互相關(guān)計算,匯聚層不包含參數(shù)。相反,池運算符是確定性的,我們通常計算池化窗口中所有元素的最大值或平均值。這些操作分別稱為最大匯聚層(maximum pooling)和平均匯聚層(average pooling)。
在這兩種情況下,與互相關(guān)運算符一樣,池化窗口從輸入張量的左上角開始,從左到右、從上到下的在輸入張量內(nèi)移動。
填充和步幅
和先前一樣,我們可以通過填充和步幅以獲得所需的輸出形狀。
多個通道
在處理多通道輸入數(shù)據(jù)時,匯聚層在每個輸入通道上單獨運算,而不是像卷積層一樣在通道上對輸入進行匯總。這意味著匯聚層的輸出通道數(shù)與輸入通道數(shù)相同。
以上就是Python深度學(xué)習(xí)pytorch神經(jīng)網(wǎng)絡(luò)匯聚層理解的詳細內(nèi)容,更多關(guān)于pytorch神經(jīng)網(wǎng)絡(luò)的資料請關(guān)注腳本之家其它相關(guān)文章!
- Python深度學(xué)習(xí)pytorch神經(jīng)網(wǎng)絡(luò)多層感知機簡潔實現(xiàn)
- Python深度學(xué)習(xí)pytorch神經(jīng)網(wǎng)絡(luò)Dropout應(yīng)用詳解解
- Python深度學(xué)習(xí)pytorch神經(jīng)網(wǎng)絡(luò)圖像卷積運算詳解
- Python深度學(xué)習(xí)pytorch神經(jīng)網(wǎng)絡(luò)填充和步幅的理解
- Python深度學(xué)習(xí)pytorch神經(jīng)網(wǎng)絡(luò)多輸入多輸出通道
- Python Pytorch深度學(xué)習(xí)之神經(jīng)網(wǎng)絡(luò)
相關(guān)文章
python如何為被裝飾的函數(shù)保留元數(shù)據(jù)
這篇文章主要為大家詳細介紹了python如何為被裝飾的函數(shù)保留元數(shù)據(jù),具有一定的參考價值,感興趣的小伙伴們可以參考一下2018-03-03python調(diào)用java模塊SmartXLS和jpype修改excel文件的方法
這篇文章主要介紹了python調(diào)用java模塊SmartXLS和jpype修改excel文件的方法,涉及Python調(diào)用java模塊的相關(guān)技巧,非常具有實用價值,需要的朋友可以參考下2015-04-04用Python實現(xiàn)童年貪吃蛇小游戲功能的實例代碼
這篇文章主要介紹了用Python實現(xiàn)童年貪吃蛇小游戲功能的實例代碼,本文給大家介紹的非常詳細,對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下2020-12-12python使用cartopy庫繪制臺風(fēng)路徑代碼
大家好,本篇文章主要講的是python使用cartopy庫繪制臺風(fēng)路徑代碼,感興趣的同學(xué)趕快來看一看吧,對你有幫助的話記得收藏一下2022-02-02Django在視圖中使用表單并和數(shù)據(jù)庫進行數(shù)據(jù)交互的實現(xiàn)
本文主要介紹了Django在視圖中使用表單并和數(shù)據(jù)庫進行數(shù)據(jù)交互,文中通過示例代碼介紹的非常詳細,對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2022-07-07利用python對excel中一列的時間數(shù)據(jù)更改格式操作
這篇文章主要介紹了利用python對excel中一列的時間數(shù)據(jù)更改格式操作,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-07-07關(guān)于Pandas?count()與values_count()的用法及區(qū)別
這篇文章主要介紹了關(guān)于Pandas?count()與values_count()的用法及區(qū)別,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教2022-05-05