對pytorch中x = x.view(x.size(0), -1) 的理解說明
在pytorch的CNN代碼中經(jīng)常會看到
x.view(x.size(0), -1)
首先,在pytorch中的view()函數(shù)就是用來改變tensor的形狀的,例如將2行3列的tensor變?yōu)?行6列,其中-1表示會自適應(yīng)的調(diào)整剩余的維度
a = torch.Tensor(2,3) print(a) # tensor([[0.0000, 0.0000, 0.0000], # [0.0000, 0.0000, 0.0000]]) print(a.view(1,-1)) # tensor([[0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000]])
在CNN中卷積或者池化之后需要連接全連接層,所以需要把多維度的tensor展平成一維,x.view(x.size(0), -1)就實現(xiàn)的這個功能
def forward(self,x): x=self.pre(x) x=self.layer1(x) x=self.layer2(x) x=self.layer3(x) x=self.layer4(x) x=F.avg_pool2d(x,7) x=x.view(x.size(0),-1) return self.fc(x)
卷積或者池化之后的tensor的維度為(batchsize,channels,x,y),其中x.size(0)指batchsize的值,最后通過x.view(x.size(0), -1)將tensor的結(jié)構(gòu)轉(zhuǎn)換為了(batchsize, channels*x*y),即將(channels,x,y)拉直,然后就可以和fc層連接了
補充:pytorch中view的用法(重構(gòu)張量)
view在pytorch中是用來改變張量的shape的,簡單又好用。
pytorch中view的用法通常是直接在張量名后用.view調(diào)用,然后放入自己想要的shape。如
tensor_name.view(shape)
Example:
1. 直接用法:
>>> x = torch.randn(4, 4) >>> x.size() torch.Size([4, 4]) >>> y = x.view(16) >>> y.size() torch.Size([16])
2. 強調(diào)某一維度的尺寸:
>>> z = x.view(-1, 8) # the size -1 is inferred from other dimensions >>> z.size() torch.Size([2, 8])
3. 拉直張量:
(直接填-1表示拉直, 等價于tensor_name.flatten())
>>> y = x.view(-1) >>> y.size() torch.Size([16])
4. 做維度變換時不改變內(nèi)存排列
>>> a = torch.randn(1, 2, 3, 4) >>> a.size() torch.Size([1, 2, 3, 4]) >>> b = a.transpose(1, 2) # Swaps 2nd and 3rd dimension >>> b.size() torch.Size([1, 3, 2, 4]) >>> c = a.view(1, 3, 2, 4) # Does not change tensor layout in memory >>> c.size() torch.Size([1, 3, 2, 4]) >>> torch.equal(b, c) False
注意最后的False,在張量b和c是不等價的。從這里我們可以看得出來,view函數(shù)如其名,只改變“看起來”的樣子,不會改變張量在內(nèi)存中的排列。
以上為個人經(jīng)驗,希望能給大家一個參考,也希望大家多多支持腳本之家。如有錯誤或未考慮完全的地方,望不吝賜教。
相關(guān)文章
基于MSELoss()與CrossEntropyLoss()的區(qū)別詳解
今天小編就為大家分享一篇基于MSELoss()與CrossEntropyLoss()的區(qū)別詳解,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-01-01Python中np.linalg.norm()用法實例總結(jié)
在線性代數(shù)中一個向量通過矩陣轉(zhuǎn)換成另一個向量時,原有向量的大小就是向量的范數(shù),這個變化過程的大小就是矩陣的范數(shù),下面這篇文章主要給大家介紹了關(guān)于Python中np.linalg.norm()用法的相關(guān)資料,需要的朋友可以參考下2022-07-07Python?matplotlib實現(xiàn)多子圖布局
多子圖布局是指在一個圖像中同時顯示多個子圖,每個子圖可以是獨立的圖形或者是相互關(guān)聯(lián)的圖形,下面我們就來了解下matplotlib是如何實現(xiàn)多子圖布局的吧2023-12-12Python中模塊pymysql查詢結(jié)果后如何獲取字段列表
pymsql是Python中操作MySQL的模塊,其使用方法和MySQLdb幾乎相同。下面這篇文章主要給大家介紹了關(guān)于Python中模塊pymysql查詢結(jié)果后如何獲取字段列表的相關(guān)資料,文中介紹的非常詳細(xì),需要的朋友可以參考借鑒,下面來看看詳細(xì)的介紹。2017-06-06Python庫Theano深度神經(jīng)網(wǎng)絡(luò)的設(shè)計訓(xùn)練深入探究
Theano是一個用于深度學(xué)習(xí)的Python庫,它提供了高效的數(shù)值計算和自動微分功能,使得深度神經(jīng)網(wǎng)絡(luò)的設(shè)計和訓(xùn)練變得更加容易,本文將深入探討Theano的功能和用法,并提供豐富的示例代碼,幫助大家入門深度學(xué)習(xí)2024-01-01python使用flask與js進(jìn)行前后臺交互的例子
今天小編就為大家分享一篇python使用flask與js進(jìn)行前后臺交互的例子,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-07-07Pycharm安裝第三方庫、安裝位置以及鏡像設(shè)置方法詳解
對于Python開發(fā)用戶來講,安裝第三方庫是家常便飯,下面這篇文章主要給大家介紹了關(guān)于Pycharm安裝第三方庫、安裝位置以及鏡像設(shè)置方法的相關(guān)資料,文中通過實例代碼介紹的非常詳細(xì),需要的朋友可以參考下2023-05-05