Pytorch 多維數(shù)組運(yùn)算過(guò)程的索引處理方式
背景:對(duì) python 不熟悉,能看懂代碼,也能實(shí)現(xiàn)一些簡(jiǎn)單的功能,但是對(duì) python 的核心思想和編程技巧不熟,所以使 Pytorch 寫(xiě) loss 的時(shí)候遇到很多麻煩,尤其是在 batch_size > 1 的時(shí)候,做矩陣乘法之類(lèi)的運(yùn)算會(huì)覺(jué)得特別不順手。
所幸,在邊查邊寫(xiě)的過(guò)程中,理解了 python 中多維運(yùn)算的實(shí)現(xiàn)規(guī)則。
1、python 的基本索引規(guī)則
從 0 開(kāi)始
對(duì)于給定的范圍,如 b = a[m:n], 那么 b 為由 (n-m)個(gè)數(shù)據(jù)組成的新數(shù)組,由 a[m],a[m+1],...,a[n-1] 構(gòu)成。(若 n<m, 得到空)
2、單個(gè) tensor 運(yùn)算,使用 dim 參數(shù)
torch 中對(duì) tensor 的操作方法,若不加 dim 參數(shù)表示對(duì)整體的 tensr 進(jìn)行操作,若增加 dim 參則表示按維操作。
例:
a = [[1,2],[3,4],[5,6]] (torch.tensor) torch.mean(a) => 3.5 torch.mean(a,dim=0) => [1.5, 3.5, 5.5] torch.mean(a,dim=1) => [[3],[4]] torch.mean(a,dim=0) => [3,4] torch.mean(a,dim=1) => [1.5, 3.5, 5.5]
注: torch.mean() 是一個(gè)降維的操作,所以不會(huì)出現(xiàn)在取均值后保持跟原 Tensor 同維的情況。 dim 參數(shù)存在時(shí)降一維,不存在時(shí)得到的是整個(gè) Tensor 的均值。
3、兩個(gè) tensor 運(yùn)算,構(gòu)造對(duì)應(yīng)形狀
以乘法為例:
3.1 矩陣乘向量
a = [[1,2],[3,4],[5,6]] b = [1,1]
計(jì)算乘法 c = a@b
若 a 拓展為 (N,3,2) N 為 batch_size, 計(jì)算 c2 = a@b
若 a,b 同時(shí)拓展, 變成(N, 2),那么需要做一個(gè)變換 b = b.view(N,2,1),計(jì)算 c3 = a@b
3.2 矩陣乘矩陣
a = [[1,2],[3,4],[5,6]] b =[ [1,1],[1,1]]
計(jì)算乘法 c = a@b
若 a 拓展為 (N,3,2) N 為 batch_size, 計(jì)算 c2 = a@b
若 a,b 同時(shí)拓展, 變成(N, 2, 2),計(jì)算 c3 = a@b
以上這篇Pytorch 多維數(shù)組運(yùn)算過(guò)程的索引處理方式就是小編分享給大家的全部?jī)?nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
對(duì)python中Json與object轉(zhuǎn)化的方法詳解
今天小編就為大家分享一篇對(duì)python中Json與object轉(zhuǎn)化的方法詳解,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2018-12-12Python灰度變換中灰度切割分析實(shí)現(xiàn)
灰度變換是指根據(jù)某種目標(biāo)條件按一定變換關(guān)系逐點(diǎn)改變?cè)磮D像中每個(gè)像素灰度值的方法。目的是改善畫(huà)質(zhì),使圖像顯示效果更加清晰。圖像的灰度變換處理是圖像增強(qiáng)處理技術(shù)中的一種非常基礎(chǔ)、直接的空間域圖像處理方法,也是圖像數(shù)字化軟件和圖像顯示軟件的一個(gè)重要組成部分2022-10-10Python腳本如何在bilibili中查找彈幕發(fā)送者
這篇文章主要介紹了如何在bilibili中查找彈幕發(fā)送者,本文給大家分享小編寫(xiě)的一個(gè)python腳本來(lái)實(shí)現(xiàn)bilibili彈幕發(fā)送者,需要的朋友可以參考下2020-06-06Anaconda+Pycharm環(huán)境下的PyTorch配置方法
這篇文章主要介紹了Anaconda+Pycharm環(huán)境下的PyTorch配置方法,本文給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2020-03-03opencv python Canny邊緣提取實(shí)現(xiàn)過(guò)程解析
這篇文章主要介紹了opencv python Canny邊緣提取實(shí)現(xiàn)過(guò)程解析,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-02-02Python生成任意波形并存為txt的實(shí)現(xiàn)
本文主要介紹了Python生成任意波形并存為txt的實(shí)現(xiàn),文中通過(guò)示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2021-11-11Python中Playwright?與?pyunit?結(jié)合使用詳解
這篇文章主要介紹了Python中Playwright?與?pyunit?結(jié)合使用,本文通過(guò)實(shí)例代碼給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2023-03-03