pytorch中的matmul與mm,bmm區(qū)別說明
pytorch中matmul和mm和bmm區(qū)別 matmulmmbmm結(jié)論
先看下官網(wǎng)上對這三個(gè)函數(shù)的介紹。
matmul
mm
bmm
顧名思義, 就是兩個(gè)batch矩陣乘法.
結(jié)論
從官方文檔可以看出
1、mm只能進(jìn)行矩陣乘法,也就是輸入的兩個(gè)tensor維度只能是( n × m ) (n\times m)(n×m)和( m × p ) (m\times p)(m×p)
2、bmm是兩個(gè)三維張量相乘, 兩個(gè)輸入tensor維度是( b × n × m ) (b\times n\times m)(b×n×m)和( b × m × p ) (b\times m\times p)(b×m×p), 第一維b代表batch size，輸出為( b × n × p ) (b\times n \times p)(b×n×p)
3、matmul可以進(jìn)行張量乘法, 輸入可以是高維.
補(bǔ)充：torch中的幾種乘法。torch.mm, torch.mul, torch.matmul
一、點(diǎn)乘
點(diǎn)乘都是broadcast的，可以用torch.mul(a, b)實(shí)現(xiàn)，也可以直接用*實(shí)現(xiàn)。
>>> a = torch.ones(3,4)
>>> a
tensor([[1., 1., 1., 1.],
[1., 1., 1., 1.],
[1., 1., 1., 1.]])
>>> b = torch.Tensor([1,2,3]).reshape((3,1))
>>> b
tensor([[1.],
[2.],
[3.]])
>>> torch.mul(a, b)
tensor([[1., 1., 1., 1.],
[2., 2., 2., 2.],
[3., 3., 3., 3.]])
當(dāng)a, b維度不一致時(shí)，會(huì)自動(dòng)填充到相同維度相點(diǎn)乘。
二、矩陣乘
矩陣相乘有torch.mm和torch.matmul兩個(gè)函數(shù)。其中前一個(gè)是針對二維矩陣，后一個(gè)是高維。當(dāng)torch.mm用于大于二維時(shí)將報(bào)錯(cuò)。
>>> a = torch.ones(3,4)
>>> b = torch.ones(4,2)
>>> torch.mm(a, b)
tensor([[4., 4.],
[4., 4.],
[4., 4.]])
>>> a = torch.ones(3,4) >>> b = torch.ones(5,4,2) >>> torch.matmul(a, b).shape torch.Size([5, 3, 2])
>>> a = torch.ones(5,4,2) >>> b = torch.ones(5,2,3) >>> torch.matmul(a, b).shape torch.Size([5, 4, 3])
>>> a = torch.ones(5,4,2) >>> b = torch.ones(5,2,3) >>> torch.matmul(b, a).shape 報(bào)錯(cuò)。
以上為個(gè)人經(jīng)驗(yàn)，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。如有錯(cuò)誤或未考慮完全的地方，望不吝賜教。
相關(guān)文章
不管是在學(xué)習(xí)還是工作過程中，人都會(huì)犯錯(cuò)。雖然Python的語法簡單、靈活，但也一樣存在一些不小的坑，一不小心，初學(xué)者和資深Python程序員都有可能會(huì)栽跟頭。本文為大家分享了10大常見錯(cuò)誤，需要的朋友可以參考下2015-12-12
這篇文章主要介紹了將pip源更換到國內(nèi)鏡像的詳細(xì)步驟，小編覺得挺不錯(cuò)的，現(xiàn)在分享給大家，也給大家做個(gè)參考。一起跟隨小編過來看看吧2019-04-04
這篇文章主要介紹了Python Matplotlib簡易教程(小白教程)，文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-07-07
Python HTMLTestRunner測試報(bào)告view按鈕失效解決方案
這篇文章主要介紹了Python HTMLTestRunner測試報(bào)告view按鈕失效解決方案,文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-05-05
pymongo為mongodb數(shù)據(jù)庫添加索引的方法
這篇文章主要介紹了pymongo為mongodb數(shù)據(jù)庫添加索引的方法,涉及Python操作mongodb數(shù)據(jù)庫的相關(guān)技巧,非常簡單實(shí)用,需要的朋友可以參考下2015-05-05
擴(kuò)展Django admin的list_filter()可使用范圍方法
今天小編就為大家分享一篇擴(kuò)展Django admin的list_filter()可使用范圍方法，具有很好的參考價(jià)值，希望對大家有所幫助。一起跟隨小編過來看看吧2019-08-08
python3?http.client?網(wǎng)絡(luò)請求方式
這篇文章主要介紹了python3?http.client?網(wǎng)絡(luò)請求方式,具有很好的參考價(jià)值,希望對大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2023-09-09
在本篇文章中小編給大家分享了關(guān)于Python requests模塊實(shí)例用法，有需要的朋友們學(xué)習(xí)參考下。2019-02-02
這篇文章主要介紹了python通過2種方法輸出帶顏色字體,文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-03-03
Djang的model創(chuàng)建的字段和參數(shù)詳解
這篇文章主要介紹了Djang的model創(chuàng)建的字段和參數(shù)詳解,文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2019-07-07