pytorch常見(jiàn)的Tensor類型詳解
Tensor有不同的數(shù)據(jù)類型，每種類型分別有對(duì)應(yīng)CPU和GPU版本（HalfTensor除外）。默認(rèn)的Tensor是FloatTensor，可通過(guò)torch.set_default_tensor_type修改默認(rèn)tensor類型（如果默認(rèn)類型為GPU tensor，則所有操作都將在GPU上進(jìn)行）。
Tensor的類型對(duì)分析內(nèi)存占用很有幫助，例如，一個(gè)size為(1000,1000,1000)的FloatTensor，它有1000*1000*1000=10^9個(gè)元素，每一個(gè)元素占用32bit/8=4Byte內(nèi)存，所以共占用大約4GB內(nèi)存/顯存。HalfTensor是專為GPU版本設(shè)計(jì)的，同樣的元素個(gè)數(shù)，顯存占用只有HalfTensor的一半，所以可以極大緩解GPU顯存不足的問(wèn)題，但是由于HalfTensor所能表示的數(shù)值大小和精度有限，所以可能出現(xiàn)溢出等問(wèn)題。
| 數(shù)據(jù)類型 | CPU Tensor | GPU Tensor |
| 32 bit 浮點(diǎn) | torch.FloatTensor | torch.cuda.FloatTensor |
| 64 bit 浮點(diǎn) | torch.DoubleTensor | torch.cuda.DoubleTensor |
| 16 bit 半精度浮點(diǎn) | N/A | torch.cuda.HalfTensor |
| 8 bit 無(wú)符號(hào)整形(0~255) | torch.ByteTensor | torch.cuda.ByteTensor |
| 8 bit 有符號(hào)整形(-128~127) | torch.CharTensor | torch.cuda.CharTensor |
| 16 bit 有符號(hào)整形 | torch.ShortTensor | torch.cuda.ShortTensor |
| 32 bit 有符號(hào)整形 | torch.IntTensor | torch.cuda.IntTensor |
| 64 bit 有符號(hào)整形 | torch.LongTensor | torch.cuda LongTensor |
各數(shù)據(jù)類型之間可以互相轉(zhuǎn)換，type(new_type)是通用的做法，同時(shí)還有float、long、half等快捷方法。CPU tensor和GPU tensor之間的互換是通過(guò)tensor.cuda和tensor.cpu的方法實(shí)現(xiàn)。
如：
#設(shè)置默認(rèn)tensor，注意參數(shù)是字符串
torch.set_default_tensor_type('torch.IntTensor')
a=torch.Tensor(2,3)
print(a) #a現(xiàn)在是IntTensor
以上這篇pytorch常見(jiàn)的Tensor類型詳解就是小編分享給大家的全部?jī)?nèi)容了，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。
相關(guān)文章
Python實(shí)現(xiàn)購(gòu)物系統(tǒng)(示例講解)
下面小編就為大家?guī)?lái)一篇Python實(shí)現(xiàn)購(gòu)物系統(tǒng)(示例講解)。小編覺(jué)得挺不錯(cuò)的，現(xiàn)在就分享給大家，也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2017-09-09
Python常駐任務(wù)實(shí)現(xiàn)接收外界參數(shù)代碼解析
這篇文章主要介紹了Python常駐任務(wù)實(shí)現(xiàn)接收外界參數(shù)代碼解析,文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-07-07
Python打包文件執(zhí)行報(bào)錯(cuò)：ModuleNotFoundError: No module
這篇文章給大家介紹了Python打包文件執(zhí)行報(bào)錯(cuò)：ModuleNotFoundError: No module named ‘pymssql‘的解決方法,如果有遇到相同問(wèn)題的朋友可以參考閱讀一下本文2023-10-10
注意力機(jī)制最先被用在NLP領(lǐng)域,Attention就是為了讓模型認(rèn)識(shí)到數(shù)據(jù)中哪一部分是最重要的,為它分配更大的權(quán)重,獲得更多的注意力在一些特征上,讓模型表現(xiàn)更好,這篇文章主要給大家介紹了關(guān)于YOLOv5改進(jìn)教程之添加注意力機(jī)制的相關(guān)資料,需要的朋友可以參考下2022-06-06
本文主要介紹了python填充彩色圖形的實(shí)現(xiàn)示例，文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2023-04-04
python光學(xué)仿真相速度和群速度計(jì)算理解學(xué)習(xí)
從物理學(xué)的機(jī)制出發(fā)，波動(dòng)模型相對(duì)于光線模型，顯然更加接近光的本質(zhì)；但是從物理學(xué)的發(fā)展來(lái)說(shuō)，波動(dòng)光學(xué)旨在解決幾何光學(xué)無(wú)法解決的問(wèn)題，可謂光線模型的一種升級(jí)2021-10-10
這篇文章主要介紹了Pycharm IDE的安裝和使用,本文通過(guò)圖文并茂的形式給大家介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值，需要的朋友可以參考下2020-04-04
Pandas數(shù)據(jù)分析之pandas文本處理
這篇文章主要介紹了Pandas數(shù)據(jù)分析之pandas文本處理，pandas對(duì)文本數(shù)據(jù)也有很多便捷處理方法，可以不用寫(xiě)循環(huán)，向量化操作運(yùn)算速度快，還可以進(jìn)行高級(jí)的正則表達(dá)式，各種復(fù)雜的邏輯篩選和匹配提取信息2022-08-08
PyQt5下拉式復(fù)選框QComboCheckBox的實(shí)例
今天小編就為大家分享一篇PyQt5下拉式復(fù)選框QComboCheckBox的實(shí)例，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2019-06-06
正則表達(dá)式（RE）是一種小型的、高度專業(yè)化的編程語(yǔ)言，它內(nèi)嵌在Python中，并通過(guò)re模塊實(shí)現(xiàn)。下面我們就來(lái)詳細(xì)探討下Python中正則表達(dá)式的使用2016-12-12