pytorch常見的Tensor類型詳解
Tensor有不同的數(shù)據(jù)類型，每種類型分別有對應CPU和GPU版本（HalfTensor除外）。默認的Tensor是FloatTensor，可通過torch.set_default_tensor_type修改默認tensor類型（如果默認類型為GPU tensor，則所有操作都將在GPU上進行）。
Tensor的類型對分析內存占用很有幫助，例如，一個size為(1000,1000,1000)的FloatTensor，它有1000*1000*1000=10^9個元素，每一個元素占用32bit/8=4Byte內存，所以共占用大約4GB內存/顯存。HalfTensor是專為GPU版本設計的，同樣的元素個數(shù)，顯存占用只有HalfTensor的一半，所以可以極大緩解GPU顯存不足的問題，但是由于HalfTensor所能表示的數(shù)值大小和精度有限，所以可能出現(xiàn)溢出等問題。
| 數(shù)據(jù)類型 | CPU Tensor | GPU Tensor |
| 32 bit 浮點 | torch.FloatTensor | torch.cuda.FloatTensor |
| 64 bit 浮點 | torch.DoubleTensor | torch.cuda.DoubleTensor |
| 16 bit 半精度浮點 | N/A | torch.cuda.HalfTensor |
| 8 bit 無符號整形(0~255) | torch.ByteTensor | torch.cuda.ByteTensor |
| 8 bit 有符號整形(-128~127) | torch.CharTensor | torch.cuda.CharTensor |
| 16 bit 有符號整形 | torch.ShortTensor | torch.cuda.ShortTensor |
| 32 bit 有符號整形 | torch.IntTensor | torch.cuda.IntTensor |
| 64 bit 有符號整形 | torch.LongTensor | torch.cuda LongTensor |
各數(shù)據(jù)類型之間可以互相轉換，type(new_type)是通用的做法，同時還有float、long、half等快捷方法。CPU tensor和GPU tensor之間的互換是通過tensor.cuda和tensor.cpu的方法實現(xiàn)。
如：
#設置默認tensor，注意參數(shù)是字符串
torch.set_default_tensor_type('torch.IntTensor')
a=torch.Tensor(2,3)
print(a) #a現(xiàn)在是IntTensor
以上這篇pytorch常見的Tensor類型詳解就是小編分享給大家的全部內容了，希望能給大家一個參考，也希望大家多多支持腳本之家。
相關文章
Python實現(xiàn)購物系統(tǒng)(示例講解)
下面小編就為大家?guī)硪黄狿ython實現(xiàn)購物系統(tǒng)(示例講解)。小編覺得挺不錯的，現(xiàn)在就分享給大家，也給大家做個參考。一起跟隨小編過來看看吧2017-09-09
Python常駐任務實現(xiàn)接收外界參數(shù)代碼解析
這篇文章主要介紹了Python常駐任務實現(xiàn)接收外界參數(shù)代碼解析,文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下2020-07-07
Python打包文件執(zhí)行報錯：ModuleNotFoundError: No module
這篇文章給大家介紹了Python打包文件執(zhí)行報錯：ModuleNotFoundError: No module named ‘pymssql‘的解決方法,如果有遇到相同問題的朋友可以參考閱讀一下本文2023-10-10
注意力機制最先被用在NLP領域,Attention就是為了讓模型認識到數(shù)據(jù)中哪一部分是最重要的,為它分配更大的權重,獲得更多的注意力在一些特征上,讓模型表現(xiàn)更好,這篇文章主要給大家介紹了關于YOLOv5改進教程之添加注意力機制的相關資料,需要的朋友可以參考下2022-06-06
本文主要介紹了python填充彩色圖形的實現(xiàn)示例，文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面隨著小編來一起學習學習吧2023-04-04
從物理學的機制出發(fā)，波動模型相對于光線模型，顯然更加接近光的本質；但是從物理學的發(fā)展來說，波動光學旨在解決幾何光學無法解決的問題，可謂光線模型的一種升級2021-10-10
這篇文章主要介紹了Pycharm IDE的安裝和使用,本文通過圖文并茂的形式給大家介紹的非常詳細，對大家的學習或工作具有一定的參考借鑒價值，需要的朋友可以參考下2020-04-04
Pandas數(shù)據(jù)分析之pandas文本處理
這篇文章主要介紹了Pandas數(shù)據(jù)分析之pandas文本處理，pandas對文本數(shù)據(jù)也有很多便捷處理方法，可以不用寫循環(huán)，向量化操作運算速度快，還可以進行高級的正則表達式，各種復雜的邏輯篩選和匹配提取信息2022-08-08
今天小編就為大家分享一篇PyQt5下拉式復選框QComboCheckBox的實例，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2019-06-06
正則表達式（RE）是一種小型的、高度專業(yè)化的編程語言，它內嵌在Python中，并通過re模塊實現(xiàn)。下面我們就來詳細探討下Python中正則表達式的使用2016-12-12