pytorch cuda上tensor的定義 以及減少cpu的操作詳解
cuda上tensor的定義
a = torch.ones(1000,1000,3).cuda()
某一gpu上定義
cuda1 = torch.device('cuda:1')
b = torch.randn((1000,1000,1000),device=cuda1)
刪除某一變量
del a
在cpu定義tensor然后轉(zhuǎn)到gpu
torch.zeros().cuda()
直接在gpu上定義，這樣就減少了cpu的損耗
torch.cuda.FloatTensor(batch_size, self.hidden_dim, self.height, self.width).fill_(0)
補(bǔ)充知識(shí)：pytorch cuda.FloatTensor->FloatTensor
錯(cuò)誤類型：
RuntimeError: Input type (torch.cuda.FloatTensor) and weight type (torch.FloatTensor）
定義殘差塊時(shí)定義在model的外面，在使用gpu進(jìn)行訓(xùn)練的時(shí)候，殘差塊的參數(shù)是torch.FloatTensor類型，
雖然使用了model.cuda(),但是只對model里面的參數(shù)在gpu部分，所以把殘差塊對應(yīng)的操作都在model的__init__(），
重新定義，即可解決問題
以上這篇pytorch cuda上tensor的定義 以及減少cpu的操作詳解就是小編分享給大家的全部內(nèi)容了，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。
相關(guān)文章
python用pdfplumber提取pdf表格數(shù)據(jù)并保存到excel文件中
在實(shí)際研究中我們經(jīng)常需要獲取大量數(shù)據(jù),而這些數(shù)據(jù)很大一部分以pdf表格的形式呈現(xiàn),如公司年報(bào)、發(fā)行上市公告等,下面這篇文章主要給大家介紹了關(guān)于利用python提取pdf表格數(shù)據(jù)并保存到excel文件中的相關(guān)資料,需要的朋友可以參考下2022-07-07
使用Python 統(tǒng)計(jì)高頻字?jǐn)?shù)的方法
今天小編就為大家分享一篇使用Python 統(tǒng)計(jì)高頻字?jǐn)?shù)的方法，具有很好的參考價(jià)值，希望對大家有所幫助。一起跟隨小編過來看看吧2019-01-01
python 使用OpenCV進(jìn)行簡單的人像分割與合成
這篇文章主要介紹了python 使用OpenCV進(jìn)行簡單的人像分割與合成的方法，幫助大家更好的利用python處理圖像，感興趣的朋友可以了解下2021-02-02
這篇文章主要介紹了python按行讀取文件并找出其中指定字符串的方法，本文通過實(shí)例代碼給大家介紹的非常詳細(xì)，具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2019-08-08
這篇文章主要介紹了如何用python 批量重命名移動(dòng)多個(gè)文件，幫助大家更好的理解和學(xué)習(xí)使用python，感興趣的朋友可以了解下2021-03-03
利用Python對中國500強(qiáng)排行榜數(shù)據(jù)進(jìn)行可視化分析
這篇文章主要介紹了利用Python對中國500強(qiáng)排行榜數(shù)據(jù)進(jìn)行可視化分析，從不同角度去對數(shù)據(jù)進(jìn)行統(tǒng)計(jì)分析，可視化展示，下文詳細(xì)內(nèi)容介紹需要的小伙伴可以參考一下2022-05-05
解決TensorFlow訓(xùn)練模型及保存數(shù)量限制的問題
這篇文章主要介紹了解決TensorFlow訓(xùn)練模型及保存數(shù)量限制的問題，具有很好的參考價(jià)值，希望對大家有所幫助。一起跟隨小編過來看看吧2021-03-03
python Matplotlib數(shù)據(jù)可視化（2）：詳解三大容器對象與常用設(shè)置
這篇文章主要介紹了python Matplotlib三大容器對象與常用設(shè)置的相關(guān)資料，幫助大家更好的學(xué)習(xí)和使用Matplotlib庫的用法，感興趣的朋友可以了解下2020-09-09
利用python實(shí)現(xiàn)微信頭像加紅色數(shù)字功能
通過Python實(shí)現(xiàn)將你的 QQ 頭像（或者微博頭像）右上角加上紅色的數(shù)字，類似于微信未讀信息數(shù)量那種提示效果。下面通過本文給大家分享python實(shí)現(xiàn)微信頭像加紅色數(shù)字功能，感興趣的朋友一起看看吧2018-03-03
這篇文章主要介紹了使用Python的Matplotlib繪制漸變的彩色曲線,Matplotlib是Python生態(tài)圈中應(yīng)用最為廣泛的2D繪圖庫,通過擴(kuò)展工具包mplot3d,也可以繪制簡單的3D模型,需要的朋友可以參考下2023-08-08