pytorch 使用單個GPU與多個GPU進行訓(xùn)練與測試的方法
更新時間：2019年08月19日 16:41:59 作者：gaishi_hero
今天小編就為大家分享一篇pytorch 使用單個GPU與多個GPU進行訓(xùn)練與測試的方法，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧
如下所示：
device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")#第一行代碼
model.to(device)#第二行代碼
首先是上面兩行代碼放在讀取數(shù)據(jù)之前。
mytensor = my_tensor.to(device)#第三行代碼
然后是第三行代碼。這句代碼的意思是將所有最開始讀取數(shù)據(jù)時的tersor變量copy一份到device所指定的GPU上去，之后的運算都在GPU上進行。需要注意的是這句話并不像前面的兩行代碼一樣只需要寫一遍，第三行代碼需要寫的次數(shù)就等于需要保存到GPU上的tensor變量個數(shù)；一般情況下這些tensor變量都是最開始讀取數(shù)據(jù)時的tensor變量，后面所衍生的變量自然也都在GPU之上。
以上是使用單個GPU的情況。當你擁有多個GPU時，要想使用多個GPU進行訓(xùn)練和測試，需要在第一二行代碼之間插上下面這樣一個判斷語句，其余的寫法也都是一樣的。
if torch.cuda.device_count() > 1: model = nn.DataParallel(model)
使用多個GPU的原理就是通過上面這句代碼將model在每個GPU上分別保存一份，然后對model的輸入tensor進行自動的分割，每個GPU計算tensor的一部分，這樣就能實現(xiàn)計算量的平均分配。在每個model計算完成之后，DataParallel將這些結(jié)果進行收集和融合，之后再將結(jié)果返回。
以上這篇pytorch 使用單個GPU與多個GPU進行訓(xùn)練與測試的方法就是小編分享給大家的全部內(nèi)容了，希望能給大家一個參考，也希望大家多多支持腳本之家。
相關(guān)文章
這篇文章主要介紹了Python中sorted如何自定義比較邏輯，幫助大家更好的理解和學(xué)習(xí)使用python，感興趣的朋友可以了解下2021-02-02
今天小編就為大家分享一篇python中設(shè)置超時跳過,超時退出的方式，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2019-12-12
這篇文章主要介紹了Anaconda詳細安裝步驟圖文教程,文中通過示例代碼介紹的非常詳細，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下2020-11-11
這篇文章主要介紹了python selenium自動上傳有贊單號的操作代碼，代碼簡單易懂，非常不錯，具有一定的參考借鑒價值,需要的朋友可以參考下2018-07-07
Python+SimpleRNN實現(xiàn)股票預(yù)測詳解
這篇文章主要為大家詳細介紹了如何利用Python和SimpleRNN實現(xiàn)股票預(yù)測效果，文中的示例代碼講解詳細，對我們學(xué)習(xí)有一定幫助，需要的可以參考一下2022-05-05
這篇文章主要為大家詳細介紹了PyQt彈出式對話框的常用方法及標準按鈕類型，具有一定的參考價值，感興趣的小伙伴們可以參考一下2019-02-02
Python?DPED機器學(xué)習(xí)之實現(xiàn)照片美化
本篇文章主要介紹了利用Python中的DPED工具實現(xiàn)照片一鍵美化，可以實現(xiàn)照片亮度提高和色彩鮮明度提高，代碼簡潔易懂，具有一定學(xué)習(xí)價值，感興趣的小伙伴可以了解一下2021-11-11
這篇文章主要介紹了python中列表的常見操作總結(jié)，文章圍通過列表的索引與切片的相關(guān)資料展開全文詳細的內(nèi)容，具有一定的參考價值，需要的小伙伴可以參考一下2022-07-07
這篇文章主要為大家詳細介紹了python模擬斗地主發(fā)牌，文中示例代碼介紹的非常詳細，具有一定的參考價值，感興趣的小伙伴們可以參考一下2020-04-04
Python?ArcPy實現(xiàn)批量對大量遙感影像相減做差
這篇文章主要為大家介紹了如何基于Python中ArcPy模塊實現(xiàn)對大量柵格遙感影像文件批量進行相減做差，文中的示例代碼講解詳細，感興趣的可以了解一下2023-06-06