Python中torch.load()加載模型以及其map_location參數(shù)詳解
參考
torch.load()
函數(shù)格式為:torch.load(f, map_location=None, pickle_module=pickle, **pickle_load_args)
,一般我們使用的時(shí)候,基本只使用前兩個(gè)參數(shù)。
模型的保存
模型保存有兩種形式,一種是保存模型的state_dict()
,只是保存模型的參數(shù)。那么加載時(shí)需要先創(chuàng)建一個(gè)模型的實(shí)例model
,之后通過torch.load()
將保存的模型參數(shù)加載進(jìn)來,得到dict
,再通過model.load_state_dict(dict)
將模型的參數(shù)更新。
另一種是將整個(gè)模型保存下來,之后加載的時(shí)候只需要通過torch.load()
將模型加載,即可返回一個(gè)加載好的模型。
具體可參考:PyTorch模型的保存與加載。
模型加載中的map_location參數(shù)
具體來說,map_location
參數(shù)是用于重定向,比如此前模型的參數(shù)是在cpu
中的,我們希望將其加載到cuda:0
中。或者我們有多張卡,那么我們就可以將卡1中訓(xùn)練好的模型加載到卡2中,這在數(shù)據(jù)并行的分布式深度學(xué)習(xí)中可能會用到。
首先定義一個(gè)AlexNet,并使用cuda:0
將其訓(xùn)練了一個(gè)貓狗分類,之后把模型存儲起來。
map_location=None
我們先把state_dict
加載進(jìn)來。
model_path = "./cuda_model.pth" model = torch.load(model_path) print(next(model.parameters()).device)
結(jié)果為:
cuda:0
因?yàn)楸4娴臅r(shí)候就是模型就是cuda:0
的,所以加載進(jìn)來也是。
map_location=torch.device()
model_path = "./cuda_model.pth" model = torch.load(model_path, map_location=torch.device('cpu')) print(next(model.parameters()).device)
結(jié)果為:
cpu
模型從cuda:0
變成了cpu
。
map_location={xx:xx}
model_path = "./cuda_model.pth" model = torch.load(model_path, map_location={'cuda:0':'cuda:1'}) print(next(model.parameters()).device)
結(jié)果為:
cuda:1
模型從cuda:0
變成了cuda:1
。
model_path = "./cuda_model.pth" model = torch.load(model_path, map_location={'cuda:2':'cpu'}) print(next(model.parameters()).device)
結(jié)果為:
cuda:0
模型還是cuda:0
,并沒有變成cpu
。因?yàn)檫@個(gè)map_location
的映射是不對的,原始的模型就是cuda:0
,而映射是cuda:2
到cpu
,是不對的。這種情況下,map_location
返回None
,也就是和不加map_location
相同。
總結(jié)
到此這篇關(guān)于Python中torch.load()加載模型以及其map_location參數(shù)詳解的文章就介紹到這了,更多相關(guān)torch.load()加載模型map_location參數(shù)內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Pandas實(shí)現(xiàn)groupby分組統(tǒng)計(jì)方法實(shí)例
在數(shù)據(jù)處理的過程,有可能需要對一堆數(shù)據(jù)分組處理,例如對不同的列進(jìn)行agg聚合操作(mean,min,max等等),下面這篇文章主要給大家介紹了關(guān)于Pandas實(shí)現(xiàn)groupby分組統(tǒng)計(jì)方法的相關(guān)資料,需要的朋友可以參考下2023-06-06python Matplotlib數(shù)據(jù)可視化(1):簡單入門
這篇文章主要介紹了python Matplotlib的相關(guān)資料,幫助大家入門matplotlib,繪制各種圖表,感興趣的朋友可以了解下2020-09-09Matplotlib使用字符串代替變量繪制散點(diǎn)圖的方法
這篇文章主要介紹了Matplotlib使用字符串代替變量繪制散點(diǎn)圖的方法,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-02-02Python django搭建layui提交表單,表格,圖標(biāo)的實(shí)例
今天小編就為大家分享一篇Python django搭建layui提交表單,表格,圖標(biāo)的實(shí)例,具有很好的參考價(jià)值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-11-11Python的網(wǎng)絡(luò)編程庫Gevent的安裝及使用技巧
Gevent庫的奧義在于并發(fā)式的高性能網(wǎng)絡(luò)程序設(shè)計(jì)支持,這里我們將來講解Python的網(wǎng)絡(luò)編程庫Gevent的安裝及使用技巧,來看一下Gevent支持的多進(jìn)程程序編寫:2016-06-06Python之——生成動(dòng)態(tài)路由軌跡圖的實(shí)例
今天小編就為大家分享一篇Python之——生成動(dòng)態(tài)路由軌跡圖的實(shí)例,具有很好的參考價(jià)值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-11-11