PyTorch實(shí)現(xiàn)更新部分網(wǎng)絡(luò),其他不更新
torch.Tensor.detach()的使用
detach()的官方說(shuō)明如下:
Returns a new Tensor, detached from the current graph.
The result will never require gradient.
假設(shè)有模型A和模型B,我們需要將A的輸出作為B的輸入,但訓(xùn)練時(shí)我們只訓(xùn)練模型B. 那么可以這樣做:
input_B = output_A.detach()
它可以使兩個(gè)計(jì)算圖的梯度傳遞斷開(kāi),從而實(shí)現(xiàn)我們所需的功能。
以上這篇PyTorch實(shí)現(xiàn)更新部分網(wǎng)絡(luò),其他不更新就是小編分享給大家的全部?jī)?nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
Python的輸出格式化和進(jìn)制轉(zhuǎn)換介紹
大家好,本篇文章主要講的是Python的輸出格式化和進(jìn)制轉(zhuǎn)換介紹,感興趣的同學(xué)趕快來(lái)看一看吧,對(duì)你有幫助的話記得收藏一下2022-01-01Python中模塊(Module)和包(Package)的區(qū)別詳解
這篇文章主要介紹了Python中模塊(Module)和包(Package)的區(qū)別詳解,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2019-08-08正確理解Python中if __name__ == ''__main__''
今天小編就為大家分享一篇關(guān)于正確理解Python中if __name__ == '__main__' ,小編覺(jué)得內(nèi)容挺不錯(cuò)的,現(xiàn)在分享給大家,具有很好的參考價(jià)值,需要的朋友一起跟隨小編來(lái)看看吧2019-01-01Python中OpenCV圖像特征和harris角點(diǎn)檢測(cè)
Harris角點(diǎn)檢測(cè)算子是于1988年由CHris Harris & Mike Stephens提出來(lái)的。在具體展開(kāi)之前,不得不提一下Moravec早在1981就提出來(lái)的Moravec角點(diǎn)檢測(cè)算子。本文重點(diǎn)給大家介紹OpenCV圖像特征harris角點(diǎn)檢測(cè)知識(shí),一起看看吧2021-09-09OpenCV-Python實(shí)現(xiàn)懷舊濾鏡與連環(huán)畫濾鏡
很多時(shí)候通過(guò)ps可以做很多效果,今天我們來(lái)介紹使用OpenCV-Python實(shí)現(xiàn)懷舊濾鏡與連環(huán)畫濾鏡,具有一定的參考價(jià)值,感興趣的可以了解一下2021-06-06關(guān)于Python使用turtle庫(kù)畫任意圖的問(wèn)題
這篇文章主要介紹了Python turtle庫(kù)畫任意圖,本文給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2022-04-04python pandas 解析(讀取、寫入)CSV 文件的操作方法
這篇文章主要介紹了python pandas 解析(讀取、寫入) CSV 文件,本文通過(guò)示例代碼給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2022-12-12Python基于內(nèi)置庫(kù)pytesseract實(shí)現(xiàn)圖片驗(yàn)證碼識(shí)別功能
這篇文章主要介紹了Python基于內(nèi)置庫(kù)pytesseract實(shí)現(xiàn)圖片驗(yàn)證碼識(shí)別功能,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-02-02