Pytorch獲取無(wú)梯度TorchTensor中的值
獲取無(wú)梯度Tensor
遇到的問(wèn)題：
使用兩個(gè)網(wǎng)絡(luò)并行運(yùn)算，一個(gè)網(wǎng)絡(luò)的輸出值要給另一個(gè)網(wǎng)絡(luò)反饋。而反饋的輸出值帶有網(wǎng)絡(luò)權(quán)重的梯度，即grad_fn=<XXXBackward0>.
這時(shí)候如果把反饋值扔到第二網(wǎng)絡(luò)中更新，會(huì)出現(xiàn)第一個(gè)計(jì)算圖丟失無(wú)法更新的錯(cuò)誤。哎喲喂，我根本不需要第一個(gè)網(wǎng)絡(luò)的梯度好嗎？
一開始用了一個(gè)笨辦法，先轉(zhuǎn)numpy，然后再轉(zhuǎn)回torch.Tensor。因?yàn)閚umpy數(shù)據(jù)是不帶梯度的。
但是我的原始tensor的放在cuda上的，
cuda的張量是不能直接轉(zhuǎn)Tensor，所以
t_error = td_error.cuda().data.cpu().numpy() t_error = torch.FloatTensor(t_error).to(device)
從cuda轉(zhuǎn)回了cpu，變成numpy，又轉(zhuǎn)成了tensor，又回到了cuda上，坑爹呢這是，可能只有我才能寫出如此低效的辣雞代碼了。
后來(lái)發(fā)現(xiàn)，其實(shí)直接在返回的時(shí)候添加
with torch.no_grad(): td_error = reward + GAMMA * v_ - v
即可.
補(bǔ)充：在pytorch中取一個(gè)tensor的均值，然后該張量中的所有值與其對(duì)比！
Pytorch中的Tensor的shape是(B, C, W, H)，
對(duì)該tensor取均值并與所有值做對(duì)比代碼如下：
C, H, W = tensor.shape[1], tensor.shape[2], tensor.shape[3] for c in range(C): mean = torch.mean(x[0][c]) for h in range(H): for w in range(W): if x[0][c][h][w] >= mean: x[0][c][h][w] = mean
以上為個(gè)人經(jīng)驗(yàn)，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。
相關(guān)文章
Python實(shí)現(xiàn)二分法查找及優(yōu)化的示例詳解
二分查找法（Binary?Search）是一種在有序數(shù)組中查找某一特定元素的算法，在本文中，我們將使用?Python?實(shí)現(xiàn)二分查找算法，并深入探討算法的原理和實(shí)現(xiàn)細(xì)節(jié)，感興趣的可以了解一下2023-04-04
詳解使用Pytorch Geometric實(shí)現(xiàn)GraphSAGE模型
這篇文章主要為大家介紹了詳解使用Pytorch Geometric實(shí)現(xiàn)GraphSAGE模型示例詳解，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪2023-04-04
如何在Python中導(dǎo)入EXCEL數(shù)據(jù)
這篇文章主要介紹了使用Python處理EXCEL基礎(chǔ)操作篇1,如何在Python中導(dǎo)入EXCEL數(shù)據(jù),文中提供了解決思路和部分實(shí)現(xiàn)代碼，一起來(lái)看看吧2023-03-03
這篇文章主要介紹了深入解析Python中的WSGI接口,WSGI接口是Python中網(wǎng)絡(luò)框架連接服務(wù)器的必備工具,需要的朋友可以參考下2015-05-05
在本文中小編給大家整理了關(guān)于Python函數(shù)和模塊的使用的相關(guān)知識(shí)點(diǎn)以及實(shí)例代碼內(nèi)容，需要的朋友們跟著學(xué)習(xí)下。2019-05-05
將pytorch轉(zhuǎn)成longtensor的簡(jiǎn)單方法
今天小編就為大家分享一篇將pytorch轉(zhuǎn)成longtensor的簡(jiǎn)單方法，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2020-02-02
python3+PyQt5 創(chuàng)建多線程網(wǎng)絡(luò)應(yīng)用-TCP客戶端和TCP服務(wù)器實(shí)例
今天小編就為大家分享一篇python3+PyQt5 創(chuàng)建多線程網(wǎng)絡(luò)應(yīng)用-TCP客戶端和TCP服務(wù)器實(shí)例，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2019-06-06
Python如何對(duì)音視頻文件進(jìn)行解析詳解
在腳本或應(yīng)用程序中,我們需要執(zhí)行音頻處理任務(wù),下面這篇文章主要給大家介紹了關(guān)于Python如何對(duì)音視頻文件進(jìn)行解析的相關(guān)資料,文中通過(guò)實(shí)例代碼介紹的非常詳細(xì),需要的朋友可以參考下2022-11-11
這篇文章主要介紹了Python批量裁剪圖片的程序代碼，是批量裁剪某一文件夾下的所有圖片，并指定裁剪寬高，本文給大家分享實(shí)現(xiàn)思路,需要的朋友可以參考下2022-07-07
教你學(xué)會(huì)通過(guò)python的matplotlib庫(kù)繪圖
今天教大家如何學(xué)會(huì)通過(guò)python的matplotlib庫(kù)繪圖,文中有非常詳細(xì)的圖文解說(shuō)及代碼示例,對(duì)正在學(xué)習(xí)python的小伙伴們很有幫助,需要的朋友可以參考下2021-05-05