欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

Pytorch獲取無梯度TorchTensor中的值

 更新時間:2021年05月22日 08:59:23   作者:_Epsilon_  
這篇文章主要介紹了Pytorch獲取無梯度TorchTensor中的值,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教

獲取無梯度Tensor

遇到的問題:

使用兩個網(wǎng)絡(luò)并行運算,一個網(wǎng)絡(luò)的輸出值要給另一個網(wǎng)絡(luò)反饋。而反饋的輸出值帶有網(wǎng)絡(luò)權(quán)重的梯度,即grad_fn=<XXXBackward0>.

這時候如果把反饋值扔到第二網(wǎng)絡(luò)中更新,會出現(xiàn)第一個計算圖丟失無法更新的錯誤。哎喲喂,我根本不需要第一個網(wǎng)絡(luò)的梯度好嗎?

一開始用了一個笨辦法,先轉(zhuǎn)numpy,然后再轉(zhuǎn)回torch.Tensor。因為numpy數(shù)據(jù)是不帶梯度的。

但是我的原始tensor的放在cuda上的,

cuda的張量是不能直接轉(zhuǎn)Tensor,所以

t_error = td_error.cuda().data.cpu().numpy()
t_error = torch.FloatTensor(t_error).to(device)

從cuda轉(zhuǎn)回了cpu,變成numpy,又轉(zhuǎn)成了tensor,又回到了cuda上,坑爹呢這是,可能只有我才能寫出如此低效的辣雞代碼了。

后來發(fā)現(xiàn),其實直接在返回的時候添加

with torch.no_grad():
 td_error = reward + GAMMA * v_ - v

即可.

補(bǔ)充:在pytorch中取一個tensor的均值,然后該張量中的所有值與其對比!

Pytorch中的Tensor的shape是(B, C, W, H),

對該tensor取均值并與所有值做對比代碼如下:

C, H, W = tensor.shape[1], tensor.shape[2], tensor.shape[3]
for c in range(C):
 mean = torch.mean(x[0][c])
 for h in range(H):
  for w in range(W):
  if x[0][c][h][w] >= mean:
  x[0][c][h][w] = mean

以上為個人經(jīng)驗,希望能給大家一個參考,也希望大家多多支持腳本之家。

相關(guān)文章

  • Python實現(xiàn)二分法查找及優(yōu)化的示例詳解

    Python實現(xiàn)二分法查找及優(yōu)化的示例詳解

    二分查找法(Binary?Search)是一種在有序數(shù)組中查找某一特定元素的算法,在本文中,我們將使用?Python?實現(xiàn)二分查找算法,并深入探討算法的原理和實現(xiàn)細(xì)節(jié),感興趣的可以了解一下
    2023-04-04
  • 詳解使用Pytorch Geometric實現(xiàn)GraphSAGE模型

    詳解使用Pytorch Geometric實現(xiàn)GraphSAGE模型

    這篇文章主要為大家介紹了詳解使用Pytorch Geometric實現(xiàn)GraphSAGE模型示例詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪
    2023-04-04
  • 如何在Python中導(dǎo)入EXCEL數(shù)據(jù)

    如何在Python中導(dǎo)入EXCEL數(shù)據(jù)

    這篇文章主要介紹了使用Python處理EXCEL基礎(chǔ)操作篇1,如何在Python中導(dǎo)入EXCEL數(shù)據(jù),文中提供了解決思路和部分實現(xiàn)代碼,一起來看看吧
    2023-03-03
  • 深入解析Python中的WSGI接口

    深入解析Python中的WSGI接口

    這篇文章主要介紹了深入解析Python中的WSGI接口,WSGI接口是Python中網(wǎng)絡(luò)框架連接服務(wù)器的必備工具,需要的朋友可以參考下
    2015-05-05
  • Python函數(shù)和模塊的使用總結(jié)

    Python函數(shù)和模塊的使用總結(jié)

    在本文中小編給大家整理了關(guān)于Python函數(shù)和模塊的使用的相關(guān)知識點以及實例代碼內(nèi)容,需要的朋友們跟著學(xué)習(xí)下。
    2019-05-05
  • 將pytorch轉(zhuǎn)成longtensor的簡單方法

    將pytorch轉(zhuǎn)成longtensor的簡單方法

    今天小編就為大家分享一篇將pytorch轉(zhuǎn)成longtensor的簡單方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2020-02-02
  • python3+PyQt5 創(chuàng)建多線程網(wǎng)絡(luò)應(yīng)用-TCP客戶端和TCP服務(wù)器實例

    python3+PyQt5 創(chuàng)建多線程網(wǎng)絡(luò)應(yīng)用-TCP客戶端和TCP服務(wù)器實例

    今天小編就為大家分享一篇python3+PyQt5 創(chuàng)建多線程網(wǎng)絡(luò)應(yīng)用-TCP客戶端和TCP服務(wù)器實例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2019-06-06
  • Python如何對音視頻文件進(jìn)行解析詳解

    Python如何對音視頻文件進(jìn)行解析詳解

    在腳本或應(yīng)用程序中,我們需要執(zhí)行音頻處理任務(wù),下面這篇文章主要給大家介紹了關(guān)于Python如何對音視頻文件進(jìn)行解析的相關(guān)資料,文中通過實例代碼介紹的非常詳細(xì),需要的朋友可以參考下
    2022-11-11
  • Python批量裁剪圖片的思路詳解

    Python批量裁剪圖片的思路詳解

    這篇文章主要介紹了Python批量裁剪圖片的程序代碼,是批量裁剪某一文件夾下的所有圖片,并指定裁剪寬高,本文給大家分享實現(xiàn)思路,需要的朋友可以參考下
    2022-07-07
  • 教你學(xué)會通過python的matplotlib庫繪圖

    教你學(xué)會通過python的matplotlib庫繪圖

    今天教大家如何學(xué)會通過python的matplotlib庫繪圖,文中有非常詳細(xì)的圖文解說及代碼示例,對正在學(xué)習(xí)python的小伙伴們很有幫助,需要的朋友可以參考下
    2021-05-05

最新評論