對PyTorch中inplace字段的全面理解
例如
torch.nn.ReLU(inplace=True)
inplace=True
表示進(jìn)行原地操作，對上一層傳遞下來的tensor直接進(jìn)行修改，如x=x+3；
inplace=False
表示新建一個變量存儲操作結(jié)果，如y=x+3，x=y；
inplace=True
可以節(jié)省運(yùn)算內(nèi)存，不用多存儲變量。
補(bǔ)充：PyTorch中網(wǎng)絡(luò)里面的inplace=True字段的意思
在例如nn.LeakyReLU(inplace=True)中的inplace字段是什么意思呢？有什么用？
inplace=True的意思是進(jìn)行原地操作，例如x=x+5，對x就是一個原地操作，y=x+5,x=y，完成了與x=x+5同樣的功能但是不是原地操作。
上面LeakyReLU中的inplace=True的含義是一樣的，是對于Conv2d這樣的上層網(wǎng)絡(luò)傳遞下來的tensor直接進(jìn)行修改，好處就是可以節(jié)省運(yùn)算內(nèi)存，不用多儲存變量y。
inplace=True means that it will modify the input directly, without allocating any additional output. It can sometimes slightly decrease the memory usage, but may not always be a valid operation (because the original input is destroyed). However, if you don't see an error, it means that your use case is valid.
以上為個人經(jīng)驗(yàn)，希望能給大家一個參考，也希望大家多多支持腳本之家。
相關(guān)文章
python使用flask與js進(jìn)行前后臺交互的例子
今天小編就為大家分享一篇python使用flask與js進(jìn)行前后臺交互的例子，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2019-07-07
在?Flask?中，響應(yīng)使用?Response?對象表示，響應(yīng)報文中的大部分內(nèi)容由服務(wù)器處理，一般情況下，我們只負(fù)責(zé)返回主體內(nèi)容即可。在之前的文章中，我們了解到?Flask?會先匹配請求?url?的路由，調(diào)用對應(yīng)的視圖函數(shù)，視圖函數(shù)的返回值構(gòu)成了響應(yīng)報文的主體內(nèi)容。2021-11-11
這篇文章主要介紹了python獲取酷狗音樂top500的下載地址 MP3格式,文中給大家提到了python--爬取酷狗TOP500的數(shù)據(jù)，需要的朋友可以參考下2018-04-04
python實(shí)現(xiàn)簡易學(xué)生信息管理系統(tǒng)
這篇文章主要為大家詳細(xì)介紹了python實(shí)現(xiàn)簡易學(xué)生信息管理系統(tǒng)，文中示例代碼介紹的非常詳細(xì)，具有一定的參考價值，感興趣的小伙伴們可以參考一下2019-09-09
influx+grafana自定義python采集數(shù)據(jù)和一些坑的總結(jié)
一些數(shù)據(jù)的類型不正確會導(dǎo)致no datapoint的錯誤，真是令人抓狂，本文就是總結(jié)一下采集數(shù)據(jù)種的一些坑，希望大家可以從中獲益2018-09-09
這篇文章主要介紹了如何在python中寫hive腳本,文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下2019-11-11
Python實(shí)現(xiàn)為PDF去除水印的示例代碼
這篇文章主要介紹了如何利用Python實(shí)現(xiàn)PDF去除水印功能，文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2022-04-04
Ubuntu 20.04安裝Pycharm2020.2及鎖定到任務(wù)欄的問題(小白級操作)
這篇文章主要介紹了Ubuntu 20.04安裝Pycharm2020.2及鎖定到任務(wù)欄的問題，本教程給大家講解的很詳細(xì)，非常適合小白級操作，需要的朋友可以參考下2020-10-10
Python使用Pygame實(shí)現(xiàn)時鐘效果
這篇文章主要為大家詳細(xì)介紹了Python使用Pygame實(shí)現(xiàn)時鐘效果，文中示例代碼介紹的非常詳細(xì)，具有一定的參考價值，感興趣的小伙伴們可以參考一下2021-08-08
今天給大伙分享一下 Python 爬蟲的教程，這次主要涉及到的是關(guān)于某 APP 的逆向分析并抓取數(shù)據(jù)，具有一定的參考價值，感興趣的小伙伴們可以參考一下2021-05-05