欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

keras的get_value運行越來越慢的解決方案

 更新時間:2021年05月17日 12:09:57   作者:頭狼586  
這篇文章主要介紹了keras的get_value運行越來越慢的解決方案,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教

keras 深度學(xué)習(xí)框架中g(shù)et_value函數(shù)運行越來越慢,內(nèi)存消耗越來越大問題

問題描述

get_value問題截圖

如上圖所示,經(jīng)過時間和內(nèi)存消耗跟蹤測試,發(fā)現(xiàn)是keras.backend.get_value() 函數(shù)導(dǎo)致的程序越來越慢,而且嚴重的造成內(nèi)存泄露;

查看該函數(shù)內(nèi)部實現(xiàn),發(fā)現(xiàn)一個主要核心是x.eval(session=get_session()),該語句可能是導(dǎo)致內(nèi)存泄露和運行慢的核心語句; 根據(jù)查看一些博文得到了運行得越來越慢的

原因該x.eval函數(shù)會添加新的節(jié)點到tf的圖中;而這也導(dǎo)致了tf的圖越來越大,內(nèi)存泄露;

解決方法

import tensorflow.keras.backend as K

def get_my_session(gpu_fraction=0.1):
    '''Assume that you have 6GB of GPU memory and want to allocate ~2GB'''

    num_threads = os.environ.get('OMP_NUM_THREADS')
    gpu_options = tf.GPUOptions(per_process_gpu_memory_fraction=gpu_fraction)

    if num_threads:
        return tf.Session(config=tf.ConfigProto(
            gpu_options=gpu_options, intra_op_parallelism_threads=num_threads))
    else:
        return tf.Session(config=tf.ConfigProto(gpu_options=gpu_options))

K.set_session(get_my_session())

如上圖所示, 我在使用tensorflow之前(也就是該工程文件前面),對session進行自定義,然后用自定義的session設(shè)定keras.backend.set_session();

然后刪除get_value() 函數(shù),直接用get_value()中所使用的執(zhí)行語句x.eval(session=get_my_session());這樣這個添加節(jié)點導(dǎo)致內(nèi)存泄露的核心語句x.eval()就使用的是該工程統(tǒng)一自定義session,然后用tf.reset_default_graph() 對圖重置就可以了

即上圖問題代碼修改為:

output = ctc_decode(y_pred,input_length=input_length,)
output = output[0][0]
out = output.eval(session=get_my_session())
# 刪除 K.get_value(out[0][0])
tf.reset_default_graph() # 然后重置tf圖,這句很關(guān)鍵

這樣就解決了get_value()導(dǎo)致的越來越慢的問題;

個人認為:這樣可能就不會總是添加新的節(jié)點,導(dǎo)致tf圖不斷地?zé)o限變大;而是重復(fù)使用這一個自定義的節(jié)點。

補充:tensorflow與keras之間版本問題引起get_session問題解決辦法

1.產(chǎn)生報錯原因

import tensorflow.keras.backend as K
def __init__(self, **kwargs):
    self.__dict__.update(self._defaults) # set up default values
    self.__dict__.update(kwargs) # and update with user overrides
    self.class_names = self._get_class()
    self.anchors = self._get_anchors()
    self.sess = K.get_session()

報錯如下:

get_session is not available when using TensorFlow 2.0.

意思是 tf2.0 沒有 get_session

2.解決方案1

import tensorflow.python.keras.backend as K
sess = K.get_session()

3. 解決方案2

import tensorflow as tf
sess = tf.compat.v1.keras.backend.get_session()

之前一直采用方案1 解決,感覺比較方便;但是解決方案1 有其它屬性會丟失問題

比如AttributeError: module ‘keras.backend' has no attribute image_dim_ordering

所以建議大家采用方案2

以上為個人經(jīng)驗,希望能給大家一個參考,也希望大家多多支持腳本之家。

相關(guān)文章

  • 詳解Python中如何添加Selenium WebDriver等待

    詳解Python中如何添加Selenium WebDriver等待

    Selenium Web 驅(qū)動程序提供兩種類型的等待, 第一個是隱式等待,第二個是顯式等待,本文主要為大家介紹了Python如何在Selenium Web驅(qū)動程序中添加這兩種等待,需要的可以參考下
    2023-11-11
  • 解決Python print輸出不換行沒空格的問題

    解決Python print輸出不換行沒空格的問題

    今天小編就為大家分享一篇解決Python print輸出不換行沒空格的問題,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2018-11-11
  • Python數(shù)據(jù)分析之繪制m1-m2數(shù)據(jù)

    Python數(shù)據(jù)分析之繪制m1-m2數(shù)據(jù)

    這篇文章主要介紹了Python數(shù)據(jù)分析之繪制m1-m2數(shù)據(jù),文章基于python的相關(guān)資料展開詳細的內(nèi)容介紹,具有一定的參考價值,需要的小伙伴可以參考一下
    2022-05-05
  • 解決Pandas的DataFrame輸出截斷和省略的問題

    解決Pandas的DataFrame輸出截斷和省略的問題

    今天小編就為大家分享一篇解決Pandas的DataFrame輸出截斷和省略的問題,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2019-02-02
  • Python OpenCV簡單的繪圖函數(shù)使用教程

    Python OpenCV簡單的繪圖函數(shù)使用教程

    本文主要為大家介紹了OpenCV中一些簡單的繪圖函數(shù)的使用教程,文中的示例代碼講解詳細,對我們了解OpenCV有一定的幫助,感興趣的可以學(xué)習(xí)一下
    2022-01-01
  • 使用python爬取抖音app視頻的實例代碼

    使用python爬取抖音app視頻的實例代碼

    這篇文章主要介紹了使用python爬取抖音app視頻的實例代碼,本文通過實例代碼給大家介紹的非常詳細,對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下
    2020-12-12
  • Python中的特殊方法以及應(yīng)用詳解

    Python中的特殊方法以及應(yīng)用詳解

    這篇文章主要給大家介紹了關(guān)于Python中特殊方法以及應(yīng)用的相關(guān)資料,文中通過示例代碼介紹的非常詳細,對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2020-09-09
  • pytorch載入預(yù)訓(xùn)練模型后,實現(xiàn)訓(xùn)練指定層

    pytorch載入預(yù)訓(xùn)練模型后,實現(xiàn)訓(xùn)練指定層

    今天小編就為大家分享一篇pytorch載入預(yù)訓(xùn)練模型后,實現(xiàn)訓(xùn)練指定層,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2020-01-01
  • Python中selenium_webdriver下拉框操作指南

    Python中selenium_webdriver下拉框操作指南

    selenium 雖然過了這么多年,但是到目前為止依然是比較流行的自動化框架了,下面這篇文章主要給大家介紹了關(guān)于Python中selenium_webdriver下拉框操作的相關(guān)資料,文中通過實例代碼介紹的非常詳細,需要的朋友可以參考下
    2022-01-01
  • python 如何用terminal輸入?yún)?shù)

    python 如何用terminal輸入?yún)?shù)

    這篇文章主要介紹了python 如何用terminal輸入?yún)?shù)的操作,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教
    2021-05-05

最新評論