在用tensorflow實(shí)現(xiàn)一些模型的時(shí)候，有時(shí)候我們在運(yùn)行程序的時(shí)候，會發(fā)現(xiàn)程序占用的內(nèi)存在不斷增長。最后內(nèi)存溢出，程序被kill掉了。

這個(gè)問題，其實(shí)有兩個(gè)可能性。一個(gè)是比較常見，同時(shí)也是很難發(fā)現(xiàn)的。這個(gè)問題的解決，需要我們知道tensorflow在構(gòu)圖的時(shí)候，是沒有所謂的臨時(shí)變量的，只要有operator。那么tensorflow就會在構(gòu)建的圖中增加這個(gè)operator所代表的節(jié)點(diǎn)。所以，在運(yùn)行程序的過程中，內(nèi)存不斷增長的原因就是在模型訓(xùn)練迭代的過程中，tensorflow一直在幫你增加圖的節(jié)點(diǎn)。導(dǎo)致內(nèi)存占用越來越多。

那么什么情況下就會像上面說的那樣呢？我們舉個(gè)例子：

import tensorflow as tf

x = tf.Variable(tf.constant(1))
y = tf.constant(2)
sess = tf.Session()
sess.run(tf.global_variables_initializer())

while True:
 print(sess.run(x+y))

如果你運(yùn)行上面這段代碼，會發(fā)現(xiàn)在運(yùn)行的過程中，內(nèi)存占用越來越大。原因就在于sess.run(x+y)這個(gè)語句。我們知道在tensorflow中，所有的操作都是graph的節(jié)點(diǎn)。而在迭代的過程中，x+y這個(gè)operator(操作)是匿名的，所以它會不斷地重復(fù)，在graph中創(chuàng)建節(jié)點(diǎn)，導(dǎo)致內(nèi)存占用越來越大。

所以要對上面的代碼進(jìn)行修改：

z = x+y
while True:
 print(sess.run(z))

這樣就不會出現(xiàn)問題了。

上面只是一個(gè)簡單的例子，我們可以很快發(fā)現(xiàn)問題。但是有時(shí)候我們的模型比較復(fù)雜，很難判斷是否在迭代的過程中一直在增加節(jié)點(diǎn)。那怎么辦呢？

其實(shí)在tensorflow里面有個(gè)函數(shù)叫做：

sess.graph.finalize()

只要每一次構(gòu)圖完成后，調(diào)用這個(gè)函數(shù)。然后運(yùn)行程序，如果你的程序在運(yùn)行的過程中還一直新建節(jié)點(diǎn)，這個(gè)函數(shù)就會檢測到，然后就會報(bào)錯。這樣你就知道你的程序中一定有不合理的地方。

另一個(gè)導(dǎo)致內(nèi)存暴漲的原因是，數(shù)據(jù)的加載問題。tensorflow現(xiàn)在有一個(gè)API接口，tf.data.Dataset 。這個(gè)接口里面有個(gè)函數(shù)叫做cache(filename)。cache函數(shù)的作用是將加載進(jìn)來的數(shù)據(jù)存放到filename指定的地方。但是如果我們沒有指定filename，數(shù)據(jù)就是一直存儲在內(nèi)存中。所以，隨著迭代次數(shù)的增加，存儲在內(nèi)存中的數(shù)據(jù)越來越多，就會導(dǎo)致內(nèi)存暴漲。所以要么不要使用這個(gè)函數(shù)，要么就要記得添加filename參數(shù)。

以上這篇淺談tensorflow之內(nèi)存暴漲問題就是小編分享給大家的全部內(nèi)容了，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。

最新評論