在用tensorflow實(shí)現(xiàn)一些模型的時(shí)候，有時(shí)候我們?cè)谶\(yùn)行程序的時(shí)候，會(huì)發(fā)現(xiàn)程序占用的內(nèi)存在不斷增長(zhǎng)。最后內(nèi)存溢出，程序被kill掉了。

這個(gè)問(wèn)題，其實(shí)有兩個(gè)可能性。一個(gè)是比較常見(jiàn)，同時(shí)也是很難發(fā)現(xiàn)的。這個(gè)問(wèn)題的解決，需要我們知道tensorflow在構(gòu)圖的時(shí)候，是沒(méi)有所謂的臨時(shí)變量的，只要有operator。那么tensorflow就會(huì)在構(gòu)建的圖中增加這個(gè)operator所代表的節(jié)點(diǎn)。所以，在運(yùn)行程序的過(guò)程中，內(nèi)存不斷增長(zhǎng)的原因就是在模型訓(xùn)練迭代的過(guò)程中，tensorflow一直在幫你增加圖的節(jié)點(diǎn)。導(dǎo)致內(nèi)存占用越來(lái)越多。

那么什么情況下就會(huì)像上面說(shuō)的那樣呢？我們舉個(gè)例子：

import tensorflow as tf

x = tf.Variable(tf.constant(1))
y = tf.constant(2)
sess = tf.Session()
sess.run(tf.global_variables_initializer())

while True:
 print(sess.run(x+y))

如果你運(yùn)行上面這段代碼，會(huì)發(fā)現(xiàn)在運(yùn)行的過(guò)程中，內(nèi)存占用越來(lái)越大。原因就在于sess.run(x+y)這個(gè)語(yǔ)句。我們知道在tensorflow中，所有的操作都是graph的節(jié)點(diǎn)。而在迭代的過(guò)程中，x+y這個(gè)operator(操作)是匿名的，所以它會(huì)不斷地重復(fù)，在graph中創(chuàng)建節(jié)點(diǎn)，導(dǎo)致內(nèi)存占用越來(lái)越大。

所以要對(duì)上面的代碼進(jìn)行修改：

z = x+y
while True:
 print(sess.run(z))

這樣就不會(huì)出現(xiàn)問(wèn)題了。

上面只是一個(gè)簡(jiǎn)單的例子，我們可以很快發(fā)現(xiàn)問(wèn)題。但是有時(shí)候我們的模型比較復(fù)雜，很難判斷是否在迭代的過(guò)程中一直在增加節(jié)點(diǎn)。那怎么辦呢？

其實(shí)在tensorflow里面有個(gè)函數(shù)叫做：

sess.graph.finalize()

只要每一次構(gòu)圖完成后，調(diào)用這個(gè)函數(shù)。然后運(yùn)行程序，如果你的程序在運(yùn)行的過(guò)程中還一直新建節(jié)點(diǎn)，這個(gè)函數(shù)就會(huì)檢測(cè)到，然后就會(huì)報(bào)錯(cuò)。這樣你就知道你的程序中一定有不合理的地方。

另一個(gè)導(dǎo)致內(nèi)存暴漲的原因是，數(shù)據(jù)的加載問(wèn)題。tensorflow現(xiàn)在有一個(gè)API接口，tf.data.Dataset 。這個(gè)接口里面有個(gè)函數(shù)叫做cache(filename)。cache函數(shù)的作用是將加載進(jìn)來(lái)的數(shù)據(jù)存放到filename指定的地方。但是如果我們沒(méi)有指定filename，數(shù)據(jù)就是一直存儲(chǔ)在內(nèi)存中。所以，隨著迭代次數(shù)的增加，存儲(chǔ)在內(nèi)存中的數(shù)據(jù)越來(lái)越多，就會(huì)導(dǎo)致內(nèi)存暴漲。所以要么不要使用這個(gè)函數(shù)，要么就要記得添加filename參數(shù)。

以上這篇淺談tensorflow之內(nèi)存暴漲問(wèn)題就是小編分享給大家的全部?jī)?nèi)容了，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。

最新評(píng)論