快捷導(dǎo)航

Keras使用tensorboard顯示訓(xùn)練過(guò)程的實(shí)例

更新時(shí)間：2020年02月15日 16:21:55 作者：許三少

今天小編就為大家分享一篇Keras使用tensorboard顯示訓(xùn)練過(guò)程的實(shí)例，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧

眾所周知tensorflow造勢(shì)雖大卻很難用，因此推薦使用Keras，它缺省是基于tensorflow的，但通過(guò)修改keras.json也可以用于theano。但是為了能用tensorflow提供的tensorboard，因此建議仍基于tensorflow。

那么問(wèn)題來(lái)了，由于Keras隱藏了tensorflow那令人詬病、可笑至極的graph構(gòu)建方法，那么如何使用tensorboard呢？一般網(wǎng)站上會(huì)告訴你是這樣的：

方法一（標(biāo)準(zhǔn)調(diào)用方法）：

采用keras特有的fit()進(jìn)行訓(xùn)練，只要在fit的時(shí)候指定callbacks函數(shù)即可，代碼如下

from keras.callbacks import TensorBoard 
from keras.models import Sequential 
…… 
model = Sequential() 
…… 
tbCallBack = keras.callbacks.TensorBoard(log_dir='./Graph', 
histogram_freq=1, 
write_graph=True, 
write_images=True)

model_history = model.fit(X_train_train, 
y_train_train, 
batch_size=batch_size, 
epochs=epochs, 
verbose=1, 
validation_data=(X_train_val, y_train_val), 
callbacks = [EarlyStopping(patience=patience,mode='min',verbose=1), 
history, 
tbCallBack])

雖然這種方法看上去很美，但它只適用于標(biāo)準(zhǔn)訓(xùn)練方法，如果你想用自己的訓(xùn)練方法，就需要調(diào)用train_on_batch，而不能直接使用fit()，這時(shí)就要采用下面這種方法：

方法二（特殊調(diào)用方法）：

這種方法可用于調(diào)用train_on_batch的情況。

%預(yù)先寫(xiě)好writer，定義好model 
writer = tf.summary.FileWriter(…) 
model = … 
%訓(xùn)練時(shí) 
loss = model.train_on_batch(…) 
summary = tf.Summary(value=[ 
tf.Summary.Value(tag=”d_loss”, simple_value=d_loss), 
tf.Summary.Value(tag=”g_loss”, simple_value=g_loss), 
]) 
writer.add_summary(summary)

雖然很簡(jiǎn)單，但這種方法只能顯示scalar類(lèi)型，不能顯示image,histgram等，非常不實(shí)用。真正實(shí)用的是下面的終結(jié)方法：

方法三（最實(shí)用的方法）

最實(shí)用的還是用tensorflow原生的調(diào)用方法，雖然相對(duì)方法二麻煩一點(diǎn)，但考慮到此方法與tensorflow一樣，不需要去記那些額外的花拳繡腿，因此反而是最簡(jiǎn)單的，也是最有效的。

代碼如下：

import tensorflow as tf 
import datetime 
%在訓(xùn)練開(kāi)始之前，預(yù)先定義好可視化的東西，用的是原生的tensorflow方法，這里我們以一個(gè)GAN模型為例，讓它顯示整張模型圖，兩個(gè)標(biāo)量損失函數(shù)，以及5個(gè)生成圖像。方法是預(yù)先用placeholder聲明所要顯示的那些東西，然后在訓(xùn)練過(guò)程中將訓(xùn)練結(jié)果來(lái)填充它們。你可以自行加入histgram，都和tensorflow一樣 
#start tensorboard 
sess=tf.Session() 
logdir = “tensorboard/” + datetime.datetime.now().strftime(“%Y%m%d-%H%M%S”) + “/” 
writer = tf.summary.FileWriter(logdir, sess.graph) 
D_LOSS = tf.placeholder(tf.float32, []) 
G_LOSS = tf.placeholder(tf.float32, []) 
IMAGES = tf.placeholder(tf.float32,shape=[None,28,28,1]) 
tf.summary.scalar(“D_LOSS”, D_LOSS) 
tf.summary.scalar(“G_LOSS”, G_LOSS) 
tf.summary.image(“IMAGES”, IMAGES, 5) 
merged=tf.summary.merge_all() 
#end tensorboard

訓(xùn)練迭代過(guò)程中，是這樣的

for epoch in range(100): 
% 用keras的train_on_batch方法進(jìn)行訓(xùn)練 
d_loss = d.train_on_batch(。。。。。。) 
g_loss = d_on_g.train_on_batch(。。。。。。) 
generated_images = g.predict(。。。。。。) 
if index%10==0: #tensorboard 
% 將訓(xùn)練結(jié)果填充可視化數(shù)據(jù) 
summary=sess.run(merged,feed_dict={D_LOSS:d_loss, G_LOSS:g_loss, IMAGES:generated_images}) 
writer.add_summary(summary,index)

以上這篇Keras使用tensorboard顯示訓(xùn)練過(guò)程的實(shí)例就是小編分享給大家的全部?jī)?nèi)容了，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。

您可能感興趣的文章: