最近在研究tensorflow自帶的例程speech_command,順便學(xué)習tensorflow的一些基本用法。

其中tensorboard 作為一款可視化神器，可以說是學(xué)習tensorflow時模型訓(xùn)練以及參數(shù)可視化的法寶。

而在訓(xùn)練過程中，主要用到了tf.summary()的各類方法，能夠保存訓(xùn)練過程以及參數(shù)分布圖并在tensorboard顯示。

tf.summary有諸多函數(shù)：

1、tf.summary.scalar

用來顯示標量信息，其格式為：

tf.summary.scalar(tags, values, collections=None, name=None)

例如：tf.summary.scalar('mean', mean)

一般在畫loss,accuary時會用到這個函數(shù)。

2、tf.summary.histogram

用來顯示直方圖信息，其格式為：

tf.summary.histogram(tags, values, collections=None, name=None) 

例如： tf.summary.histogram('histogram', var)
一般用來顯示訓(xùn)練過程中變量的分布情況

3、tf.summary.distribution
分布圖，一般用于顯示weights分布

4、tf.summary.text
可以將文本類型的數(shù)據(jù)轉(zhuǎn)換為tensor寫入summary中：

例如：

text = """/a/b/c\\_d/f\\_g\\_h\\_2017"""
summary_op0 = tf.summary.text('text', tf.convert_to_tensor(text))

5、tf.summary.image

輸出帶圖像的probuf，匯總數(shù)據(jù)的圖像的的形式如下： ' tag /image/0', ' tag /image/1'...，如：input/image/0等。

格式：tf.summary.image(tag, tensor, max_images=3, collections=None, name=Non

6、tf.summary.audio

展示訓(xùn)練過程中記錄的音頻

7、tf.summary.merge_all

merge_all 可以將所有summary全部保存到磁盤，以便tensorboard顯示。如果沒有特殊要求，一般用這一句就可一顯示訓(xùn)練時的各種信息了。

格式：tf.summaries.merge_all(key='summaries')

8、tf.summary.FileWriter

指定一個文件用來保存圖。

格式：tf.summary.FileWritter(path,sess.graph)

可以調(diào)用其add_summary（）方法將訓(xùn)練過程數(shù)據(jù)保存在filewriter指定的文件中

Tensorflow Summary 用法示例:

tf.summary.scalar('accuracy',acc)          #生成準確率標量圖 
merge_summary = tf.summary.merge_all() 
train_writer = tf.summary.FileWriter(dir,sess.graph)#定義一個寫入summary的目標文件，dir為寫入文件地址 
......(交叉熵、優(yōu)化器等定義) 
for step in xrange(training_step):         #訓(xùn)練循環(huán) 
  train_summary = sess.run(merge_summary,feed_dict = {...})#調(diào)用sess.run運行圖，生成一步的訓(xùn)練過程數(shù)據(jù) 
  train_writer.add_summary(train_summary,step)#調(diào)用train_writer的add_summary方法將訓(xùn)練過程以及訓(xùn)練步數(shù)保存

此時開啟tensorborad：

tensorboard --logdir=/summary_dir 

便能看見accuracy曲線了。

另外，如果我不想保存所有定義的summary信息，也可以用tf.summary.merge方法有選擇性地保存信息：

9、tf.summary.merge

格式：tf.summary.merge(inputs, collections=None, name=None)

一般選擇要保存的信息還需要用到tf.get_collection()函數(shù)

示例：

tf.summary.scalar('accuracy',acc)          #生成準確率標量圖 
merge_summary = tf.summary.merge([tf.get_collection(tf.GraphKeys.SUMMARIES,'accuracy'),...(其他要顯示的信息)]) 
train_writer = tf.summary.FileWriter(dir,sess.graph)#定義一個寫入summary的目標文件，dir為寫入文件地址 
......(交叉熵、優(yōu)化器等定義) 
for step in xrange(training_step):         #訓(xùn)練循環(huán) 
  train_summary = sess.run(merge_summary,feed_dict = {...})#調(diào)用sess.run運行圖，生成一步的訓(xùn)練過程數(shù)據(jù) 
  train_writer.add_summary(train_summary,step)#調(diào)用train_writer的add_summary方法將訓(xùn)練過程以及訓(xùn)練步數(shù)保存

使用tf.get_collection函數(shù)篩選圖中summary信息中的accuracy信息，這里的

tf.GraphKeys.SUMMARIES  是summary在collection中的標志。

當然，也可以直接：

acc_summary = tf.summary.scalar('accuracy',acc)          #生成準確率標量圖 
merge_summary = tf.summary.merge([acc_summary ,...(其他要顯示的信息)]) #這里的[]不可省

如果要在tensorboard中畫多個數(shù)據(jù)圖，需定義多個tf.summary.FileWriter并重復(fù)上述過程。

以上就是本文的全部內(nèi)容，希望對大家的學(xué)習有所幫助，也希望大家多多支持腳本之家。

最新評論