Keras使用tensorboard显示训练过程的实例
众所周知tensorflow造势虽大却很难用,因此推荐使用Keras,它缺省是基于tensorflow的,但通过修改keras.json也可以用于theano。但是为了能用tensorflow提供的tensorboard,因此建议仍基于tensorflow。
那么问题来了,由于Keras隐藏了tensorflow那令人诟病、可笑至极的graph构建方法,那么如何使用tensorboard呢?一般网站上会告诉你是这样的:
方法一(标准调用方法):
采用keras特有的fit()进行训练,只要在fit的时候指定callbacks函数即可,代码如下
fromkeras.callbacksimportTensorBoard fromkeras.modelsimportSequential …… model=Sequential() …… tbCallBack=keras.callbacks.TensorBoard(log_dir='./Graph', histogram_freq=1, write_graph=True, write_images=True) model_history=model.fit(X_train_train, y_train_train, batch_size=batch_size, epochs=epochs, verbose=1, validation_data=(X_train_val,y_train_val), callbacks=[EarlyStopping(patience=patience,mode='min',verbose=1), history, tbCallBack])
虽然这种方法看上去很美,但它只适用于标准训练方法,如果你想用自己的训练方法,就需要调用train_on_batch,而不能直接使用fit(),这时就要采用下面这种方法:
方法二(特殊调用方法):
这种方法可用于调用train_on_batch的情况。
%预先写好writer,定义好model writer=tf.summary.FileWriter(…) model=… %训练时 loss=model.train_on_batch(…) summary=tf.Summary(value=[ tf.Summary.Value(tag=”d_loss”,simple_value=d_loss), tf.Summary.Value(tag=”g_loss”,simple_value=g_loss), ]) writer.add_summary(summary)
虽然很简单,但这种方法只能显示scalar类型,不能显示image,histgram等,非常不实用。真正实用的是下面的终结方法:
方法三(最实用的方法)
最实用的还是用tensorflow原生的调用方法,虽然相对方法二麻烦一点,但考虑到此方法与tensorflow一样,不需要去记那些额外的花拳绣腿,因此反而是最简单的,也是最有效的。
代码如下:
importtensorflowastf importdatetime %在训练开始之前,预先定义好可视化的东西,用的是原生的tensorflow方法,这里我们以一个GAN模型为例,让它显示整张模型图,两个标量损失函数,以及5个生成图像。方法是预先用placeholder声明所要显示的那些东西,然后在训练过程中将训练结果来填充它们。你可以自行加入histgram,都和tensorflow一样 #starttensorboard sess=tf.Session() logdir=“tensorboard/”+datetime.datetime.now().strftime(“%Y%m%d-%H%M%S”)+“/” writer=tf.summary.FileWriter(logdir,sess.graph) D_LOSS=tf.placeholder(tf.float32,[]) G_LOSS=tf.placeholder(tf.float32,[]) IMAGES=tf.placeholder(tf.float32,shape=[None,28,28,1]) tf.summary.scalar(“D_LOSS”,D_LOSS) tf.summary.scalar(“G_LOSS”,G_LOSS) tf.summary.image(“IMAGES”,IMAGES,5) merged=tf.summary.merge_all() #endtensorboard
训练迭代过程中,是这样的
forepochinrange(100): %用keras的train_on_batch方法进行训练 d_loss=d.train_on_batch(。。。。。。) g_loss=d_on_g.train_on_batch(。。。。。。) generated_images=g.predict(。。。。。。) ifindex%10==0:#tensorboard %将训练结果填充可视化数据 summary=sess.run(merged,feed_dict={D_LOSS:d_loss,G_LOSS:g_loss,IMAGES:generated_images}) writer.add_summary(summary,index)
以上这篇Keras使用tensorboard显示训练过程的实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持毛票票。
声明:本文内容来源于网络,版权归原作者所有,内容由互联网用户自发贡献自行上传,本网站不拥有所有权,未作人工编辑处理,也不承担相关法律责任。如果您发现有涉嫌版权的内容,欢迎发送邮件至:czq8825#qq.com(发邮件时,请将#更换为@)进行举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。