Keras之fit_generator与train_on_batch用法
关于Keras中,当数据比较大时,不能全部载入内存,在训练的时候就需要利用train_on_batch或fit_generator进行训练了。
两者均是利用生成器,每次载入一个batch-size的数据进行训练。
那么fit_generator与train_on_batch该用哪一个呢?
train_on_batch(self,x,y,class_weight=None,sample_weight=None)
fit_generator(self,generator,samples_per_epoch,nb_epoch,verbose=1,callbacks=[],validation_data=None,nb_val_samples=None,class_weight=None,max_q_size=10)
推荐使用fit_generator,因为其同时可以设置validation_data,但是采用train_on_batch也没什么问题,这个主要看个人习惯了,没有什么标准的答案。
下面是FrançoisCholletfchollet本人给出的解答:
Withfit_generator,youcanuseageneratorforthevalidationdataaswell.IngeneralIwouldrecommendusingfit_generator,butusingtrain_on_batchworksfinetoo.Thesemethodsonlyexistasforthesakeofconvenienceindifferentusecases,thereisno"correct"method.
补充知识:tf.keras中model.fit_generator()和model.fit()
首先Keras中的fit()函数传入的x_train和y_train是被完整的加载进内存的,当然用起来很方便,但是如果我们数据量很大,那么是不可能将所有数据载入内存的,必将导致内存泄漏,这时候我们可以用fit_generator函数来进行训练。
fit(x=None,y=None,batch_size=None,epochs=1,verbose=1,callbacks=None,validation_split=0.0,validation_data=None,shuffle=True,class_weight=None,sample_weight=None,initial_epoch=0,steps_per_epoch=None,validation_steps=None)
以给定数量的轮次(数据集上的迭代)训练模型。
参数
x:训练数据的Numpy数组(如果模型只有一个输入),或者是Numpy数组的列表(如果模型有多个输入)。如果模型中的输入层被命名,你也可以传递一个字典,将输入层名称映射到Numpy数组。如果从本地框架张量馈送(例如TensorFlow数据张量)数据,x可以是None(默认)。
y:目标(标签)数据的Numpy数组(如果模型只有一个输出),或者是Numpy数组的列表(如果模型有多个输出)。如果模型中的输出层被命名,你也可以传递一个字典,将输出层名称映射到Numpy数组。如果从本地框架张量馈送(例如TensorFlow数据张量)数据,y可以是None(默认)。
batch_size:整数或None。每次梯度更新的样本数。如果未指定,默认为32。
epochs:整数。训练模型迭代轮次。一个轮次是在整个x和y上的一轮迭代。请注意,与initial_epoch一起,epochs被理解为「最终轮次」。模型并不是训练了epochs轮,而是到第epochs轮停止训练。
verbose:0,1或2。日志显示模式。0=安静模式,1=进度条,2=每轮一行。
callbacks:一系列的keras.callbacks.Callback实例。一系列可以在训练时使用的回调函数。详见callbacks。
validation_split:0和1之间的浮点数。用作验证集的训练数据的比例。模型将分出一部分不会被训练的验证数据,并将在每一轮结束时评估这些验证数据的误差和任何其他模型指标。验证数据是混洗之前x和y数据的最后一部分样本中。
validation_data:元组(x_val,y_val)或元组(x_val,y_val,val_sample_weights),用来评估损失,以及在每轮结束时的任何模型度量指标。模型将不会在这个数据上进行训练。这个参数会覆盖validation_split。
shuffle:布尔值(是否在每轮迭代之前混洗数据)或者字符串(batch)。batch是处理HDF5数据限制的特殊选项,它对一个batch内部的数据进行混洗。当steps_per_epoch非None时,这个参数无效。
class_weight:可选的字典,用来映射类索引(整数)到权重(浮点)值,用于加权损失函数(仅在训练期间)。这可能有助于告诉模型「更多关注」来自代表性不足的类的样本。
sample_weight:训练样本的可选Numpy权重数组,用于对损失函数进行加权(仅在训练期间)。您可以传递与输入样本长度相同的平坦(1D)Numpy数组(权重和样本之间的1:1映射),或者在时序数据的情况下,可以传递尺寸为(samples,sequence_length)的2D数组,以对每个样本的每个时间步施加不同的权重。在这种情况下,你应该确保在compile()中指定sample_weight_mode=“temporal”。
initial_epoch:整数。开始训练的轮次(有助于恢复之前的训练)。
steps_per_epoch:整数或None。在声明一个轮次完成并开始下一个轮次之前的总步数(样品批次)。使用TensorFlow数据张量等输入张量进行训练时,默认值None等于数据集中样本的数量除以batch的大小,如果无法确定,则为1。
validation_steps:只有在指定了steps_per_epoch时才有用。停止前要验证的总步数(批次样本)。
返回
一个History对象。其History.history属性是连续epoch训练损失和评估值,以及验证集损失和评估值的记录(如果适用)。
异常
fit_generator(generator,steps_per_epoch=None,epochs=1,verbose=1,callbacks=None,validation_data=None,validation_steps=None,class_weight=None,max_queue_size=10,workers=1,use_multiprocessing=False,shuffle=True,initial_epoch=0)
使用Python生成器(或Sequence实例)逐批生成的数据,按批次训练模型。
生成器与模型并行运行,以提高效率。例如,这可以让你在CPU上对图像进行实时数据增强,以在GPU上训练模型。
keras.utils.Sequence的使用可以保证数据的顺序,以及当use_multiprocessing=True时,保证每个输入在每个epoch只使用一次。
参数
generator:一个生成器,或者一个Sequence(keras.utils.Sequence)对象的实例,以在使用多进程时避免数据的重复。生成器的输出应该为以下之一:
一个(inputs,targets)元组
一个(inputs,targets,sample_weights)元组。
这个元组(生成器的单个输出)组成了单个的batch。因此,这个元组中的所有数组长度必须相同(与这一个batch的大小相等)。不同的batch可能大小不同。例如,一个epoch的最后一个batch往往比其他batch要小,如果数据集的尺寸不能被batchsize整除。生成器将无限地在数据集上循环。当运行到第steps_per_epoch时,记一个epoch结束。
steps_per_epoch:在声明一个epoch完成并开始下一个epoch之前从generator产生的总步数(批次样本)。它通常应该等于你的数据集的样本数量除以批量大小。对于Sequence,它是可选的:如果未指定,将使用len(generator)作为步数。
epochs:整数。训练模型的迭代总轮数。一个epoch是对所提供的整个数据的一轮迭代,如steps_per_epoch所定义。注意,与initial_epoch一起使用,epoch应被理解为「最后一轮」。模型没有经历由epochs给出的多次迭代的训练,而仅仅是直到达到索引epoch的轮次。
verbose:0,1或2。日志显示模式。0=安静模式,1=进度条,2=每轮一行。
callbacks:keras.callbacks.Callback实例的列表。在训练时调用的一系列回调函数。
validation_data:它可以是以下之一:
验证数据的生成器或Sequence实例
一个(inputs,targets)元组
一个(inputs,targets,sample_weights)元组。
在每个epoch结束时评估损失和任何模型指标。该模型不会对此数据进行训练。
validation_steps:仅当validation_data是一个生成器时才可用。在停止前generator生成的总步数(样本批数)。对于Sequence,它是可选的:如果未指定,将使用len(generator)作为步数。
class_weight:可选的将类索引(整数)映射到权重(浮点)值的字典,用于加权损失函数(仅在训练期间)。这可以用来告诉模型「更多地关注」来自代表性不足的类的样本。
max_queue_size:整数。生成器队列的最大尺寸。如未指定,max_queue_size将默认为10。
workers:整数。使用的最大进程数量,如果使用基于进程的多线程。如未指定,workers将默认为1。如果为0,将在主线程上执行生成器。
use_multiprocessing:布尔值。如果True,则使用基于进程的多线程。如未指定,use_multiprocessing将默认为False。请注意,由于此实现依赖于多进程,所以不应将不可传递的参数传递给生成器,因为它们不能被轻易地传递给子进程。
shuffle:是否在每轮迭代之前打乱batch的顺序。只能与Sequence(keras.utils.Sequence)实例同用。
initial_epoch:开始训练的轮次(有助于恢复之前的训练)。
返回
一个History对象。其History.history属性是连续epoch训练损失和评估值,以及验证集损失和评估值的记录(如果适用)。
异常
ValueError:如果生成器生成的数据格式不正确。
model.fit_generator( train_generator, steps_per_epoch=10,#100 validation_steps=1,#50 epochs=600,#20个周期 validation_data=validation_generator)
以上这篇Keras之fit_generator与train_on_batch用法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持毛票票。