TFRecord格式存储数据与队列读取实例
TensorFlow官方网站上提供三种读取数据的方法
1.预加载数据：在TensorFlow图中定义常量或变量来保存所有数据,将数据直接嵌到数据图中，当训练数据较大时，很消耗内存。
如
x1=tf.constant([0,1]) x2=tf.constant([1,0]) y=tf.add(x1,x2)
2.填充数据：使用sess.run()的feed_dict参数，将Python产生的数据填充到后端，之前的MNIST数据集就是通过这种方法。也有消耗内存，数据类型转换耗时的缺点。
3.从文件读取数据：从文件中直接读取，让队列管理器从文件中读取数据。分为两步
先把样本数据写入TFRecords二进制文件
再从队列中读取
TFRecord是TensorFlow提供的一种统一存储数据的二进制文件，能更好的利用内存，更方便的复制和移动，并且不需要单独的标记文件。下面通过代码来将MNIST转换成TFRecord的数据格式，其他数据集也类似。
#生成整数型的属性
def_int64_feature(value):
returntf.train.Feature(int64_list=tf.train.Int64List(value=[value]))
#生成字符串型的属性
def_bytes_feature(value):
returntf.train.Feature(bytes_list=tf.train.BytesList(value=[value]))
defconvert_to(data_set,name):
'''
将数据填入到tf.train.Example的协议缓冲区（protocolbuffer)中，将协议缓冲区序列
化为一个字符串，通过tf.python_io.TFRecordWriter写入TFRecords文件
'''
images=data_set.images
labels=data_set.labels
num_examples=data_set.num_examples
ifimages.shape[0]!=num_examples:
raiseValueError('Imagessize%ddoesnotmatchlabelsize%d.'\
%(images.shape[0],num_examples))
rows=images.shape[1]#28
cols=images.shape[2]#28
depth=images.shape[3]#1是黑白图像
filename=os.path.join(FLAGS.directory,name+'.tfrecords')
#使用下面语句就会将三个文件存储为一个TFRecord文件,当数据量较大时，最好将数据写入多个文件
#filename="C:/Users/dbsdz/Desktop/TF练习/TFRecord"
print('Writing',filename)
writer=tf.python_io.TFRecordWriter(filename)
forindexinrange(num_examples):
image_raw=images[index].tostring()#将图像矩阵化为一个字符串
#写入协议缓冲区，height、width、depth、label编码成int64类型，image——raw编码成二进制
example=tf.train.Example(features=tf.train.Features(feature={
'height':_int64_feature(rows),
'width':_int64_feature(cols),
'depth':_int64_feature(depth),
'label':_int64_feature(int(labels[index])),
'image_raw':_bytes_feature(image_raw)}))
writer.write(example.SerializeToString())#序列化字符串
writer.close()
上面程序可以将MNIST数据集中所有的训练数据存储到三个TFRecord文件中。结果如下图
从队列中TFRecord文件，过程分三步
1.创建张量，从二进制文件中读取一个样本
2.创建张量，从二进制文件中随机读取一个mini-batch
3.把每一批张量传入网络作为输入节点
具体代码如下
defread_and_decode(filename_queue):#输入文件名队列
reader=tf.TFRecordReader()
_,serialized_example=reader.read(filename_queue)
#解析一个example,如果需要解析多个样例，使用parse_example函数
features=tf.parse_single_example(
serialized_example,
#必须写明feature里面的key的名称
features={
#TensorFlow提供两种不同的属性解析方法，一种方法是tf.FixedLenFeature,
#这种方法解析的结果为一个Tensor。另一个方法是tf.VarLenFeature,
#这种方法得到的解析结果为SparseTensor,用于处理稀疏数据。
#这里解析数据的格式需要和上面程序写入数据的格式一致
'image_raw':tf.FixedLenFeature([],tf.string),#图片是string类型
'label':tf.FixedLenFeature([],tf.int64),#标记是int64类型
})
#对于BytesList,要重新进行编码，把string类型的0维Tensor变成uint8类型的一维Tensor
image=tf.decode_raw(features['image_raw'],tf.uint8)
image.set_shape([IMAGE_PIXELS])
#tensor("input/DecodeRaw:0",shape=(784,),dtype=uint8)
#image张量的形状为：tensor("input/sub:0",shape=(784,),dtype=float32)
image=tf.cast(image,tf.float32)*(1./255)-0.5
#把标记从uint8类型转换为int32类性
#label张量的形状为tensor（“input/cast_1:0",shape=(),dtype=int32)
label=tf.cast(features['label'],tf.int32)
returnimage,label
definputs(train,batch_size,num_epochs):
#输入参数：
#train：选择输入训练数据/验证数据
#batch_size:训练的每一批有多少个样本
#num_epochs:过几遍数据，设置为0/None表示永远训练下去
'''
返回结果：Atuple(images,labels)
*images:类型为float，形状为【batch_size,mnist.IMAGE_PIXELS],范围【-0.5，0.5】。
*label:类型为int32，形状为【batch_size],范围【0，mnist.NUM_CLASSES]
注意tf.train.QueueRunner必须用tf.train.start_queue_runners()来启动线程
'''
ifnotnum_epochs:num_epochs=None
#获取文件路径，即./MNIST_data/train.tfrecords,./MNIST_data/validation.records
filename=os.path.join(FLAGS.train_dir,TRAIN_FILEiftrainelseVALIDATION_FILE)
withtf.name_scope('input'):
#tf.train.string_input_producer返回一个QueueRunner,里面有一个FIFOQueue
filename_queue=tf.train.string_input_producer(#如果样本量很大，可以分成若干文件，把文件名列表传入
[filename],num_epochs=num_epochs)
image,label=read_and_decode(filename_queue)
#随机化example,并把它们整合成batch_size大小
#tf.train.shuffle_batch生成了RandomShuffleQueue,并开启两个线程
images,sparse_labels=tf.train.shuffle_batch(
[image,label],batch_size=batch_size,num_threads=2,
capacity=1000+3*batch_size,
min_after_dequeue=1000)#留下一部分队列，来保证每次有足够的数据做随机打乱
returnimages,sparse_labels
最后，构建一个三层的神经网络，包含两层卷积层以及一层使用SoftMax层，附上完整代码如下
#-*-coding:utf-8-*-
"""
CreatedonSunApr811:06:162018
@author:dbsdz
https://blog.csdn.net/xy2953396112/article/details/54929073
"""
importtensorflowastf
importos
importtime
importmath
fromtensorflow.examples.tutorials.mnistimportinput_data
mnist=input_data.read_data_sets("MNIST_data/",one_hot=True)
#Basicmodelparametersasexternalflags.
flags=tf.app.flags
flags.DEFINE_float('learning_rate',0.01,'Initiallearningrate.')
flags.DEFINE_integer('hidden1',128,'Numberofunitsinhiddenlayer1.')
flags.DEFINE_integer('hidden2',32,'Numberofunitsinhiddenlayer2.')
flags.DEFINE_integer('batch_size',100,'Batchsize.'
'Mustdivideevenlyintothedatasetsizes.')
flags.DEFINE_string('train_dir','Mnist_data/','Directorytoputthetrainingdata.')
flags.DEFINE_string('directory','./MNIST_data',
'Directorytodownloaddatafilesandwritethe'
'convertedresult')
flags.DEFINE_integer('validation_size',5000,
'Numberofexamplestoseparatefromthetraining'
'dataforthevalidationset.')
flags.DEFINE_integer('num_epochs',10,'num_epochsset')
FLAGS=tf.app.flags.FLAGS
IMAGE_SIZE=28
IMAGE_PIXELS=IMAGE_SIZE*IMAGE_SIZE#图片像素728
TRAIN_FILE="train.tfrecords"
VALIDATION_FILE="validation.tfrecords"
#生成整数型的属性
def_int64_feature(value):
returntf.train.Feature(int64_list=tf.train.Int64List(value=[value]))
#生成字符串型的属性
def_bytes_feature(value):
returntf.train.Feature(bytes_list=tf.train.BytesList(value=[value]))
defconvert_to(data_set,name):
'''
将数据填入到tf.train.Example的协议缓冲区（protocolbuffer)中，将协议缓冲区序列
化为一个字符串，通过tf.python_io.TFRecordWriter写入TFRecords文件
'''
images=data_set.images
labels=data_set.labels
num_examples=data_set.num_examples
ifimages.shape[0]!=num_examples:
raiseValueError('Imagessize%ddoesnotmatchlabelsize%d.'\
%(images.shape[0],num_examples))
rows=images.shape[1]#28
cols=images.shape[2]#28
depth=images.shape[3]#1是黑白图像
filename=os.path.join(FLAGS.directory,name+'.tfrecords')
#使用下面语句就会将三个文件存储为一个TFRecord文件,当数据量较大时，最好将数据写入多个文件
#filename="C:/Users/dbsdz/Desktop/TF练习/TFRecord"
print('Writing',filename)
writer=tf.python_io.TFRecordWriter(filename)
forindexinrange(num_examples):
image_raw=images[index].tostring()#将图像矩阵化为一个字符串
#写入协议缓冲区，height、width、depth、label编码成int64类型，image——raw编码成二进制
example=tf.train.Example(features=tf.train.Features(feature={
'height':_int64_feature(rows),
'width':_int64_feature(cols),
'depth':_int64_feature(depth),
'label':_int64_feature(int(labels[index])),
'image_raw':_bytes_feature(image_raw)}))
writer.write(example.SerializeToString())#序列化字符串
writer.close()
definference(images,hidden1_units,hidden2_units):
withtf.name_scope('hidden1'):
weights=tf.Variable(
tf.truncated_normal([IMAGE_PIXELS,hidden1_units],
stddev=1.0/math.sqrt(float(IMAGE_PIXELS))),name='weights')
biases=tf.Variable(tf.zeros([hidden1_units]),name='biases')
hidden1=tf.nn.relu(tf.matmul(images,weights)+biases)
withtf.name_scope('hidden2'):
weights=tf.Variable(
tf.truncated_normal([hidden1_units,hidden2_units],
stddev=1.0/math.sqrt(float(hidden1_units))),
name='weights')
biases=tf.Variable(tf.zeros([hidden2_units]),
name='biases')
hidden2=tf.nn.relu(tf.matmul(hidden1,weights)+biases)
withtf.name_scope('softmax_linear'):
weights=tf.Variable(
tf.truncated_normal([hidden2_units,FLAGS.num_epochs],
stddev=1.0/math.sqrt(float(hidden2_units))),name='weights')
biases=tf.Variable(tf.zeros([FLAGS.num_epochs]),name='biases')
logits=tf.matmul(hidden2,weights)+biases
returnlogits
deflossFunction(logits,labels):
labels=tf.to_int64(labels)
cross_entropy=tf.nn.sparse_softmax_cross_entropy_with_logits(
logits=logits,labels=labels,name='xentropy')
loss=tf.reduce_mean(cross_entropy,name='xentropy_mean')
returnloss
deftraining(loss,learning_rate):
tf.summary.scalar(loss.op.name,loss)
optimizer=tf.train.GradientDescentOptimizer(learning_rate)
global_step=tf.Variable(0,name='global_step',trainable=False)
train_op=optimizer.minimize(loss,global_step=global_step)
returntrain_op
defread_and_decode(filename_queue):#输入文件名队列
reader=tf.TFRecordReader()
_,serialized_example=reader.read(filename_queue)
#解析一个example,如果需要解析多个样例，使用parse_example函数
features=tf.parse_single_example(
serialized_example,
#必须写明feature里面的key的名称
features={
#TensorFlow提供两种不同的属性解析方法，一种方法是tf.FixedLenFeature,
#这种方法解析的结果为一个Tensor。另一个方法是tf.VarLenFeature,
#这种方法得到的解析结果为SparseTensor,用于处理稀疏数据。
#这里解析数据的格式需要和上面程序写入数据的格式一致
'image_raw':tf.FixedLenFeature([],tf.string),#图片是string类型
'label':tf.FixedLenFeature([],tf.int64),#标记是int64类型
})
#对于BytesList,要重新进行编码，把string类型的0维Tensor变成uint8类型的一维Tensor
image=tf.decode_raw(features['image_raw'],tf.uint8)
image.set_shape([IMAGE_PIXELS])
#tensor("input/DecodeRaw:0",shape=(784,),dtype=uint8)
#image张量的形状为：tensor("input/sub:0",shape=(784,),dtype=float32)
image=tf.cast(image,tf.float32)*(1./255)-0.5
#把标记从uint8类型转换为int32类性
#label张量的形状为tensor（“input/cast_1:0",shape=(),dtype=int32)
label=tf.cast(features['label'],tf.int32)
returnimage,label
definputs(train,batch_size,num_epochs):
#输入参数：
#train：选择输入训练数据/验证数据
#batch_size:训练的每一批有多少个样本
#num_epochs:过几遍数据，设置为0/None表示永远训练下去
'''
返回结果：Atuple(images,labels)
*images:类型为float，形状为【batch_size,mnist.IMAGE_PIXELS],范围【-0.5，0.5】。
*label:类型为int32，形状为【batch_size],范围【0，mnist.NUM_CLASSES]
注意tf.train.QueueRunner必须用tf.train.start_queue_runners()来启动线程
'''
ifnotnum_epochs:num_epochs=None
#获取文件路径，即./MNIST_data/train.tfrecords,./MNIST_data/validation.records
filename=os.path.join(FLAGS.train_dir,TRAIN_FILEiftrainelseVALIDATION_FILE)
withtf.name_scope('input'):
#tf.train.string_input_producer返回一个QueueRunner,里面有一个FIFOQueue
filename_queue=tf.train.string_input_producer(#如果样本量很大，可以分成若干文件，把文件名列表传入
[filename],num_epochs=num_epochs)
image,label=read_and_decode(filename_queue)
#随机化example,并把它们整合成batch_size大小
#tf.train.shuffle_batch生成了RandomShuffleQueue,并开启两个线程
images,sparse_labels=tf.train.shuffle_batch(
[image,label],batch_size=batch_size,num_threads=2,
capacity=1000+3*batch_size,
min_after_dequeue=1000)#留下一部分队列，来保证每次有足够的数据做随机打乱
returnimages,sparse_labels
defrun_training():
withtf.Graph().as_default():
#输入images和labels
images,labels=inputs(train=True,batch_size=FLAGS.batch_size,
num_epochs=3)#num_epochs就是训练的轮数
#构建一个从推理模型来预测数据的图
logits=inference(images,FLAGS.hidden1,FLAGS.hidden2)
loss=lossFunction(logits,labels)#定义损失函数
#AddtotheGraphoperationsthattrainthemodel
train_op=training(loss,FLAGS.learning_rate)
#初始化参数，特别注意：string——input_producer内部创建了一个epoch计数变量
#归入tf.graphkey.local_variables集合中，必须单独用initialize_local_variables()初始化
init_op=tf.group(tf.global_variables_initializer(),
tf.local_variables_initializer())
sess=tf.Session()
sess.run(init_op)
#Startinputenqueuethreads
coord=tf.train.Coordinator()
threads=tf.train.start_queue_runners(sess=sess,coord=coord)
try:
step=0
whilenotcoord.should_stop():#进入永久循环
start_time=time.time()
_,loss_value=sess.run([train_op,loss])
#每100次训练输出一次结果
ifstep%100==0:
duration=time.time()-start_time
print('Step%d:loss=%.2f(%.3fsec)'%(step,loss_value,duration))
step+=1
excepttf.errors.OutOfRangeError:
print('Donetrainingfor%depochs,%dsteps.'%(FLAGS.num_epochs,step))
finally:
coord.request_stop()#通知其他线程关闭
coord.join(threads)
sess.close()
defmain(unused_argv):
#获取数据
data_sets=input_data.read_data_sets(FLAGS.directory,dtype=tf.uint8,reshape=False,
validation_size=FLAGS.validation_size)
#将数据转换成tf.train.Example类型，并写入TFRecords文件
convert_to(data_sets.train,'train')
convert_to(data_sets.validation,'validation')
convert_to(data_sets.test,'test')
print('convertfinished')
run_training()
if__name__=='__main__':
tf.app.run()
运行结果如图
以上这篇TFRecord格式存储数据与队列读取实例就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持毛票票。
声明：本文内容来源于网络，版权归原作者所有，内容由互联网用户自发贡献自行上传，本网站不拥有所有权，未作人工编辑处理，也不承担相关法律责任。如果您发现有涉嫌版权的内容，欢迎发送邮件至：czq8825#qq.com（发邮件时，请将#更换为@）进行举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。