Tenforflow 中的数据处理

( P+ V+ F7 K/ g, D3 M

6 c6 d3 o$ s8 }9 y3 W1 ?! |# a0 ^

前言 前段时间忙工作的事情，所以没有给大家及时更文，近期小瑞根据各版块的知识重新划分了一下结构，新加

; j. t' T: S# Z8 I

$ d ~/ S4 M7 A* ]5 k: [/ o

) [4 r* L, b/ d9 }$ b6 d

前言

前段时间忙工作的事情，所以没有给大家及时更文，近期小瑞根据各版块的知识重新划分了一下结构，新加的版块有“专题强化”和“可视原理”，专题强化这块日后会经常写一些单一性知识的文章，和其他版块的内容相关性不大但是也是必须要知道的一些内容。可视原理这块小瑞想把各个算法用视频或者其他方式来展现其实现原理。让大家更容易理解算法的本质。好了，先说这么多，今天的内容是小瑞在工作中遇到的一些问题，周末抽空给大家整理总结一下。今天的主要知识就是在 Tensorflow 中的数据处理及读取数据的方式.

- n' N3 g8 I3 f7 E

1. 图像处理

6 z, x T( e" }! t; n

常见的图像处理有图像去燥、图像超分辨、图像增强等等。要对图像进行处理，首先要构建所需要的数据库，处理的数据的方式也是多种多样，常见的有:

+ X& i' ] t; F% x7 I% t

图像颜色域的变化(例如RGB转Gray)

数据增强 (Data augmentation)将图像翻转，缩放，裁剪，旋转等

图像块(Image patch) 就是从整张图像中, 扣下小块的小图像,这么做主要是因为可以增加训练数据的量, 另外小块的图像训练起来速度更快, image patch的合理性是基于卷积神经网络的感受野(Receptive field)通常不会太大.

' x$ t9 S5 W, \5 V6 I- D

做完这些，然后就需要为深度网络喂数据,还需要写Batch Generator, 就是用来生成一个batch的东西.

# v; m2 x, I) B" |6 A# L- {

训练方案 

( S# ~! _5 ^' \

构建数据库的部分是独立, 也就是说我们对找到的图像做预处理, 将预处理的结果保存起来, 这就算构建好训练的数据库了, 训练时从数据库里直接拿数据进行训练

3 f& i2 |6 y6 s3 K

训练时实时地预处理一个batch的图像, 将处理的结果作为训练的输入

) e1 V. H: X" _# \3 M

第一种方法将训练集的构建和网络的训练分开，并且将预处理结果存在电脑中，这样做训练的代码会比较简单，且直接读入处理好的数据能让训练速度更快，当然，不足的地方就是不够灵活，如果预处理的方式改变了(例如, 原本是RGB转HSV, 现在我要RGB转Gray), 那么需要重新构建一个数据库，造成硬盘空间的浪费. 第二种方法虽然训练速度不如第一种，但是足够灵活, 一般来讲主要关注第二种方法. 在TensorFlow中，图像处理主要由tf.image模块支持, batch generator主要用tf.data.Dataset实现，下面来看下整个流程的具体实现. 事先准备了一个文件夹, 存放了19张图片, 作为我们本章代码的示例图片

* x5 T% }+ l0 Q0 U7 w

对于训练来讲, TensorFlow提供了一整套图像预处理以及数据生成的机制，这里实现了一个简单的常用的数据处理框架, 总结为三步:

6 ` j1 i* G2 v3 r; w; y% E 7 Y8 R3 J: |/ s, X- @. G' {) w

获取所有图片的路径 

图片预处理的代码

3 w" w! ~& c/ y( q% _, G

定义数据生成器 

2. 图像处理相关代码

. V5 M- }+ z5 b% a3 r: t9 A: w

1. 获取图片路径

0 D& X6 j I6 @; e: M1 h

( k% o- E! k+ x5 I& c5 b

( h) A. T/ L9 v9 i; Y4 u: _

4 I; C" _5 l- d' O) h

2. Batch Generator

x8 J/ T. @9 i

( m9 B+ L, W- i" L3 o8 t$ W

3. 处理效果

8 U" t. [6 V* w: h

7 E4 I% Y8 ~9 U1 Z+ H# V* n 8 T7 O6 Z, U: ^( L2 c8 k- V