基于计算机视觉的敞篷车字符识别系统研究

  2.1 卷积神经网络相关知识

  基础的卷积神经网络一般是由卷积（Convolution）,激活（Activation）和池化（Pooling）三种结构组成。一般来说，卷积神经网络的输出结果为图像的特定特征空间。针对分类任务，可以在 CNN 输出的特征空间之后添加全连接层或者是全连接神经网络，用以完成从输入图像到标签集的映射。本小节将对相关网络结构进行介绍。卷积神经网络中，最基本的操作为卷积，其思想是选定图像中的某个区域与神经元进行连接，形成输出特征图上的一个像素点。该区域又可称为神经元的感受野（Receptive field），它的大小是一个人为设置的超参数，即滤波器核（Kernel）的宽和高。基础 CNN 所用的卷积是一种二维（2 Dimension, 2D）卷积。换言之，核只能在同一个通道内的 x 方向和 y 方向上滑动位移，不能进行通道深度位移，即不能越过通道。假设单一通道输入图像的空间坐标为(x, y)，卷积核大小是 mxn，核权重为 ,图像元素数值是 ，b 代表偏置项，卷积过程就是卷积核所有权重与其在输入图像上对应元素数值之和，参数共享在卷积神经网络中的具体表现为：所有元素进行卷积运算时其卷积核内部的参数固定，即所有元素通过权重共享的方式进行运算。其二是局部感受野，也就是神经元只与上一层中的一部分输入相连，底层的感受野提取图像的低维特征，随着卷积层数的增加，更高层的感受野则包含了图像更高级的特征信息。可以看出最大池化的一个特点是对于窗口内最突出的特征进行优先输出，并且一般来说，经过最大池化操作后的图像尺寸会缩减，这会导致两个问题：1）忽略窗口内其他优先度较低的特征，当图像存在噪音的时候，被表现出来的特征往往是噪音特征，这会导致模型对于噪音过于敏感；2）丢失特征所在的精确位置信息，不过由于其结构并没有改变信息的相对位置，所以实际影响较小。激活层由激活函数构成。为了使得模型可以具有更好的非线性拟合能力，激活函数一般都是非线性函数。当每一层节点的输入都是上层输出的线性函数，  无论网络层数的如何改变，输出结果依旧是输入的线性表示。对于线性模型而言，其拟合能力是有限的。通过引入非线性函数作为激活函数，可以增强深层神经网络的表达能力。一般来说常用的非线性函数包括 Sigmoid 函数、Tanh 

函数、Re LU函数和 Leaky Re LU 函数等。

  2.2 生成对抗网络相关知识

  生成对抗网络（Generative  Adversarial  Network，GAN）是机器学习中生成模型的一种，由 Ian Goodfellow 于 2014 年提出。GAN 在很多方面得到了广泛应用，例如数据集扩展、人脸图片生成、图像风格转换、文字-图片转换、体态生成、图片混合、异常检测、超分辨率重建、图片修复等等方面。近年来，许多学者对生成对抗网络进行了深入的研究，提出了很多新的结构，也解决了很多网络本身存在的问题。生成对抗网络的原始模型包含一个生成器（Generator）和一个鉴别器（Discriminator），其中生成器用于捕获真实数据的分布并生成相关的数据，而判别模型用以估计样本来自生成模型的概率。在训练过程中，两者始终处于一种对抗博弈的训练状态。训练过程中，真实图片对应的标签为 1，由生成器生成的图片对应的标签为 0，所以通过不断训练使得鉴别器的输出接近输入图片的真实属性。上图左侧的部分为生成器，其主要作用是生成图片，且生成样本的分布能够拟合真实的样本分布，达到以假乱真的效果。网络的输入是由一组固定长度的随机数构成的向量 z ，而网络的输出则是一张图片而不是单纯的一个数值。生成器的主要目的是生成使鉴别器产生混淆的图像，使得鉴别器无法准确地判断图片的来源。经过多次更新迭代后，无论是真实图片或是生成的图片作为鉴别器的输入，其输出应该是一个接近于 0.5 的数值。当网络输出的数值等于 0.5 时，即表明生成器网络和鉴别器网络均达到了纳什均衡状态。从生成器和鉴别器的功能角度出发，可以发现生成网络与判别网络的目标正好是相悖的。设计者可以各取所需，从该网络中取得不同的部分进行使用。对于数据增广等问题而言，需要的是更好地伪造出与原始图片相近分布的图片，这时可以采用生成器满足数据曾广需求。另一方面，当需要进行异常检测以区分不同数据概率分布时，可以着重采用基础架构中的鉴别器模型，用以判断数据与真实分布的接近程度，从而判断数据的真伪、异常等信息。在理想的状况下，鉴别器被训练为对当前生成器而言最优，然后再进行生成器的训练，使得生成器被训练为对当前鉴别器而言最优。但在实际的训练中，固定一方的参数等待另外一方的参数被训练达到最优会大量耗费时间和计算资源，因此一般对生成器和鉴别器采取同步更新的训练方式。根据 Ian Goodfellow 在原始生成对抗网络中对于鉴别器损失函数的定义，可以得到最优的鉴别器形式。对该鉴别器而言，其损失函数可以被理解为是最小化真实分布和生成分布之间的 JS 散度（Jensen-Shannon Divergence）的等价变化。当鉴别器的效果达到最优的时候，生成器得不到梯度信息，即使程序不断运行，生成器的参数也不会进行更新。当真实分布和生成分布之间没有重叠的时候，JS散度为一个固定的常数 log2，这样生成器的参数也不会得到更新。