卷积神经网络的运行过程

1、   通常情况下，我们会按照结构模型把系统产生的数据分为三种类型：结构化数据、半结构化数据和非结构化数据。 结构化数据，即行数据，是存储在数据库里，可以用二维表结构来逻辑表达实现的数据。 最常见的就是数字数据和文本数据，它们可以某种标准格式存在于文件或记录的固定字段中。 相对应的，没有固定结构不方便用数据库二维逻辑表来表现的数据即称为非结构化数据，包括所有格式的办公文档、文本、图片、XML、HTML、各类报表、图像和音频/视频信息等等。

2、 全连接层与常规神经网络相似，通过矩阵乘法和偏差项实现。 在CNN中，从全连接层到卷积层的转变，是通过调整滤波器尺寸来实现全连接效果，如AlexNet中，用步长控制高效处理大图输入。 实践与应用 整图卷积与滑动子图卷积在效果上无差别，但整图卷积在计算效率上占据优势。

5、 我们将核数组上下翻转、左右翻转,再与输入数组做互相关运算,这一过程就是卷积运算。 由于卷积层的核数组是可学习的,所以使用互相关运算与使用卷积运算并无本质区别。 二维卷积层将输入和卷积核做互相关运算,并加上一个标量偏置来得到输出。 卷积层的模型参数包括卷积核和标量偏置。

4、 这个过程我们可以理解为我们使用一个过滤器(卷积核)来过滤图像的各个小区域,从而得到这些小区域的特征值。 在具体应用中,往往有多个卷积核,可以认为,每个卷积核代表了一种图像模式,如果某个图像块与此卷积核卷积出的值大,则认为此图像块十分接近于此卷积核。

3、 2.2 卷积层在神经网络中的运算 了解完单个卷积是如何计算的之后,我们就可以从神经网络的角度来看‘卷积层’的运算过程了。