前馈神经网络的网络结构

网络层	功能	示例
输入层	接收输入数据	例如，图像像素值
隐层	特征提取和变换	包含全连接层，活函数（如ReLU、Sigmoid、Tanh）
输出层	生成预测结果	例如，分类结果或回归值
活层	引入非线性因素	ReLU、Sigmoid、Tanh等
批归一化层（Batch Normalization, BN）	加速训练并提高模型稳定性	标准化每个神经元的输入
Dropout层	防止过拟合	在训练过程中随机丢弃部分神经元
全连接层（Fully Connected Layer, FC）	实现层间的线性映射	通过权重矩阵W和偏置b进行计算

前馈神经网络（Feedforward Neural Network, FNN）是一种前向传播信息的神经网络，其特点是信号仅从输入层通过中间层流向输出层，不会形成环路。 以下是前馈神经网络网络结构的几个关键点：
1. 输入层：接收输入数据，这些数据可以是原始特征或经过预处理后的数据。 2. 隐层：位于输入层和输出层之间，负责特征提取和变换。 每一层中的神经元通过全连接层连接到下一层的神经元。 隐层可以使用多种活函数，如ReLU、Sigmoid、Tanh等，以引入非线性因素，增强模型的拟合能力。 3. 输出层：生成最终的预测结果或决策。 对于分类问题，输出层通常包含一个或多个神经元，使用Softmax活函数将输出转换为概率分布；对于回归问题，输出层可能只有一个神经元，使用线性活函数。 4. 活函数：活函数用于引入非线性，使得网络能够学习复杂的非线性关系。 5. 批归一化层：用于加速训练过程并提高模型稳定性，通过标准化每个神经元的输入，减少内部协变量偏移。 6. Dropout层：用于防止过拟合，通过在训练过程中随机丢弃部分神经元，减少模型对特定训练样本的依赖。 7. 全连接层：实现层间的线性映射，通过权重矩阵W和偏置b进行计算。
前馈神经网络在网络结构上简单明了，易于理解和实现。 然而，对于深层网络，梯度消失/爆炸问题可能导致训练困难。 因此，在实际应用中，通常需要结合其他技术，如残差网络（ResNet）和优化算法等，以克服这些问题。