神经网络多少参数合适

作者:印孟娅 | 发布日期:2024-09-20 03:19:08

选取训练神经网络时先选好batch size,再调其他的超参数。 并且实践上来说,就两个原则——batch size别太小,也别太大,其他都行。 因为合适的batch size范围和训练数据规模、神经网络层数、单元数都没有显著的关系。 合适的batch size范围主要和收敛速度、随机梯度噪音有关。 为什么batch size别太小。

在MATLAB中,可以直接使用net = init(net);来初始化。 我们可以通过设定网络参数net.initFcn和net.layer{i}.initFcn这一技巧来初始化一个给定的网络。 net.initFcn用来决定整个网络的初始化函数。 前馈网络的缺值为initlay,它允许每一层用单独的初始化函数。

不是越大越好。 将numwork设置得过大,会造成计算资源的浪费,导致内存不足的情况发生,影响神经网络的性能,因此神经网络numwork不是越大越好。 神经网络的numwork参数是并行处理的线程数,用于加速神经网络的计算速度。

一般从1开始。 因为是全连接神经网络,所以会有很多个参数,参数右上角是下一层对应的网络层数(在吴恩达系列屏中输入层不作为一层。 所以右上角是从1开始的,此处是从2开始的),右下角第一个数是下一层神经元的位置,第二个数是前一层神经元的位置。