4、 Hopfield网络可以储存一组平衡点，使得当给定网络一组初始状态时，网络通过自行运行而最终收敛于这个设计的平衡点上。 当然，根据热力学上，平衡状态分为stable state和metastable state, 这两种状态在网络的收敛过程中都是非常可能的。 为递归型网络，t时刻的状态与t-1时刻的输出状态有关。

1、 神经网络可以通过学习得到函数的权重。 而我们仅靠观察是不太可能得到函数的权重的。 让我们训练神经网络进行 1500 次迭代，看看会发生什么。 注意观察下面每次迭代的损失函数，我们可以清楚地看到损失函数单调递减到最小值。 这与我们之前介绍的梯度下降法一致。

5、 人工神经网络（Artificial Neural Networks，简写为ANNs）也简称为神经网络（NNs）或称作连接模型（Connection Model），它是一种模仿动物神经网络行为特征，进行分布式并行信息处理的算法数学模型。 这种网络依靠系统的复杂程度，通过调整内部大量节点之间相互连接的关系，从而达到处理信息的目的。

2、 我们做到了！我们用Python构建了一个简单的神经网络！首先神经网络对自己赋予随机权重，然后使用训练集训练自己。 接着，它考虑一种新的情形[1, 0, 0]并且预测了0.99993704。 正确答案是1。 非常接近！传统计算机程序通常不会学习。