论文部分内容阅读
生物物理学研究者Hopfield于1982年提出了Hopfield神经网络模型。Hopfield模型应用Hebb学习规则将存储的斑图看成网络的吸引子。如果给Hopfield网络输入一个初始状态,网络状态将演化成与输入状态最接近的斑图。因此,Hopfield神经网络能够实现联想记忆。Hopfield模型以其联想记忆功能成为了神经网络研究中的重要模型之一。Hopfield神经网络模型不仅在理论分析方面受到广泛关注,在数值计算,信息检索,模糊识别等诸多应用研究领域也发挥着重要作用。同时,由于Hopfield模型与Ising模型十分相似,因而Hopfield模型也得到了物理学家们的广泛研究。本论文主要关注Hopfield神经网络的稳定性问题。全文一共分成了两个部分,具体研究如下:第一部分,我们研究了相似斑图对Hopfield网络稳定性的影响。真实神经系统必定会记忆一些相关联的事件,因此研究含有相似斑图的网络动力学行为是具有实际应用价值的。我们对含有两个相同斑图(重复斑图)的Hopfield网络和传统Hopfield网络进行了数值模拟。结果表明重复斑图可以增强Hopfield网络的稳定性。研究发现,不仅重复斑图可以增强Hopfield网络的稳定性,若斑图之间存在联系也会增强网络的稳定性。我们数值模拟了含有两个相似斑图的Hopfield网络,模拟结果表明记忆较多斑图的网络中,网络稳定性随斑图相似度单调递增。但记忆较少斑图的网络中网络的稳定性随斑图相似度非单调变化。网络记忆的斑图较少时,两个相似斑图中状态相同的节点的稳定性达到饱和,此节点不会随斑图相似度的增大而变得更稳定,因此造成网络稳定性呈现非单调变化现象。第二部分,我们研究了网络稳定性与记忆斑图数之间存在的幂律关系。这种幂律关系的存在使得随记忆斑图数的增多网络稳定性减弱得越来越慢。这种现象将成为了联想记忆动力学研究中的一个重要特征。首先对文献中无标度网络存在的幂律关系进行了理论推导,并给出了幂律指数的近似值。通过数值模拟发现幂律关系与网络的稀疏程度是有关系的。作为对比,我们还给出了 ER随机网络稳定性的理论推导。结果发现ER随机网络的稳定性与记忆斑图数同样存在幂律关系。类比无标度网络,对ER随机网络也进行了数值模拟,得到的幂律结果与无标度网络接近。通过这部分研究我们可以看出,虽然无标度网络存在度值很大的节点,此节点以其大量的连接边数对无标度网络运行起着主导作用。但是无标度网络中此种节点总数还不到网络总节点数的4.6%,导致这两种网络结构得到的幂律关系区别不大。