第二十六章
MATLAB优化算法案例分析与应用
第26章
基于Hopfield的数字识别
第二十六章
MATLAB优化算法案例分析与应用
•26.1 Hopfield网络原理分析
Hopfield网络是神经网络发展历史上的一个重要的里程碑。
由美国加州理工学院物理学家J.J.Hopfield教授于1982年提出,
是一种单层反馈神经网络。
1984年,Hopfield设计并研制了网络模型的电路,并成功地
解决了旅行商(TSP)计算难题(优化问题)。
Hopfield网络是一种互连型网络,它引入类似于切Lyapunov
函数的能量函数概念,在满足条件的情况下,某种“能量函数”
的能量在网络运行过程中不断地减少,最后趋于稳定的平衡状
态。对于一个非线性动力学系统,系统的状态从某一初值出发
经过演变后可能有如下几种结果:渐进稳定点(吸引子)、极
限环、混沌、状态发散。
因为人工神经网络的变换函数是一个有界函数,故系统的状
态不会发生发散现象。目前,人工神经网络经常利用渐进稳定
点来解决某些问题。如果把系统的稳定点视为一个记忆的话
第二十六章
MATLAB优化算法案例分析与应用
•26.1 Hopfield网络原理分析
,那么从初态朝这个稳定点的演变过程就是一个寻找记忆的过
程。如果把系统的稳定点视为一个能量函数的极小点,而把能
量函数视为一个优化问题的目标函数,那么从初态朝这个稳定
点的演变过程就是一个求解该优化问题的过程。因此,
HoPfield神经网络的演变过程是一个计算联想记忆或求解优化
问题的过程。实际上,它的解决并不需要真的去计算,而是通
过构成反馈神经网络,适当地设计其连接权和输入就可以达到
这个目的。
Hopfield神经网络模型是一种循环神经网络,从输出到输
入有反馈连接。在输入的激励下,会产生不断的状态变化。对
于一个Hopfield网络来说,关键是在于确定它在稳定条件下的
权系数。反馈网络有稳定的,也有不稳定的。对于Hopfield网
络来说,如何判别其稳定性也是需要确定的。
第二十六章
MATLAB优化算法案例分析与应用
•26.2 Hopfield数字识别
表26-1 人工神经网络应用领域
第二十六章
MATLAB优化算法案例分析与应用
•26.2 Hopfield数字识别
Hopfield神经网络模型如图26-1所示,它是一种循环神经
网络,从输出到输入有反馈连接,通过不断的调整权值,使
得系统能量函数不断的趋向于最小,达到系统收敛的目的。