第20 卷 第5 期
Vol. 20 No. 5
控 制 与 决 策
Control and D ecision
2005 年5 月
M ay 2005
收稿日期: 2004209214; 修回日期: 2004211202.
作者简介: 黄远灿
(
1969—
)
, 男, 贵州盘县人, 副教授, 博士, 从事非线性控制、神经网络、最优化理论等研究.
文章编号: 100120920
(
2005
)
0520545204
Lagrange
神经网络的稳定性分析
黄 远 灿
(
北京理工大学 信息科学技术学院 北京 100081
)
摘 要: 若重新定义与不等式约束相关的乘子为正定函数, 则在构造
L agrange
神经网络时, 可直接使用处理等式约
束的方法处理不等式约束, 不需再用松驰变量将不等式约束转换为等式约束, 减小了网络实现的复杂程度. 利用
L iapunov
一阶近似原理, 严格分析了这类
L agrange
神经网络的局部稳定性; 并采用
L aSalle
不变集原理, 讨论其大范
围稳定性.
关键词: 非线性规划;
L agrange
神经网络; 不等式约束; 稳定性;
L aSalle
不变集原理
中图分类号:
TP
183 文献标识码:
A
Stability analysis of Lagrange neural networks
H UA N G Y uan
2
can
(
Info rm ation Science and Techno logy Schoo l
,
Beijing Institute of Techno logy
,
Beijing
100081,
China
.
E
2
m ail
:
yuancanhuang
@
bit
.
edu
.
cn
)
Abstract
:
By redefining m ultip lier associated w ith inequality constraint as a positive definite function of the
originally
2
defined multiplier
,
it is no longer necessary to convert inequality constraints into equality constraints by
slack variables in o rder to reuse the m ethod dedicated to equality constraints for constructing L agrange neural
netwo rks
.
The local stability of the L agrange neural netwo rks is p roved rigorously w ith the first L iapunov
app roxim ation p rinciple
.
The stability in the large is discussed based on the L aSalle invariance principle
.
Key words
:
nonlinear p rogramm ing
;
L agrange neural netwo rk
;
inequality constraint
;
stability
;
L aSalle invariance
p rinciple
1 引 言
Hopfield
于 1982 年提出了一种以其名字命名
的递推神经网络
[1 ]
, 并于1984 年给出了由神经元构
成连续递归神经网络的基本原理
[2 ]
. 1985 年, 文献
[3 ]成功地应用
Hopfield
网络求解了组合优化中著
名的
N P
难题——旅行商问题
(
TSP
)
. 1986 年, 文献
[ 4 ]构造了一些简单的神经优化网络, 可用于实现
A
D
转换器、信号决策电路以及求解线性规划问
题. 上述这些工作开创了应用神经网络求解优化问
题的先河. 1988 年,
Kennedy
等
[5 ]
应用罚函数原理,
设计了能求解线性和非线性规划的神经网络, 但所
提出的神经网络主要用于解决带不等式约束的优化
问题, 如将其直接应用于等式约束, 则其实现电路有
两个反向耦合的二极管, 不能正常工作. 另外, 罚函
数法一般通过求解一系列罚参数逐渐增大的无约束
优化问题来逼近约束优化问题的解, 或使用试凑法
确定罚参数和初始点, 这在实际中显然不可行, 而且
罚函数法还存在病态问题. 为了克服这些缺点,
Zhang
等
[6 ]
于1992 年根据
L agrange
乘子思想, 构建
了
L agrange
神经网络. 然而, 该神经网络在处理不
等式约束时需添加松弛变量将其转换为等式约束,
这意味着神经网络有较高的维数. 当然, 如果使用
L agrange
乘子法求解带不等式约束的非线性规划
问题, 经简单的推导, 可将松弛变量消掉. 但此时增
广
L agrange
函数仅分段二阶连续可微.
本文通过重新定义
L agrange
乘子, 获得一种新
型的
L agrange
神经网络. 其优点在于, 能直接对不
等式约束进行处理, 不需添加松弛变量将不等式约
束转换为等式约束, 且增广
L agrange
函数与目标函
数和约束具有相同的光滑性
[7, 8 ]
. 文献[9 ]应用该方
资源评论
