第 ３５ 卷 第 ２ 期 西 南 师 范 大 学 学 报 （自然科学版） ２０１０ 年 ４ 月
Ｖｏｌ畅 ３５ Ｎｏ畅 ２ Ｊｏｕｒｎａｌ ｏｆ Ｓｏｕｔｈｗｅｓｔ Ｃｈｉｎａ Ｎｏｒｍａｌ Ｕｎｉｖｅｒｓｉｔｙ （Ｎａｔｕｒａｌ Ｓｃｉｅｎｃｅ Ｅｄｉｔｉｏｎ） Ａｐｒ畅 ２０１０
文章编号 ：１０００ ５４７１（２０１０）０２ ００７６ ０５
改 进 的 多 参 数 非 线 性 共 轭 梯 度 法 的 全 局 收 敛 性
①
黄 海 ， 林穗华
广西民族师范学院 数学与计算机科学系 ，广西 崇左 ５３２２００
摘要 ： 利用共轭条件 ，提出一个改进的多参数共轭梯度法 ，并证明了算法在 ＳＷＰ 线性搜索下具有全局收敛性 ．
关 键 词 ：无约束优化 ；共轭梯度法 ； ＳＷＰ 线性搜索 ；全局收敛
中图分类号 ：Ｏ２２４ 文献标识码 ： Ａ
考虑无约束优化问题
ｍｉｎ
ｆ
（ｘ） ，ｘ
∈
Ｒ
ｎ
（１）
ｆ
：Ｒ
ｎ
→
Ｒ 为连续可微的目标函数 ．共轭梯度法是求解问题（１） 的一种重要方法 ，其迭代格式如下 ：
ｘ
ｋ
＋
１
＝
ｘ
ｋ
＋
α
ｋ
ｄ
ｋ
（２）
ｄ
ｋ
＝
－
ｇ
ｋ
ｋ
＝
１
－
ｇ
ｋ
＋
β
ｋ
ｄ
ｋ
－
１
ｋ
≥
２
（３）
其中 ：
α
ｋ
＞
０ 是由某种搜索策略获得的步长因子 ，ｄ
ｋ
为第 ｋ 次迭代时的搜索方向 ，
ｇ
ｋ
表示
ｆ
（ｘ） 在 ｘ
ｋ
处的
梯度 磹
ｆ
（ｘ
ｋ
） ，
β
ｋ
为标量参数 ．
不同的
β
ｋ
对应着不同的共轭梯度法
［１ ２］
，这些方法都是基于依赖精确线搜索的如下共轭条件（Ｈ 为 ｎ 阶
对称正定矩阵）
ｄ
ｉ
Ｈ ｄ
ｊ
橙 ｉ
≠
ｊ
（４）
发展而来的 ，即对问题（１） 的目标函数为二次模型
ｆ
（ｘ） ＝
１
２
Ｘ
Ｔ
Ｈ Ｘ
＋
ｂ
Ｔ
Ｘ （５）
且采用精确线性搜索时 ，算法产生的搜索方向 ｄ
ｋ
都满足共轭条件（４） ．文献［３ ５］对 ＨＳ ，ＰＲＰ ，ＬＳ 方法进
行改进而得到了 ＷＹＬ ，Ｍ ＨＳ ，Ｍ ＬＳ 方法 ，并将这些修正方法组合而得到了带有两个参数的共轭梯度法 ，对
二次正定目标函数也都符合共轭条件（４） ．而实际计算中通常采用非精确线搜索 ，目标函数也不一定有形
式（５） ，无法保证搜索方向的共轭性 ．基于这些因素 ，文献［６］ 利用微分中值定理及拟牛顿公式 ，提出合理
代替（４） 的共轭条件
ｄ
Ｔ
ｋ
ｙ
ｋ
－
１
＝ －
ｔ
ｇ
Ｔ
ｋ
ｓ
ｋ
－
１
（６）
其中 ：
ｙ
ｋ
－
１
＝
ｇ
ｋ
－
ｇ
ｋ
－
１
，ｓ
ｋ
－
１
＝
ｘ
ｋ
－
ｘ
ｋ
－
１
，ｔ
≥
０ 为标量 ．根据新的共轭条件（６） 得到
β
ＤＬ
ｋ
＝
β
ＨＳ
ｋ
－
ｔ
ｇ
Ｔ
ｋ
ｓ
ｋ
－
１
ｄ
Ｔ
ｋ
－
１
ｙ
ｋ
－
１
．
类似文献［７］ 对 ＰＲＰ 方法限制
β
ＰＲ Ｐ
ｋ
≥
０ 的做法 ，得到
β
ＤＬ
＋
ｋ
＝
ｍａｘ｛
β
Ｈ Ｓ
ｋ
，０｝ － ｔ
ｇ
Ｔ
ｋ
ｓ
ｋ
－
１
ｄ
Ｔ
ｋ
－
１
ｙ
ｋ
－
１
．ＤＬ
＋
方法在 ｄ
ｋ
满
足充分下降性条件的假设前提下 ，采用 ＳＷＰ 线搜索时全局收敛 ．
文献［３］ 中提出了一个共轭梯度法簇
①
收稿日期 ： ２００９ ０２ ２６
基金项目 ： 广西民族师范学院科研资助项目 （２００７０１２ ；２００９０９） ．
作者简介 ： 黄 海 （１９６９ ） ， 男 ， 广西武鸣人 ， 副教授 ， 主要从事最优化理论与数学模型的研究 ．
资源评论
