没有合适的资源?快使用搜索试试~ 我知道了~
论文研究-基于混合量子遗传算法的过程神经元网络训练.pdf
需积分: 9 2 下载量 124 浏览量
2019-07-22
21:34:15
上传
评论
收藏 635KB PDF 举报
温馨提示
试读
4页
针对过程神经元网络现有学习算法复杂度高、对初值敏感的问题,提出了一种基于混合量子遗传算法 的过程神经元网络训练方法。将过程神经元网络的训练转换为等价非线性方程组的优化求解问题,用量子比特 构成染色体,采用实数对染色体进行编码,同时引入拟牛顿算法作局部搜索。该算法可发挥量子遗传算法的群 体搜索能力和全局收敛性,以及拟牛顿法较快的收敛速度,同时有效克服了拟牛顿算法对初值敏感的问题。训 练结果表明,此算法具有较好的稳定性和有效性。
资源推荐
资源详情
资源评论
收稿日期: 2008唱10唱13; 修回日期: 2008唱12唱08 基金项目: 国 家自然科学基金 资助项目(60473051) ;黑龙江省 自然科 学基 金资助 项目
( ZA2006唱11) ;黑龙江省科技攻关资助项目( GZ07A103)
作者简介:刘 志 刚 (1979唱) , 男, 吉 林 蛟 河 人,硕士,主要 研 究 方 向为 量 子 优 化 算 法、 神 经 网 络、 智 能 控 制 理 论 ( dqpilzg @163.com ) ; 许 少 华
(1962唱) ,男,河北邢台人,教授,博士后,主要研究方向为模式识别、智能信息处理等.
基 于 混 合 量 子 遗 传 算 法 的 过 程 神 经 元 网 络 训 练
倡
刘志刚, 许少华
(大庆石油学院 计算机与信息技术学院, 黑龙江 大庆 163318)
摘 要: 针对过程神经元网络现有学习算法复杂度高、对初值敏感的问题,提出了一种基于混合量子遗传算法
的过程神经元网络训练方法。 将过程神经元网络的训练转换为等价非线性方程组的优化求解问题,用量子比特
构成染色体,采用实数对染色体进行编码,同时引入拟牛顿算法作局部搜索。 该算法可发挥量子遗传算法的群
体搜索能力和全局收敛性,以及拟牛顿法较快的收敛速度,同时有效克服了拟牛顿算法对初值敏感的问题。 训
练结果表明,此算法具有较好的稳定性和有效性。
关键词: 过程神经元网络; 训练; 学习算法; 优化求解; 量子遗传算法; 混合遗传算法; 拟牛顿迭代法
中图分类号: TP183 文献标志码: A 文章编号: 1001唱3695(2009)08唱2898唱04
doi:10.3969 /j.jssn.1001唱3695.2009.08.028
Training method of process neural networks
based on hybrid quantum genetic algorithm
LIU Zhi唱gang, XU Shao唱hua
(College of Computer & Information Technology, Daqing Petroleum Institute, Daqing Heilongjiang 163318, China)
Abstract: Aiming at the problems that current learning algorithms of PNN were highly complex and sensitive to initial values,
this paper presented a training method of PNN based on hybrid quantum genetic algorithm.This method transformed the train唱
ing of PNN into the optimization solution of nonlinear equations, and used quantum bits to construct chromosomes which were
coded with real number.Meanwhile, introduced was to implement local searching.The algorithm had the abilities of population
search for quantum genetic algorithm and global convergence,as well as the rapid convergence rate of the quasi唱Newton meth唱
od,which overcame the sensitivity to initial values about quasi唱Newton method.The training result shows that this algorithm has
the better stability and effectiveness.
Key words: process neural network(PNN); training; learning algorithm; optimization solution; quantum genetic algorithm
(QGA); hybrid genetic algorithm; quasi唱Newton method
0 引言
过程神经元网络是近几年提出的一种新的人工神经网络
模型,由于其输入 /输出均可为时变函数,聚合运算可同时反映
多输入时变信号的空间聚合和对时间过程效应的累积,并具有
连续性、对满足 Lipschitz 条件泛函和连续泛函的可逼近性等理
论性质,在信息处理机制上对非线性动态系统建模、时变信号
模式分类及系统辨识与过程控制等问题的解决具有良好的适
应性
[1,2]
。 对于过程神经元网络的训练问题,由于网络的输入
和连接权等都可以为时变函数,过程神经元同时包含空间聚合
和时间累积两类算子,这使得过程神经元网络的映射机制和学
习过程与传统神经元网络有着很大的不同。 目前的过程神经
元网络学习算法大多是基于函数基展开结合梯度下降算法构
建的
[3,4]
,存在算法复杂度高、对初值敏感、大样本集的训练稳
定性差等问题,制约了过程神经元网络的应用。
量子遗传算法( QGA) 是建立在量子的态矢量表达基础
上,将量子比特的几率幅表示应用于染色体的编码,使得一个
染色体可以表达多个态的叠加,具有种群规模小、全局寻优能
力强等特点,比传统遗传算法更具有并行性。 同时,利用当前
最优个体的信息更新量子旋转门可加速算法收敛,引入量子交
叉、变异等操作可克服遗传算法的“早熟”收敛现象
[5]
,目前已
经成为国际学术界研究的一个新课题,在优化计算、非线性规
划等领域得到了有效应用
[6,7]
。
针对过程神经元网络的训练问题,笔者将其转换为等价的
以网络结构参数和性质参数为变参的非线性方程组优化求解
问题。 目前,牛顿迭代法及其改进形式是求解非线性方程组应
用最广泛的算法,但这些算法对初值敏感,如果给定的值不在
收敛域内,则算法不收敛,因此,只能进行局部搜索。 在此基础
上,本文提出了一种基于混合量子遗传算法的过程神经元网络
学习训练方法。 算法用量子比特构成染色体,每条染色体包含
上下两条并列的基因链,在染色体数目相同时,可使搜索空间
加倍;采用实数对染色体进行编码,使之与非线性方程组的可
行解空间一致,每条基因链则代表了一个优化解;旋转门的转
角方向和转角大小结合了目标函数的梯度信息。 同时,采用拟
牛顿法作为一个强局部搜索算子,把量子遗传算法的寻优结果
作为拟牛顿法的初值,可有效解决拟牛顿法对初值敏感的问
题,提高算法的局部搜索效率和求解精度。 采用这种算法,将
过程神经元网络训练的泛函数逼近问题转换为对目标函数的
第 26 卷第 8 期
2009 年 8 月
计 算 机 应 用 研 究
Application Research of Computers
Vol.26 No.8
Aug.2009
资源评论
weixin_39841856
- 粉丝: 487
- 资源: 1万+
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功