论文研究-一种结合次梯度的粒子群全局优化算法.pdf

所需积分/C币:10 2019-07-22 21:48:17 1.91MB .PDF
7
收藏 收藏
举报

为优化不可微且非凸的连续目标函数,提出了结合次梯度的粒子群全局优化算法(SGPSO)。在优化算法中,首次提出利用次梯度方向来更新粒子群算法中粒子的搜索速度方案。加上与粒子相互间的通信机制配合,改进方案提高了寻得全局最优的机率。进一步地,在次梯度迭代过程中,提出其中的步长函数需要满足关于次梯度幅值是低阶无穷小且关于迭代时刻是递减的充分条件保证序列稳定收敛。最后,针对标准库给出了SGPSO的实验和比较以验证其有效性,结果表明提出的算法能很好地实现目标函数的全局优化,且收敛效果更好。
第4期 许志良,等:一种结合次梯度的粒子群全局优化算法 1009 需要注意的是,在式(6)的步长函数需要是关于t的一个局部极小值。进一步地,在图7中,与M=3时类似的实验, 递减函数。这个条件是为了抑制迭代过程在局部极小值周围只是改为高维的情况(M=50时)。继续把本文算法与最近 振荡。在式(7)中,可取n(·)为关于la的低阶元穷小,以防提出的几种算法如CPSO20、 CLPSO21、 CCPSO210算法进行 止η(·)在la/趋于零之前变为零。式(6)和(⑦)是次娣度迭比较。笔者发现,在维度较高吋,本文算法依然具有不错的 代过程快速且稳定收敛的关丁步长凼数的充分条件。 性能。导致本文算法产生较好效果的原因在于SGPs在搜 索空间中进行广度和深度两方向的搜索,所以更容易跳出局 部极小点。 0D 510 10 图5一个不可徵函数(M=2) 在具体应用中,选取η(·)为以下形式: 50100150200 number of iterations n(,0)=4x10 (a) Rosenbrock函数(M=3) (a) Rosenbrock函数(M=50) 10 其中:0<B<1和A>0。η(1,0/是关于逐渐缩小的,用于确 俣次梯度迭代是收敛,易得式(9)是满足式(6)和(7)的。 以下分析本文所提出的算法的复杂度。假定每个粒子的 10 PO随机搜索最大次数为Ca,每步次梯度下降迭代最大次数 10 SCPSO 为Csc,则算法复杂度为0(N×MxCP0×Csc)。由于随机搜 …PsO 10 索过程中很大程度上保证了目标函数的下降性,即适应度函数 10 值的上升,所以搜寻到日标函数最优值的总次数没有增加,故 算法复杂度没有显著提升。反而在一定搜索次数限定之下,本 150200 number of iterations 算法比传统PSO更容易搜寻到目标函数的最优值。该事实由 (b) Rastrigin函数(M-3) b) Rastrigin数(M=50) 图6和7给出的实验得到佐证。 3实验仿真 -SGPSO 本章在两个基准问题和一个额外问题上进行本算法的仿 真,日的是检查本算法的有效性。 1)星准问题1: Rosenbrock function 10 f(x)=∑[ x2)2+(x1-1)2] number of 2)基准问题Ⅱ: Rastrigin’ s function (e)额外问题不可微非凸函数 (c)额外问题不可微非凸函数 f2(x)=∑「x2-10cs(2mx;)+101 (M=3 M=50) 图6 SGPSO与传统PSO 图7SGPs0与PSO、CPSO 3)额外问题:amn- differentiable and non- convex function AE Rosenbrock, Rastrigin CLPSO、CCPS02多个PO算法 M I sin( 2)I+x 及一个不可徵非凸函数的 在 Rosenbrock、 Rastrigin及一个不可 3(x)=∑ 性能比较(M=3) 徵非鬥函数的性能比较(M=50) 上述所有月标函数都是非凸(多峰)且具有多个局部极小 结束语 值。其全局最小的分别满是f1(1)=0,(0)=0和f3(0)=0 需要注意的是,该函数/3具有许多不可微的局部极小点(2D 本文提出了粒子群算法的改进版本5GO,实现了对连 的情况如图5所示)。把本文提岀 SGPSO算法与传统的PSO续非凸不可微的目标函数的优化策略。本文在传统PSO基础 (无速度修订)应用于上述优化问题中,目的是寻找它们在M之上,特别引进了次榜度信息以设计粒子搜索速度的更新方 维立方体[-5,5」"(M=3)的全局极小点。经过实验,得到它案,使得算法更容易收敛到全局最小点。另一方面,在修订后 们的性能比较情况,如图6所示。其中种群规模是在[-5,的速度更新方案中,笔者给出对步长函数迭代保证收敛稳定的 5]中的30个粒子,进行了200次迭代。图6的每幅子图中,一个充分条件。 y轴表示为经过不同初始化的50次运行所找到的最佳函数值参考文献 的平均值,而x轴表示每个实验的迭代次数。在图6中,虚线 [1 EBERHART R C, KENNEDY J.A ew online.er 对应于传统PSO的性能,而实线对应于本文提出的 SGPSO的 swarm theory[ c]// Proc of the 6th Sy mposium on MicroMachine and 性能。从图6(a)~(c)可看出,随着迭代次数的增加, SGPSO Human Science. 1995: 39-43 比传统的粒子群获得更高的效率,而传统的粒子群通常陷于[2] EBERHART R C, SIMPSON P, DOBBINS R. Computational intel ·1010· 计算机应用研究 笃32卷 gence PC lools [M]. Boston: Academic Press, 1996: 212-226 [ KECSKES L, SZEKACS L, FODOR J C, et al. PsO and GA optimi- [3. SHI Yu-hui, EBERHARTR C. A modified particle swarm optimizer cation methods comparison on simulation model of a real hexapod ro- [C]//Proc of IEEE International Conference on Evolutionary Com- botl C //Proc of the 9th IEEE International Conference on Computa nutation.1998:69-73. [s.1.]: IEEE Press,2013:125-130 [4 SHI Yu-hui, EBERHART R C. Particle swarm optimization with fuzzy 16] SUGANTHAN P N. Particle swarm optimizer with neighborhood ope adaptive inertia weight [C]// Proc of Workshop on Particle Swarm rator[C]//Proc of Congress on Evolutionary Computation. Washin Optimization. 2001: 101-106 on DC: IEEE Press 1999: 1958-1962 [5. KENNEDY J. Small worlds and mega-minds: effects of neighborhood [17] ROBINSON J, RAHMAT-SAMII Y. Particle swarm optimization in topology on particle swarm performance[ C]//Proc of IEEE Congress electromagnetics[ J]. IEEE Trans on Antennas and Propaga on Evolutionary Computation. 1925: 1931-1938 tian,2004,52(2):397-407. [6. CLERC M, KENNEDY J. The particle swarm: explosion, stability, [18] ANGELINE P J. Using selection to improve particle swarm optimiza and convergence in a multi-dimensional complex space[I]. IEEE tion[c]//Proc of IEEE Intermational Conference on Evolutionary Trans on Evolutionary Computation, 2002, 6(1): 58-73 Computation. 1998: 84-89 [7 FAN H Y, SHI Yu-hui. Study on Vmax of particle swarm optimization [19 BLACKWELL TM, BENTLEY P J. Dont push me! Collision-ave [C]// Proe of Workshop on Particle Swarm Optimization. 2001 ding swarms[ C]//Proc of IEEE Congress on Evolutionary Computa [8. Van Den BERGH F, ENGELBRECHT A P. Cooperative learning in tion.2002:l69l-1696 neural networks using particle swarm optimizers[ J]. South African [20] Van Den BERGH F, ENGELBRECHT A P. A cooperative approach Computer Journal, 2000, 26(11): 84-90 lo particle swarm optimization[J]. IEEE Trans on Evolutionary [9. MESSERSCHMIDT L, F.NGEIBRECHT A P. Learning Io play games Computation,2004,8(3):225-239 using a PSo-based competitive learning approach[ J. IEEE Trans 211 LIANG Jing, QIN A K, SUCANTHAN P N, ct al. Comprehensive on Evolutionary Computation, 2004, 8(3): 280-288 learning particle swarm optimizer for global optimization of multimodal [10 LI Xiao-dong, YAO Xin. Cooperatively coevolving particle swarms for functions[ J]. IEEE Trans on Evolutionary Computation, 2006 large scale optimization[ J]. IEEE Trans on Evolutionary Compu 10(3):281-295 on,2012,16( [22] LUO Gui-lan, ZHAO Hai, SONG Chun-he. Convergence analysis of [11 GAING 7 L, LIN C H, TSAI M H, et al. Rigorous design and opti a dynam ic discrete PSO algorithm[C]//Proc of Inlernational Confer mization of brushless PM motor using response surface methodology ence on Intelligent Networks and Intelligent Systems. S. 1.1: IEEE with quantum-behaved PSO operator[ J]. IEEE Trans on Magne Computer Scc iely, 2008: 89-92 tics,2014,50(1):1-4 [231 FERNANDEZ. MARTINEZ J L, CARCIA CONZALO E. Stochastic [12 KITAK P, GLOTIC A, TICAR I. Heat transfer coefficients determi- stability analysis of the linear continuous and discrete PSo models nation of numerical model by using particle swarm optimization[J] [J. IEEE Trans on Evolutionary Computation, 2011, 15(3 IEEE Trans on Magnetics, 2014, 50(2):933-916 405-423 13 CHEN S M, MANALU G MT, PAN J S, et al. Fuzzy forecasting 24 1 CHEN S, MONTCOMERY J. Selection strategies for initial positions based on Iwo-far tors serond-prmler fuzry-lrend logie al relationship and initial veloc ities in multi-oplimd particle swarms[ C]//Pree of groups and particle swarm optimization techniques[ J1. IEEE Trans Genetic and Evolutionary Computation Conference. I s.l.1: ACM on Cybernetics,2013,43(3):1102-1117 Press,2011:53-(0 I 14 LIU Bao-ling, HOU Di-bo, HUANC Ping jie, et aL. An improved 251 SHOR N Z. Minimization methods for non-differentiable functions PSO-SVM model for online recognition defects in eddy current testin LM]. Berlin: Springer, 1985 [J. Nondestructive Testing and Evaluation, 2013, 28(4):[26 HIRIART-LRRUTY J B. LEMARECHAL C. Convex analvsis and 37-385 ation algorithmS I[ MI erlag, 199 关米x水木米水木×水木木米米米x水来木米米末水木末木末水水木木木米米末水末木木米水末水水 下期要目 ◆基于 Impala的大数据查询分析计算性能研究 ◆考虑心理代价的灾民疏散及救灾物资分配冋題研究 兴◆高性能交换结构综述 ◆基于BF行为的多目标分布佔计算法优化配置SFCL ◆软件服务化背景下的云服务可信评佔斫究 ◆考虑乒质需求的再制造系统最优产量与定价研究 X关兴兴关关 ◆软件非功能需求国内外研究综述 令基于分层选择策略的主动学习分词)法 ◆一科高效的分布式树核函数分类算法 ◆社交网络大数据下贪婪式实时网站推荐算法 ◆一种基丁特征聚类的特征选择方法 ◆欠观测条件下高斯和増量卡尔曼滤波算法 兴心一科改进\ eural gas算法的聚类新算法CARD ☆构件化软件演化信息及演化相似性度量技术研究 ◆基干弹性|-SⅤM的疾病诊淅关键特征识别 ◆面向汽车产业链的云服务平台数据交挨研究 ◆汉语篇章主位推进模式自动识别方法 ◆基丁动态需求服务反馈的Wcb业务可信度协同计算 ◆基干几何算法的投影孪生支持向量机 ◆语用网驱动的上下文感知系统设计 X ◆基于混合高斯模型和空间模糊度的支持向量机算法硏究 ◆基丁改走的多层降噪自绢码算法临床分类诊断研究 ◆基干能力优冗的作战体系模型构建方法研究 ◆混合定位算法在复杂室内环境下的应用研究 令二维三温能量方程求解的 MPI-OpenMP并行算法研究 ☆自适应离散 Gabon变换及其吋频滤波 米米米水米米米米米米米米米米米米米来米冰米米米米米米米x米水米米×米x米水水米×米来米米米米

...展开详情
试读 4P 论文研究-一种结合次梯度的粒子群全局优化算法.pdf
立即下载
限时抽奖 低至0.43元/次
身份认证后 购VIP低至7折
一个资源只可评论一次,评论内容不能少于5个字
您会向同学/朋友/同事推荐我们的CSDN下载吗?
谢谢参与!您的真实评价是我们改进的动力~
  • 至尊王者

关注 私信
上传资源赚钱or赚积分
最新推荐
论文研究-一种结合次梯度的粒子群全局优化算法.pdf 10积分/C币 立即下载
1/4
论文研究-一种结合次梯度的粒子群全局优化算法.pdf第1页

试读结束, 可继续读1页

10积分/C币 立即下载