论文研究-基于改进EGO算法的黑箱函数全局最优化.pdf

所需积分/C币:15 2019-07-22 19:47:34 1.11MB .PDF

基于Kriging模型的EGO算法是一种适用于黑箱函数求极值的全局最优化算法,但该算法忽略了对Kriging模型精度的控制。针对该算法的不足之处,提出了兼顾Kriging模型精度与模型寻优的迭代函数,并将改进后的EGO算法应用于五个检验函数及一个存货模型,从Kriging模型精度及优化结果两方面对改进前后的算法进行比较。结果表明,改进后的EGO算法提高了最终Kriging模型的精度,并在对目标函数进行少量估值的情况下获得了更为全局化的最优解。
766 计算机应用研究 第32卷 通过对权值ω的凋薹可以在定程度上搜索到更为仝局 化的最优解,但由于迭代过程中保持权值不变,最终也没有解 决模型精度差的问题。因此,本文将目标数式(1)修正为 0.4 miny+ks,(k≥0)。当前目标函数的最小值为(y+hs)mi 0.2 min(y:+ks,),(s:=0,i=1,2,…,n)令 0.2 I= max[ -(Y+Aly-y1), 0 0.6 nEI=E! maxLymin-(Y+hly-Y1),0]1 计算得 1-2 图5 Camelback两数图像 nY=2(mn-p(n)-(am)+1+(k+1)9(r)+(k-1)(n)]k2 对该函数利用遗传算法(其中种样大小为500,终止进化 2(m-)tn)+(a)]+:(+1)(a)+(k-1)()0≤<1代数为1000,分划在E、GEI(式(7),g=3)、WEI(式(8), (10)o=0.3)、nEI(式(10),k=2)四个准则下迭代搜索最优解,本 其中:=-y-y 文使用 Intel core i3-2100CPL3.10GHz、2.99GB内存的计算 k+1)s k取不同值时 机进行处理,得到不同准则(C)下的迭代次数(IN)、迭代时问 -j与s的权重图像如图4所小。 (T)(单位:103秒)、达代结果(IO)以及最终模型的均方预测 误差MSPE的均值(mM)、中位数(MM)如表2所示。 表2 Six-Hump Camelback数优化结果 T 0.8 EI461.14(±0.0905,±0.7085:0.0048)1.3e-034.99e-04 GFI524.19(±0.0847,±0.7106;0.0016 1.2e-03 04 0.3 W上I 0 nEI692。34(±0.0905,±0.7131;0.0005)1.3c-045.77e-0 0.2 从表2结果可以看出,基于nFI的迭代算法能够更为有效 地得到最优解,且兼顾了 Kriging模型的精确程度,Six-Hump (a)-j的秋重 (b)s的权重 Camelback函数基于n的均方预测误差无论均值或中位数较 图4不同k值时-j和s的杖重图像 其他准则下均大大减小,并目可以看到,基于nEI准则的算法 从图4可以看到,随着k的不断增大,加在一j上的权重 得到的最优值要更加接近真实的最优值。对于其他的检验函 变化不大,但加在s上的权重显著增大,收敛到0的速度降低 数(上)用同样的方法可以得到,如表3所示。 3结果分析 表3其他检验函数在不同准则下搜索结果 3.1检验函数 GPF1114.48(-0.010,-1.015;0.077)1.99e+063.32+03 GEI1381.46(0.010,0.995:0.056)5.41c+064.47c+0 本文分别将基于EI、GEI、nEI三种搜索准则的EGO算法 WEI2101.69(0.010,-0.995;0.056)5.04e+058.19e+03 应用于五个检验函数12,如表1所 Nei1444.51(0.010,-0.998;0.002)4.20e+061.63e-03 表1检验函数 (3.141,2337;0.405) EI44431(-3.191,2.361;0.405) 0.73 维数最小值全局最优点局部极值个数 (9.397,2.186;0.405) Gold-Price( GP) 0.-1 (3.141,2.261:0.398) 275) El431.25(-3.116,12.211;0.398) 1.12 23e-0l Brainin( Br 3. (T,2.275) (9.397,2,261 (3丌,2.275) ix-Hump-Camelback( SHC) (±0.089,0.7126) (3.14l,2.261;0.398) WEI331.25(-3.116,12.211;0.398) 1.03 1.14e-0l R;strigil( R:l (0.0) (9.397,2.261;0.398) a)使用超拉丁方方法产生初始样木点,且初始样本点的 FI561.74(-3.116,12.211:0.398) 0.131.34e-02 个数至少为n=10s,s为模型输入参数的维数。例如,当s=2 (9.39y7,2.261;0.398) 时n=21,s=3时n=33等 RaEⅠ25424.6(0.005,0.357;0.962 GEI33145.5(-0.005,-0.0050.0086.59c-043.47e-04 b)i计DACE模型式(3)的参数,其中p=2。 WFI32027.5(.382,0.362;0.475) 711.193-06 c)采用遗传算法进行优化,且由于s→0或者ym→Fmn Nci26221.4(-0.05,0.005;0.007)4.81c-055.1c-056 hE2861.6(3.928,4,4,4;0.582)8.52e-019.34e-0l (Fm为点实的最小值)时,EL-少0。从而本文中L的终止条件 GEI 198 3.94.3.94,4.05,4.05:0.96)9.29e-011.00e+0 为 1ym1≤,。其中,Q分别取且、nl、(C1)、W,=10 max WFI2201.75(3.942,4,4,4;0.529)7 (4.02,4 1.25e-011.29e-0 以Six- Hump Camelback函数为例,函数图像如图5所示 通过表3,基于nEI淮则得到的 Kriging模型的均方顶测误 p(x1,x2)-1036258+4x1-2.1x1+(1/3)x1+x1x2-4x2+4x2 差的确在·定程度上减小,且根据MSPE的数量级可以判断 2≤x1≤2-1≤x2≤1 old- Price函数并不适合使用 Kriging模型近似,尽管基于nEI 该函数在点(0.08983,-0.7126)、(-0.08983,0.7126)进行搜索可以减小均方预测误差,但MSPF最大值的数量级仍 处全局最小值为0,有六个局部最小值点 然达到了107。而基于nEI准则达代速度并不一定比其他准则 第3期 王彦,等:基于改进EG0算法的黑箱函数全局最优化 767 下要快,甚至如six- Hump Camelback函数基于nI准则迭代耗是改进后的算法仍然无法非常准确地确定仝局最优点,尤其是 时要大于准则下的迭代耗时。另外, Rastrigrin函数由于局局部最优点存在很多时,仍会不可避免地陷入局鄙最优。另 部最优点个效大于50,搜索最优位所需要的时间远远大于其外,该方法还面临着很多其他的问题与挑战 他检验函数所需要的时间。同时,对比不同准则下的最优值可 a)本文使用均方预测误差ⅥsPE来度量元模型的精确程 以判断当模型精度较高时,即代哩模型与元模型的偏离较小度,事实上是低伂了元模型的误差,所以需要探索新的方法使 时,寻优的精度更高,而且从 Rastrigin函数的优化结果中可以得最终的寻优对 MSPE的低估鲁棒。 看到,由于传统上CO算法模型精度较差,导致寻优结果陷入局 b)为」求得近似数,需要相关系数矩阵R为非奇异矩 部最优,所以提高模型精度也可以使得优化结果更为全局化。阵,而在实际应用中,若函数光滑可预测,则实验点将高度相 3.2存货模型 关,也就意味着R的每一列都趋近于1。另外,在最后的迭代 为了进一步检验本文提出的方法,将基于nEI的ECO算过程中,x的选取多靠近原来的n个实验点,从而导致R中 法应用于货模利3,设l为订货点,L为最大的行货量,公相应的两列几乎相同,导致有异。 司使用(l,)来确定公司的订货量,即订货量为 c)在迭代过程中,由于每次Dn的史新都会导致相关系 L -BB<I 矩阵闩的史新,在较大规模的设计中,这种新算法将会非 B≥ 常耗时,所以需要对此过程进行改进,缩短计算时间 其中,B是每个月月初的存货量。 d)本文考虑输入中只有控制囚子,若输入中含有噪声因子时 该模型需要考虑三种化赍:订货化費、存货花费、缺货损如何确定控制因了使得yx)的均值最小也是一个很大的挑战 失。其中订货化费为K+CZ,K=$32为准备成本,C=$3参考文南 为每增加1单位进货量所需花费。 1 JONES D R, SCHONLAU M, WELCH W J. Efficient global optin 偎设20≤7≤40,40≤l≤100,初始存货量为B=60,模拟 zation of expensive Black-box function [J]. Journal of Global Opti- 120个月的存货系统并最小化平均每个月的总花费,得到最终 mization,1998,13(4):455-492 2 VAZQUEZ I, Bl CT J. Convergence properties of the expected im- 的 Kriging模型及其均方预测误差如图6、7所示。 provement algoritnm with fixed mean and covariance functions[J] Journal of Statistical Planning and Inference, 20)10, 140(11) 3088-3095 180 3]王红涛,竺程,杜朝辉.基于 Kriging代理模型的改进E(箅法 研究J」.工栏设汁学报,2008,16(4):266-302 4]杜波,金光,经纶,等.基于代理模型的武器装备体系优化箕 100 研究[J].汁算机工程与科学,2012,34(6):75-78 5 KEANE A J. Statistical improvement criteria for use in multi-objective design optimization L AIAA Journal, 2006, 44(4 ): 879-891 6 JEONG S, MURAYAMA M, YAMAMOTO K. Efficient optimization ell J of aircraft 2005 42 图6 Kriging模型 (2):413-44 7 SCHONLAU M, WELCH W J, JONES D R. Clobal versus lucal 1500 ⑥ Desiyn ims lecture Notes-Monograph Series. 1998: 11-25 8 SONC Xiau, ROTARU M, SYKULSKI J K. Expluralionl versus ex ploitation using Kriging surrogate modelling in electromagnetic design [J. The International Journal for Computation and Mathemat ics in Electrical and Electronic Engineering, 2012, 31(5) 1541-1551 9 SONG Xiao, ROTARU M, SYKULSKI J K Adaptive weighted expec 图7 Kriging模型的均方预测误差 ted improvement with rewards approach in Kriging assisted electromag- 本例选川的迭代停止准则为 max(1)nET<0.001,经过153 netic design [J. IEEE Trans on Magnetics, 2013, 49(5): 2057- 2()6() 次迭代得到在点(21,59)有最小均总花费8112.10,其中订10 SANTNER T J, WILLIAMS B J, NOTZ W1,eta. The design and 货花费为$82.98,存货花费为$18.97,缺货损失为$10.14。 analysis of computer experiments [M.[S1.: Springer, 200)3 从图7可以看到模型的误差仍是很大。尽管如此,通过比较基 11 JONES DR, PERTTUNEN C D, STUCKMAN B E. Lipschitzian up timization without the L. ipschitz constant[ J]. Joumal of Optimiza- 于EⅠ与GⅠ的EGO算法,木文法的模型精度已经有大大提 tion Theory and Application, 1993, 79(1): 157-181 高。其中基于GEI的算法,模型的均方预测误差最大可以达12 Duan Qing-vun,(uIAk, SOROOSIIIAN S. Shuffled complex 到8000,所以本文的方法在一定程度上改善了模型精度。 evolulion approach for elficienlive and efficienl global mininizulin [JI. Joumal of Optimization Theory and Application, 1993, 76 4结束语 13 HUANG D, ALLEn TT, NOTZ W I, et al. Global optimization of stochastic I sequential Rigi models J」 EGO算法利用代理模型代替原模型进行优化,有效地解 Journal of global optimization 2006 34(3): 441-466 决了熈箱函数的优化问題。然而该算法忽略了对代理模型精14. LAW AM, KELTON W D. Simmulallion modeling and amalysis M」 度的要求,事实上,若代理模型与真实模型偏差过大,该算法的 3rded.北京:清华大学出版社,2001 寻优结果将偏离真实最优值。在此基础上,本文的方法在一定15·1EHCD. KLEIJNEN JPC, SIEMAYD. The correet Kriging va riance estimated by bootstrapping[J. Journal of the Operational 稈度上提高了模型精度,更好地搜索到了全局最优点。遗憾的 Research Society, 2005, 57(4): 1-10

...展开详情
img

关注 私信 TA的资源

上传资源赚积分,得勋章
    最新推荐