为了克服BP的这些缺陷,本人对算法做了一些改进确定连接权修正值的计算过程,实际上是优化计算的梯度下降法。当能量公式对应的误差曲面为窄长型时,这种算法在谷的两壁跳来跳去,影响了网络的收敛速度,对算法最普通的改进方法是增加附加动量项。利用附加动量项可以起到平滑梯度方向的剧烈变化,增加算法的稳定性。在具体计算中,学习率η越大,学习速度会越快,但过大时会引起震荡效应;而动量因子α取得过大可能导致发散,过小则收敛速度过慢。并为了解决BP易于陷于极小值现象,用人工遗传算法来优化BP网络的初始权值。遗传算法是根据生物进化思想而启发得出的一种全局优化算法,在本质上是一种不依赖具体问题的直接搜索方法,它仅需给出目标函数的描述,从一组随机产生的称为“种群(population)”的初始解开始,从全局空间出发搜索问题的最优解。由于遗传算法善于全局搜索,且能以较大的概率找到全局最优解,故用它来完成前期搜索能较好的克服BP算法的局部极小的缺陷。将GA和BP结合起来,形成GA-BP混合训练算法,以GA优化BP网络的初始权值和阈值,再由BP算法按负梯度方向修正网络权值及阈值,进行网络训练。这种方法避免了BP网络易陷入局部极小问题,达到优化网络目的,更能精确的实现城市用电量预测。
实例讲解