极限学习机(Extreme Learning Machine, ELM)是一种新型单隐层前馈神经网络,由Huang等人在2006年提出,主要用来解决传统前馈神经网络在训练时学习速度慢、容易陷入局部收敛以及在不同场合下参数难以调解的问题。ELM通过核函数将数据从低维空间映射到高维空间中,以逼近复杂的非线性映射。然而,ELM在处理非线性数据时效果并不理想,并且其参数的随机化选择不利于模型泛化。为改善此状况,研究者们提出了自适应混沌粒子群算法(Adaptive Chaotic Particle Swarm Optimization, ACPSO)来优化ELM的参数。
自适应混沌粒子群算法是一种启发式优化算法,它将混沌理论与粒子群优化算法相结合。混沌理论是研究在确定性系统中出现的看似随机的不规则运动,这种不规则运动在数学上表现为对初始条件极为敏感,即所谓的蝴蝶效应。粒子群优化算法(Particle Swarm Optimization, PSO)是一种基于群体智能的优化算法,通过模拟鸟群捕食行为,粒子(即潜在的解)在搜索空间内飞行并根据个体经验和社会经验来更新位置。自适应混沌粒子群算法在PSO的基础上加入混沌理论的动态特性,通过引入混沌变量增加搜索过程中的随机性和多样性,提升优化效率。
在ACPSO算法中,粒子通过混沌运动探索搜索空间,同时通过自适应学习来调整自己的运动行为,使得算法能够更有效地寻找到全局最优解。将ACPSO算法用于优化ELM的参数,能够增强算法的稳定性,并提高ELM在处理如基因表达数据分类等非线性问题时的分类精度。仿真实验在UCI基因数据集上进行,实验结果表明,自适应混沌粒子群一极限学习机(ACPSO-ELM)算法不仅具有良好的稳定性和可靠性,而且在基因分类精度上有效超越了探测粒子群一极限学习机(DPSO-ELM)和粒子群一极限学习机(PSO-ELM)等现有算法。
ACPSO-ELM算法的优势在于其自适应调整参数的能力,能够根据问题的特性和优化过程中反馈的信息,实时地调整粒子群中每个粒子的速度和位置。这种自适应特性使得算法能在全局搜索与局部搜索之间取得平衡,从而更高效地找到最优解。与此同时,混沌运动的引入避免了算法陷入局部最优,保证了算法具有更好的全局搜索能力。
在优化ELM参数时,ACPSO算法首先初始化粒子群,每个粒子代表一组可能的ELM参数。然后,算法开始迭代,每一迭代过程中,粒子根据自己的经验(即之前找到的最佳位置)和群体经验(即整个群体找到的最佳位置)来更新自己的速度和位置。粒子的混沌运动通过引入随机性,帮助粒子跳出局部最优,探索更广阔的搜索空间。通过不断地迭代,ACPSO算法能够引导粒子群向最优解区域集中,最终得到一组优化后的ELM参数。
需要注意的是,ACPSO-ELM算法的有效性依赖于算法参数的合理设置,包括粒子群规模、学习因子、惯性权重、混沌变量等。这些参数的选取需要根据具体问题进行调整,以期获得最佳优化效果。此外,ACPSO-ELM算法的实现也需要考虑计算成本和优化时间,以满足实际应用中的需求。
ACPSO-ELM算法通过引入自适应和混沌动态,有效地改善了ELM在处理非线性数据时的性能,并在基因分类等生物信息学领域展现了其应用潜力。这一算法的研究为优化单隐层前馈神经网络的参数设置提供了新的思路,并为其他机器学习模型的参数优化提供参考。