A study on effectiveness of extreme learning machine
极端学习机(Extreme Learning Machine, ELM)是一种由黄广斌等人提出的单隐层前馈神经网络(Single-hidden Layer Feedforward Neural Networks, SLFNs)的有前途的学习算法。极端学习机(ELM)之所以有效,是因为它在训练神经网络时采用随机选取输入权重和偏置的方法。尽管这种方法在很多应用中展示了良好的性能,但随机选择输入权重和偏置也存在潜在的问题,它有时候会导致SLFN的隐藏层输出矩阵H不满列秩,这降低了ELM的有效性。本文针对ELM的这一不足,提出了一种改进的算法,名为EELM(Enhanced Extreme Learning Machine),通过在计算输出权重之前,合理选择输入权重和偏置来确保矩阵H在理论上是满列秩的。这在一定程度上提高了网络的学习速率(测试准确率、预测准确率、学习时间)和网络的鲁棒性。 EELM改进算法通过对输入权重和偏置的适当选择,能够保证隐藏层输出矩阵H的满列秩,进而提升ELM算法的学习效率和模型准确性。根据对基准函数逼近和包括分类及回归在内的现实世界问题进行的实验,EELM展现了良好的性能。具体地,ELM算法在处理基准函数逼近和各种实际问题时表现出的优势,可以归结于以下几个方面的提升: 1. 提高测试准确率:通过改进隐藏层输出矩阵的结构,EELM能够更有效地拟合训练数据,从而在测试阶段也能够得到更高的准确率。 2. 提高预测准确率:由于EELM在学习过程中能够更准确地捕捉数据间的关联,因此在数据预测方面,尤其是对未曾见过的数据,EELM能够提供更为准确的预测结果。 3. 减少学习时间:EELM通过合理选择输入权重和偏置,能够减少在迭代过程中需要的运算量,从而加快学习过程,缩短了从训练到获取模型的时间。 4. 增强网络鲁棒性:满列秩的隐藏层输出矩阵H有助于提升网络对异常值和噪声的抵抗能力,使得EELM在面对复杂和不确定的数据时能够保持稳定的性能。 文章通过在基础的极端学习机算法上引入改进,展示了在理论和实际应用中的成效,为单隐层前馈神经网络的学习方法提供了新的研究方向。ELM算法的提出和EELM的改进证明了在特定条件下的随机选择并不总是最佳策略,适当的优化和参数调整对于提升机器学习算法的性能至关重要。 此外,文章还提到,作者被允许将其文章的版本(例如Word或Tex格式)发布到个人网站或机构存储库中,但其他用途,如复制和分发,或销售或许可副本,或在个人、机构或第三方网站上张贴都是不被允许的。在大多数情况下,作者还可以在自己的机构内使用文章进行研究和教育,包括教学和与同事共享。如需了解爱思唯尔的存档和稿件政策,鼓励访问相关的官方网站。这项规定对于确保学术研究成果的合法使用和分享具有重要意义。
- 粉丝: 4
- 资源: 996
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助