代价敏感正则化有限记忆多隐层在线序列极限学习机及图像识别应用.pdf

"代价敏感正则化有限记忆多隐层在线序列极限学习机及图像识别应用" 本文提出了一种新的在线序列极限学习机算法，即代价敏感正则化有限记忆多隐层在线序列极限学习机（CSR-FM-ML-OSELM）。该算法将深度神经网络的多隐层特性融入在线序列极限学习机框架中，并引入了代价敏感性和有限记忆性两个关键特性。 代价敏感性是通过加权最小二乘法来实现的，即根据不同的样本权重，对损失函数进行加权计算，以提高模型对少数样本的识别准确率。有限记忆性是通过及时丢弃过时旧数据来实现的，以避免模型过拟合和提高模型的泛化能力。 实验结果表明，CSR-FM-ML-OSELM 算法在图像识别准确率上比单隐层的在线序列极限学习机有所提升，在识别准确率的稳定性方面也比单隐层网络更出色。这种算法的提出对于解决深度学习模型在实用化方面的困难具有一定的参考价值。 在图像识别领域，深度学习算法已经取得了很高的正确率，但高额运行开销使得它在实用化方面还面临一些困难。CSR-FM-ML-OSELM 算法正是为了解决这个问题，通过降低模型的开销，以便更好地应用于移动或嵌入式设备上。 在线序列极限学习机（OSELM）是一种新的在线学习算法，具有快速训练和高效率的特点。该算法可以实时处理大量数据，且不需要离线批量式训练。OSELM 算法的提出对于解决大数据问题具有重要意义。 深度学习算法的高额运行开销主要来自于两个方面：梯度下降等迭代步骤和离线批量式算法。CSR-FM-ML-OSELM 算法正是为了解决这两个问题，以便更好地应用于移动或嵌入式设备上。 本文提出了一种新的在线序列极限学习机算法，即代价敏感正则化有限记忆多隐层在线序列极限学习机（CSR-FM-ML-OSELM）。该算法具有快速训练、高效率和高泛化能力的特点，对于解决深度学习模型在实用化方面的困难具有一定的参考价值。 关键词：代价敏感；有限记忆；多隐层在线序列极限学习机；图像识别