没有合适的资源?快使用搜索试试~ 我知道了~
基于改进SAE和双向LSTM的滚动轴承RUL预测方法.docx
1.该资源内容由用户上传,如若侵权请联系客服进行举报
2.虚拟产品一经售出概不退款(资源遇到问题,请及时私信上传者)
2.虚拟产品一经售出概不退款(资源遇到问题,请及时私信上传者)
版权申诉
5星 · 超过95%的资源 1 下载量 120 浏览量
2023-02-23
16:53:54
上传
评论
收藏 104KB DOCX 举报
温馨提示
试读
17页
基于改进SAE和双向LSTM的滚动轴承RUL预测方法.docx
资源推荐
资源详情
资源评论
滚动轴承是旋转机械设备的重要组成部件, 如果在轴承失效前可准确地预测出剩余使
用寿命(Remaining useful life, RUL), 便可及时采取预防措施, 从而可以避免造成重大经济损
失和人员伤亡事故
[1-2]
.
特征提取是进行滚动轴承 RUL 预测的重要前提. 近年来, 深度学习凭借其卓越的非线
性函数自动映射能力在滚动轴承特征提取领域得到广泛应用
[3]
. 文献[4]提出一种改进的深
度信念网络, 直接以滚动轴承原始振动信号作为网络输入, 经过逐层抽象表示, 挖掘出原始
振动信号深层本质特征. 文献[5-7]利用卷积神经网络特有的局部卷积、权值共享和降采样
等结构特性直接从滚动轴承振动信号中自动提取数据局部抽象信息, 实现对振动信号特征
的深层挖掘. 上述研究虽利用深度学习方法简化了复杂的特征提取过程且挖掘出了振动信
号深层本质特征, 但是网络模型仍需大量标签数据进行有监督微调, 而实际应用中标签数据
匮乏且难以获取.
稀疏自动编码器(Sparse auto-encoder, SAE)作为深度学习模型的一种, 因其独特的无监
督特征学习能力, 可实现大量无标签数据特征的有效表达
[8]
, 为滚动轴承特征提取提供了新
的解决思路. 目前稀疏自动编码器已被成功推广到各种标记数据有限的应用场合
[9]
. 然而传
统的 SAE 采用 sigmoid 作为激活函数容易造成梯度消失问题, 且采用 Kullback-Leibler (KL)
散度
[10]
进行稀疏性约束在滚动轴承特征提取方面存在局限性.
在特征提取的基础上, 进行滚动轴承 RUL 预测是最终目标. 由于循环神经网络在时间
序列处理方面具有优越性, 因此本文在获取轴承性能退化特征值的基础上, 将长短时记忆网
络(Long short-term memory, LSTM)作为轴承性能退化曲线构建方法. 利用 LSTM 构建轴承
性能退化曲线的方法是整合“ 过去”的信息, 辅助处理当前信息. 然而, 本文考虑到滚动轴
承的衰退过程实际上是一个在时间上具有前后依赖关系的连续变化过程, 当前信息的处理
也有必要整合“未来”的信息
[11]
. 文献[11]将双向长短时记忆网络(Bi-directional long short-
term memory, Bi-LSTM)用于负荷的短期预测并取得很好的实验效果. 文献[12]将 Bi-LSTM
应用于视频描述, 用以全面保留全局时间和视觉信息. 由此可以证实 Bi-LSTM 在时间序列
处理上具有可行性和优越性.
综上, 本文对 SAE 的激活函数进行改进, 提出一种新的 Tan 函数替代原有的 sigmoid
激活函数, 并采用 dropout 机制对网络进行稀疏性约束. 利用改进 SAE 对滚动轴承振动信号
进行无监督自适应特征提取, 并将提取出的深层特征作为滚动轴承的性能退化特征. 同时,
通过引入 Bi-LSTM 以实现滚动轴承过去和未来信息的充分利用从而完成滚动轴承当前寿命
预测. 最后利用一次函数对当前寿命进行拟合, 实现对滚动轴承的 RUL 预测.
1. 改进 SAE 模型
自动编码器(Auto-encoder, AE)是一种通过无监督学习算法尝试学习一个函数, 使得输
出值近似等于输入值的三层特征表达网络, 由一个输入层、一个隐藏层和一个输出层组成
[13]
, 其网络结构如图 1 所示.
输入层与隐藏层构成编码网络, 编码过程为将 nn 维输入数据
X={x1,x2,⋯,xn}X={x1,x2,⋯,xn}转换成 mm 维拥有高级特征的隐藏层表达
H={h1,h2,⋯,hm}H={h1,h2,⋯,hm}; 隐藏层与输出层构成解码网络, 解码过程为隐藏层向量重
构 nn 维输出数据集 Y={y1,y2,⋯,yn}Y={y1,y2,⋯,yn}.
图 1 AE 结构
Fig. 1 The structure of AE
下载: 全尺寸图片 幻灯片
编码过程和解码过程可表示为:
H=Sf(b1+W1X)H=Sf(b1+W1X)
(1)
Y=Sg(b2+W2H)Y=Sg(b2+W2H)
(2)
式中, SfSf 为编码激活函数; SgSg 为解码激活函数; b1b1、b2b2 为偏置量; W1W1、
W2W2 为权重矩阵, W2=WT1W2=W1T.
AE 通过反向传播和梯度下降算法对参数集 θ={W1,W2,b1,b2}θ={W1,W2,b1,b2}进行多
次迭代优化, 直到重构误差最小, 重构误差函数表示为:
JMSE(θ)=1n∑i=1n(12∥yi−xi∥2)JMSE(θ)=1n∑i=1n(12‖yi−xi‖2)
(3)
式(1)和式(2)中的激活函数 SfSf 与 SgSg 一般采用 sigmoid 函数, sigmoid 函数及其导函
数的数学形式分别为:
f1(x)=11+e−xf1(x)=11+e−x
(4)
g1(x)=e−x(1+e−x)2g1(x)=e−x(1+e−x)2
(5)
由图 2 的 sigmoid 函数及其导函数图像可以看出, 当神经元的输入距离零值点较远时,
sigmoid 导数值会变得非常小, 几乎为 0, 导致网络模型收敛很慢, 即梯度消失.
为解决这个问题, 本文采用一种新的激活函数, 称为 Tan 函数, Tan 函数及其导函数的
数学形式为:
f2(x)=tan(x)tan(1)f2(x)=tan(x)tan(1)
(6)
g2(x)=sec2(x)tan(1)g2(x)=sec2(x)tan(1)
(7)
图 2 Sigmoid 函数及其导函数曲线
Fig. 2 The curves of sigmoid function and its derivative
下载: 全尺寸图片 幻灯片
由图 3 的 Tan 函数及其导数图像可以看出, Tan 导数的最小值约为 0.64, 不会出现为 0
从而导致梯度消失的现象, 使得网络模型收敛更加快速.
图 3 Tan 函数及其导函数曲线
Fig. 3 The curves of Tan function and its derivative
下载: 全尺寸图片 幻灯片
KL 散度又称相对熵, 用来衡量两种不同概率分布之间的偏离程度, 在深度学习中, 常
用来衡量真实值与预测值之间的偏差. 传统的 SAE 就是借鉴了这种思想, 在 AE 的损失函
数基础上添加了 KL 散度作为稀疏惩罚项, 使网络变得“稀疏”, 从而优化网络模型, 稀疏惩
罚项定义为:
Jsparse(θ)=β∑j=1mKL(ρ∥ρ^j)Jsparse(θ)=β∑j=1mKL(ρ‖ρ^j)
(8)
ρ^j=1n∑i=1n[aj(xi)]ρ^j=1n∑i=1n[aj(xi)]
(9)
KL(ρ∥ρ^j)=ρlog2ρρ^j+(1−ρ)log21−ρ1−ρ^jKL(ρ‖ρ^j)=ρlog2ρρ^j+(1−ρ)log21−ρ1−ρ^j
(10)
式中, ββ 表示权值的激活参数, mm 表示隐藏层神经元个数, ρ^jρ^j 表示隐藏层第 jj 个
神经元的平均激活度, ρρ 为稀疏参数, aj(x)aj(x)表示给定输入 xx 的情况下隐藏层第 jj 个神
经元的激活度.
添加稀疏惩罚项后的 SAE 的损失函数为:
J(θ)=JMSE(θ)+Jsparse(θ)J(θ)=JMSE(θ)+Jsparse(θ)
(11)
然而, 以上采用 KL 散度作为 SAE 的稀疏约束项仅适用真实值为 0 或 1 的分类问题,
对于滚动轴承所需提取的深层特征为[0,1][0,1]之间某个值这样的回归问题, 无法将 ρ^jρ^j
作为依据, 对网络进行惩罚. 因此, 本文采用 dropout 机制实现 SAE 的稀疏性.
具体做法是在编码与解码过程中的激活函数前引入 dropout 层, 在进行编码、解码时
进行掩模处理, 使得 AE 中的部分神经元激活值以一定的概率 qq(通常为 0.5)被置为 0
[14]
, 公
式为:
z′=Bernoulli(1,1−q)⋅11−q⋅zz′=Bernoulli(1,1−q)⋅11−q⋅z
(12)
式中, zz 表示原始激活函数的输入, z′z′表示经 dropout 层稀疏化后的激活函数的输入.
当神经元被置为 0, 只是意味着相应的神经元的权重和偏置在本次学习中得不到更新,
对原始的编码和解码过程不产生影响.
2. Bi-LSTM 模型
LSTM 模型由输入门 itit、遗忘门 ftft、输出门 otot 及记忆单元 ctct 构成. 通过 itit、ftft
和 otot 对网络中的信息进行选择性的输入、输出以及遗忘操作, 能够有效克服一般神经网
络所存在的梯度消失问题. LSTM 单个单元的内部结构如图 4 所示.
图 4 LSTM 单元内部结构
Fig. 4 Internal structure of the LSTM cell
下载: 全尺寸图片 幻灯片
一个完整的 LSTM 可表示为:
X=[xtht−1]X=[xtht−1]
(13)
剩余16页未读,继续阅读
资源评论
- jiutianfeiwufeng2023-05-22发现一个超赞的资源,赶紧学习起来,大家一起进步,支持!
罗伯特之技术屋
- 粉丝: 3587
- 资源: 1万+
下载权益
C知道特权
VIP文章
课程特权
开通VIP
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
最新资源
- OneNET云平台利用MQTT协议远程控制,ESP32
- travel 基于协同过滤算法的景点推荐系统.zip
- light room9.1.apk
- (单片机Protues入门笔记)单片机Proteus仿真软件入门笔记约80多页,内容图像并茂
- (单片机Proteus案例)基于80c51单片机的比赛计分器电路仿真实现
- 增强型51单片机(stc15系列)驱动ws2812彩灯模块库文件
- (单片机Protues案例)基于51单片机交通灯仿真实现
- 23种设计模式-C++实现.zip
- (单片机Protues案例)基于51单片机的频率计仿真实现
- (单片机Proteus案例)Proteus单片机仿真实例之键盘系列
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功