基于GAN网络的时间序列预测算法.docx
版权申诉
112 浏览量
2023-02-23
19:59:28
上传
评论
收藏 596KB DOCX 举报
通过挖掘多维时间序列相互之间的结构关系以及时间序列中反映出的变量随时间不断变化
的趋势，利用历史数据对未来的数据进行预测，在商业和工业领域有着重要的意义
[1-4]
。如预测
电力负荷数据，从而对发电量等资源的配置进行优化
[5-6]
。传统的时间序列预测模型，如差分自
回归移动平均模型(autoregressive integrated moving average model，ARIMA)、指数平滑等，
主要利用较为单一的数据特征，如数据的周期性、变化趋势等进行预测，对于单一的自回归序
列，该类算法具有较好的预测效果，但由于其无法捕捉序列自身或序列复杂的结构关系，对于
较复杂的多维时间序列等，该类算法不能获得较好的预测效果。随着深度学习技术的发展，国
内外学者基于深度学习技术对时间序列预测开展了更深入的研究，如基于循环神经网络的编码
器模型
[7-8]
以及注意力模型
[9]
。Qin 等
[7]
模仿人类注意力机制提出了一种双阶段注意力机制的自编
码网络，解决了传统网络对多维时间序列无法捕捉较长时间内数据间的相关性，并选择合适的
数据序列来进行预测的问题。但现有的预测网络模型主要存在 2 个缺点：1）大部分网络采用
自回归生成模式，由于网络特性
[9]
，随着预测时间的增长会导致预测中出现累积误差，从而影
响预测精度；2）大部分网络其本质是探索目标序列的单一分布期望，面对不符合假设的序
列，其预测效果往往不理想。
GAN 是一种通过网络的反向传播直接塑造输出分布的模型。受此启发，本文设计了一种
将改进后的 DA-RNN 网络和 GAN 相结合的多维时间序列预测算法，利用 GAN 网络中的判别
器对 DA-RNN 网络进行优化，从而在消除累积误差的同时加强网络对于随机变量的预测效果。
受到 Transformer 网络启发，本文采用多维注意力机制模型
[10]
对 DA-RNN 网络进行改进，同时
考虑到只有少数的历史数据在预测中起到决定性作用，因此本文利用 a - entmaxa - entmax 稀
疏映射
[11-12]
函数进行归一化变换，使得与当前预测无关的历史数据所占权重为零。
1. DA-RNN 算法改进
DA-RNN 算法是一种从仿生角度出发，模仿人类观察事物的机制提出的一种时间序列预
测网络。网络利用编码器部分的注意力模型，实现从多维时间特征序列中挑选出与当前时刻相
关性强的序列特征，并将其用于后续的预测。
1.1 提升网络运行速度
DA-RNN 网络使用长短期记忆（long short-term memory，LSTM）网络单元作为网络基
本单元，利用单元内部 3 个门控信号的配合完成对记忆信号的选择性遗忘以及对当前输入的选
择，遗忘门控信号 ftft 、输入门控信号 itit 及输出门控信号 otot 的表达形式如下所示。
it=σ(WxiTxt+WhiTht−1+bi)it=σ(WxiTxt+WhiTht−1+bi)
ft=σ(WxfTxt+WhfTht−1+bf)ft=σ(WxfTxt+WhfTht−1+bf)
ot=σ(WxoTxt+WhoTht−1+bo)ot=σ(WxoTxt+WhoTht−1+bo)
式中： WW 为权重矩阵， xtxt 为当前时刻网络输入， ht−1ht−1 为前一时刻网络隐藏状
态， bb 为网络偏置项。
资源评论
罗伯特之技术屋
- 粉丝: 3700
- 资源: 1万+
下载权益
C知道特权
VIP文章
课程特权
VIP享7折，此内容立减5.97元 开通VIP
