没有合适的资源?快使用搜索试试~ 我知道了~
基于周期性建模的时间序列预测方法及电价预测研究.docx
1.该资源内容由用户上传,如若侵权请联系客服进行举报
2.虚拟产品一经售出概不退款(资源遇到问题,请及时私信上传者)
2.虚拟产品一经售出概不退款(资源遇到问题,请及时私信上传者)
版权申诉
0 下载量 172 浏览量
2023-02-23
20:16:44
上传
评论
收藏 1.07MB DOCX 举报
温馨提示
试读
16页
基于周期性建模的时间序列预测方法及电价预测研究.docx
资源推荐
资源详情
资源评论
时间序列数据在现实生活中广泛存在, 例如金融领域中的交易数据和经济统计数据、
消费电商领域中的用户浏览和购买数据、医疗领域中的医疗器械的信号记录、天气监测站
记录的天气指标数据等
[1-4]
. 这些时间序列数据是相应领域非常宝贵的数据资源, 对这些数
据的准确、有效分析和利用有助于减小人力成本, 提高生产效率, 提高经济收益
[5]
.
现实中的时间序列通常具有复杂的非线性动态, 这为时间序列预测带来了困难. 另外,
由于人类活动或自然运动的影响, 时间序列数据常常体现出一定的周期性. 周期性的提取对
时间序列预测有着积极意义. 时间序列的趋势同样具有重要的意义, 有时甚至作为预测的目
的.
传统的时间序列分析方法源自于自回归模型(Autoregressive model, AR)和移动平滑模
型(Mo-ving average, MA). 自回归移动平滑模型(Autoregressive model and moving average,
ARMA)和在其基础上发展起来的自回归差分移动平滑模型(Auto-regressive integrated
moving average, ARIMA)是时间序列分析的经典方法
[6]
. 另外, 自回归条件异方差模型
(Autoregressive conditional heteroscedasticity, ARCH)
[7]
和广义自回归条件异方差模型(Gen-
eralized autoregressive conditional heteroscedasticity, GARCH)
[8]
引入了异方差, 对时间序列的
波动性进行建模. 基于机器学习的支持向量机回归(Sup-port vactor regression, SVR)和核岭回
归(Kernel ridge regression, KRR)等方法在时间序列分析上已经有大量的研究
[9-11]
. 随着深度
学习理论的发展, 循环神经网络(Recurrent neural networks, RNNs)已经成为处理时间序列数
据的主流, 在大量应用场景中取得了不俗的效果
[12-13]
. 回声状态网络(Echo state network,
ESN)也是时间序列预测的常用模型
[14]
.
传统的时间序列分析方法基于平稳性假设
[15]
, 对短期平稳的时间序列有较好的预测效
果, 但是难以对复杂非线性时间序列数据进行有效建模. SVR 和 KRR 等机器学习方法使用
滑动窗口的方式处理预测序列, 忽略了时间序列数据的序列属性, 不能很好地捕捉时间序列
中的长时依赖. 同时 SVR 和 KRR 受限于模型容量, 难以达到预测非线性时间序列的最佳效
果. 深度神经网络由于其超强的拟合能力, 在复杂非线性时间序列数据的处理方面有着天然
的优势. 同样对于分割后的序列窗口, 深度神经网络仍能从中捕捉时间序列的长期依赖.
能源领域是产生大量时间序列的领域, 如电力用量数据、风力序列数据、太阳能数据
和电力价格数据等. 其中, 电力价格是能源市场上的关键因素, 影响着能源市场的流通和运
行. 能源市场的自由属性使电力价格具备了金融商品性质, 但其还受到电力传输和需求量的
影响. 电力传输受电网传输容量的限制, 而电力需求量受人类活动和天气因素的影响. 在这
些影响因素下, 电力价格数据呈现出长期复杂非线性动态, 体现出高波动性. 另外电力价格
还存在着明显的周期性.
传统的时间序列预测方法对电力价格的预测已有大量研究和应用
[16]
, 而循环神经网络
在电力价格预测中同样取得了不错的效果
[17]
. 针对能源领域时间序列的周期性属性, 传统的
方法主要采用信号处理方法, 而常规的循环神经网络中并没有对时间序列的周期性进行建
模的模块. 目前, 许多研究针对数据的周期性展开, 主要研究工作有: Clements 等
[18]
提出了
多方程时间序列方法, 在方程中加入了周期设定, 对澳洲能源市场的电力负载进行预测;
Anbazhagan 等
[19]
使用离散余弦变换处理原始序列, 并用神经网络进行建模; Rafiei 等
[20]
使用
小波变换处理原始序列, 并用极限学习机对分解结果进行建模等.
针对循环神经网络难以对时间序列数据的周期性直接进行建模的问题, 本文结合时间
序列周期分解的思想, 设计了循环神经网络的周期损失和趋势损失, 分别对时间序列中的周
期和趋势进行辅助建模; 在多任务学习框架下, 将周期损失、趋势损失和模型自身的损失函
数相结合, 联合优化循环神经网络. 提出的模型用于能源市场的电力价格预测, 实验结果取
得了较好的预测精度, 验证了周期和趋势对时间序列预测的作用, 说明本文提出的周期损失
和趋势损失能够有效地辅助模型捕捉数据特征.
1. 循环神经网络
循环神经网络是常用的建模时间序列的神经网络模型. 循环神经网络使用基于时间的
反向传播算法(Back-propagation through time, BPTT)来训练网络.
1.1 基础循环单元
基础的循环神经网络及其展开形式如图 1 所示. 其数学形式为
图 1 一个展开的基础循环神经网络
Fig. 1 The unfold structure of RNN
下载: 全尺寸图片 幻灯片
ht=f(Uxt+Wht−1)ht=f(Uxt+Wht−1)
(1)
ot=g(Vht)ot=g(Vht)
(2)
其中, UU, VV, WW 都是网络的参数, ff 和 gg 表示激活函数, 可以是 ReLU、sigmoid
和 tanh 等非线性函数. xtxt 表示 tt 时刻的输入, htht 表示 tt 时刻网络的隐藏状态, otot 表示
tt 时刻网络的输出.
基础的循环神经网络在训练时会面对梯度爆炸或梯度消失的问题
[21]
.
1.2 长短时记忆网络
为了克服循环神经网络的梯度爆炸和梯度消失问题, Hochreiter 等
[22]
提出了长短时记忆
网络(Long short term memory, LSTM). LSTM 的内部结构如图 2 所示.
图 2 LSTM 的内部结构示意图
Fig. 2 The schematic diagram of LSTM
下载: 全尺寸图片 幻灯片
LSTM 的主要思想是引入门控单元和长时记忆单元. 门控单元负责控制长时记忆单元
中状态的记忆、修改和遗忘. 同时, LSTM 还具有和基础循环神经网络相同的短期记忆单元.
LSTM 的数学表示为
ft=σ(Wf[ht−1,xt]+bf)ft=σ(Wf[ht−1,xt]+bf)
(3)
it=σ(Wi[ht−1,xt]+bi)it=σ(Wi[ht−1,xt]+bi)
(4)
ot=σ(Wo[ht−1,xt]+bo)ot=σ(Wo[ht−1,xt]+bo)
(5)
C~t=tanh(WC[ht−1,xt]+bC)C~t=tanh(WC[ht−1,xt]+bC)
(6)
剩余15页未读,继续阅读
资源评论
罗伯特之技术屋
- 粉丝: 3649
- 资源: 1万+
下载权益
C知道特权
VIP文章
课程特权
开通VIP
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功