文档章节

基于Keras的LSTM多变量时间序列预测

AllenOR灵感
 AllenOR灵感
发布于 2017/09/10 01:12
字数 2178
阅读 178
收藏 0

摘要:还在为设计多输入变量的神经网络模型发愁?来看看大神如何解决基于Keras的LSTM多变量时间序列预测问题!文末附源码!

       LSTM是一种时间递归神经网络,它出现的原因是为了解决RNN的一个致命的缺陷。原生的RNN会遇到一个很大的问题,叫做The vanishing gradient problem for RNNs,也就是后面时间的节点会出现老年痴呆症,也就是忘事儿,这使得RNN在很长一段时间内都没有受到关注,网络只要一深就没法训练。后来有些大牛们开始使用递归神经网络来对时间关系进行建模。而根据深度学习三大牛的阐述,LSTM网络已被证明比传统的RNNS更加有效。

      适合多输入变量的神经网络模型一直让开发人员很头痛,但基于(LSTM)的循环神经网络能够几乎可以完美的解决多个输入变量的问题。

      基于(LSTM)的循环神经网络可以很好的利用在时间序列预测上,因为很多古典的线性方法难以适应多变量或多输入预测问题。

       在本教程中,你会看到如何在Keras深度学习库中开发多变量时间序列预测的LSTM模型。

读完本教程后,你将学会:

如何将原始数据集转换为可用于时间序列预测的数据集。

如何准备数据并创建适应多变量时间序列预测问题的LSTM。

如何做出预测并将结果重新调整到原始单位。

本教程分为3部分:

1.空气污染预报。

2.基本数据准备。

3.多变量LSTM预测模型。

Python环境

       本教程假设你已安装Python SciPy环境,你可以在本教程中使用Python 2或3。你必须使用TensorFlow或Theano后端安装Keras(2.0或更高版本)。本教程还 假设你已经安装了scikit-learn,Pandas,NumPy和Matplotlib。

空气污染预报

       在这个小例子中,我们将使用空气质量数据集。这是一个数据集,在美国驻北京大使馆五年内报告天气和污染水平。数据类型包括日期时间、称为PM2.5浓度的污染物、以及天气信息、包括露点(露点温度)、温度、压力、风向、风速和累积的降雪小时数。原始数据中的完整功能列表如下:

1. NO:行号。

2. year:年。

3. month:月。

4. day:日。

5. hour:小时。

6. pm2.5:PM2.5浓度。

7. DEWP:露点温度。

8. TEMP:温度。

9. PRES:压力。

10. cbwd:风向。

11. Iws:风速。

12. ls:积雪的时间

13. Ir:累积的下雨时数

       我们可以使用这些数据并构建一个预测问题,基于天气条件和前几个小时的污染,我们预测在下一个小时的污染。你可以从UCI Machine Learning Repository下载数据集—北京PM2.5数据集。下载数据集并将其放在你当前的工作目录中,文件名为“raw.csv”。

基本数据准备

第一步,我们必须清洗数据。

以下是原始数据集的前几行。



       第一步是将日期时间信息整合为一个日期时间,以便我们可以将其用作Pandas的索引。我们需要快速显示前24小时的pm2.5的NA值。因此,我们需要删除第一行数据。在数据集中还有几个分散的“NA”值;我们现在可以用0值标记它们。

       以下脚本加载原始数据集,并将日期时间信息解析为Pandas Data Frame索引。“No”列被删除,然后为每列指定更清晰的名称。最后,将NA值替换为“0”值,并删除前24小时。


       运行该示例打印转换的数据集的前5行,并将数据集保存到“pollution.csv”。


       下面的代码加载了“ pollution.csv ”文件,并将每个系列作为单独的子图绘制,除了风速dir,这是分类的。


      运行示例创建一个具有7个子图的程序,显示每个变量的5年数据。


多变量LSTM预测模型建立:

LSTM数据准备

       第一步是为LSTM准备污染数据集。这涉及将数据集视为监督学习问题并对输入变量进行归一化处理。考虑到上一个时间段的污染测量和天气条件,我们将把监督学习问题作为预测当前时刻(t)的污染情况。根据过去24小时的天气情况和污染,预测下一个小时的污染,并给予下一个小时的“预期”天气条件。

       我们可以使用在博客中开发的series_to_supervised()函数来转换数据集:如何将时间序列转换为Python中的监督学习问题

       首先,加载“pollution.csv”数据集。风速特征是标签编码(整数编码)。如果你有兴趣探索,也可以使用热编码。

       接下来,所有功能都被规范化,然后将数据集转换为监督学习问题。然后删除要预测的小时的天气变量(t)。

完整的代码清单如下:



       运行示例打印转换后的数据集的前5行。我们可以看到8个输入变量(输入序列)和1个输出变量(当前小时的污染水平)。


       注意:我们必须提供超过一小时的输入时间步长。因为在解决序列预测问题时,LSTMs通过时间进行反向传播。

定义和拟合模型

       在本节中,我们将通过多变量输入数据拟合LSTM。

       首先,我们必须将准备好的数据集分成训练集和测试集。为了加快对这次示范模型的训练,我们将仅使用第一年的数据来拟合模型,然后对其余4年的数据进行评估。下面的示例将数据集分成训练集和测试集,然后将训练集和测试集分成输入和输出变量。最后,将输入(X)重构为LSTM预期的3D格式,即[样本,时间步长,特征]。


       运行此示例打印训练集的形状:


       现在我们可以定义和拟合我们的LSTM模型。

       我们将在第一个隐层中定义具有50个神经元的LSTM和用于预测污染的输出层中的1个神经元。输入形状是1个时间步长,具有8个特征。

       我们将在我们的模型中使用平均绝对误差(MAE)损失函数。该模型将拟合50个批量大小为72的训练时期。最后,我们通过在fit()函数中设置validation_data参数来跟踪训练过程中的训练和测试失败。在运行结束时,绘制训练和测试损失。


评估模型

       模型拟合后,我们可以预测整个测试数据集。

       我们将预测的数据集与测试数据集相结合,并反演缩放。我们还可以用预期的污染数字来反演测试数据集的缩放。使用预测值和实际值,我们可以计算模型的误差分数。并且我们还可以计算出与变量本身相同的单位产生误差的均方根误差(RMSE)。

完整例子

       完整的示例如下所示:源程序附件中下载!

       运行示例首先创建一个绘图,显示训练中的训练损失和测试损失:


       有趣的是,我们可以看到测试损失低于训练损失,该模型可能过度拟合训练数据。

       训练损失和测试损失在每个训练时期结束时打印。在运行结束时,打印测试数据集上模型的最终RMSE。我们可以看到,该模型实现了可观的RMSE:3.836。


总结:

在本教程中,你发现了如何将LSTM适用于多变量时间序列预测问题。

具体来说,你学到了:

如何将原始数据集转换为可用于时间序列预测的内容。

如何准备数据并适应多变量时间序列预测问题的LSTM。

如何做出预测并将结果重新调整到原始单位。

本文由@阿里云云栖社区组织翻译。

文章原标题《Multivariate Time Series Forecasting with LSTMs in Keras》

作者:Jason Brownlee

译者:袁虎 审阅:主题曲哥哥

本文转载自:http://www.jianshu.com/p/bebf8ca6a946

AllenOR灵感
粉丝 11
博文 2635
码字总数 83001
作品 0
程序员
私信 提问
时间序列深度学习:状态 LSTM 模型预测太阳黑子(一)

本文翻译自《Time Series Deep Learning: Forecasting Sunspots With Keras Stateful Lstm In R》 由于数据科学机器学习和深度学习的发展,时间序列预测在预测准确性方面取得了显着进展。随着...

R语言中文社区
2018/08/27
0
0
在浏览器中进行深度学习:TensorFlow.js (十一)时间序列预测

时间序列是对某一个或者一组变量 x(t) 进行观察测量,将在一系列时刻 t1,t2,⋯,tn 所得到的离散数字组成的序列集合。 时间序列预测的机器学习的一种常见应用,例如预测股票和金融产品价格走势...

naughty
05/20
446
0
独家 | 教你使用简单神经网络和LSTM进行时间序列预测(附代码)

翻译:张玲 校对:丁楠雅 文章来源:微信公众号 数据派THU 本文约1500字,建议阅读5分钟。 作者基于波动性标准普尔500数据集和Keras深度学习网络框架,利用python代码演示RNN和LSTM RNN的构建...

子夜初商南
08/25
0
0
技术 | 如何在Python下生成用于时间序列预测的LSTM状态

长短期记忆网络(LSTM)是一种强大的递归神经网络,能够学习长观察值序列。 LSTM的一大优势是它们能有效地预测时间序列,但是作这种用途时配置和使用起来却较为困难。 LSTM的一个关键特性是它...

AI科技大本营
2017/10/17
0
0
基于 Keras 的 LSTM 时间序列分析——以苹果股价预测为例

简介 时间序列简单的说就是各时间点上形成的数值序列,时间序列分析就是通过观察历史数据预测未来的值。预测未来股价走势是一个再好不过的例子了。在本文中,我们将看到如何在递归神经网络的...

AI智能学者
03/20
0
0

没有更多内容

加载失败,请刷新页面

加载更多

为什么?老程序员申请加薪至30K遭拒愤然辞职,公司转眼花35K招新

身在职场,经常会暗自打听同事工资,尤其是得知身边新入职同事的工资居然比自己高,还高出一大截时,心里自然很不平衡,一心想要离职。 那么,为什么公司宁愿花高价招聘新员工也不愿意给老员...

Java技术剑
1分钟前
1
0
云桌面到底是什么,企业该用云桌面吗

随着云计算和大数据时代的到来,当前企业里讨论最多的话题之一就是:企业到底要不要用云桌面这个话题的,有的人说企业应该使用云桌面的,因为可以降低使用成本和简化运维管理,同时也有的人说...

GZASD
5分钟前
1
0
技术分享 | gh-ost 原理剖析

作者简介: 杨奇龙,网名“北在南方”,7年DBA老兵,目前任职于杭州有赞科技DBA,主要负责数据库架构设计和运维平台开发工作,擅长数据库性能调优、故障诊断。 一、简介 上一篇文章(gh-ost ...

爱可生
9分钟前
2
0
手机短信删除了怎么恢复?几个方法就能恢复

  手机短信删除了怎么恢复?前几天有个小伙伴收到了一条来着面试的通知,这个面试对他很重要,但是可气的是刚好在清理手机里面的垃圾短信,然后收到了短信之后又被删除了,却又不知道该怎么...

科技第六人
23分钟前
4
0
浅谈Builder建造者模式

一、前言 Builder建造者模式和模板模式非常像,但是也有区别,模板模式中父类对子类中的实现进行操作,在父类之中进行一件事情的处理,但是在Builder模式之中,父类和子类都不用关心怎么处理...

青衣霓裳
28分钟前
6
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部