基于Pytorch的LSTM模型对股价的分析与预测

股价预测一直都是股票投资者重点关注和重点研究的方向,针对股价具有高度非线性、高噪声、动态性等问题,提出一种基于自组织特征映射(SOM)神经网络和长短期记忆网络(LSTM)共同应用的股价预测方法。第一步聚类,使用python语言实现改进的自组织特征映射神经网络算法,将187支股票分成三类,三类股票以盈利能力大小进行聚类,并且求出每一类所包含的股票代码;第二步预测,基于Pytorch深度学习框架构造长短期记忆网络模型,分别对每一类中随机的3支股票进行股价预测,再通过均方误差和决定系数对预测结果进行评价。结果表明,在使用相同的预测模型对不同盈利能力的股票做股价预测时,盈利能力越大的股票,预测精度越高。此研究可以为投资者筛选出盈利能力更大的股票,并且在提高股价预测精度上也具有一定的贡献。     

采用LSTM的风电功率预测方法研究

为实现风电功率的有效预测,本文提出了一种基于长短期记忆神经网络的风电功率预测方法,并建立了基于长短期记忆的风电功率预测模型。在公开的数据集中对该风电功率预测方法进行分析与验证。结果表明,该方法有较好的预测精度。     

基于卷积长短时记忆网络的CPI预测

针对消费价格指数（CPI）的预测值滞后于真实值的现象,提出一种基于卷积神经网络-长短期记忆（CNN-LSTM）深度网络的CPI预测模型,预测结果相较于传统方法有较小的均方根误差和平均绝对百分比误差,且预测结果的定向精度和Pearson相关系数显著高于传统方法。用卷积神经网络-长短期记忆深度网络学习期货数据的空间特征和时间特征,动态定量预测每日CPI的变化情况。为有效提高深度网络训练的样本数量,对月度CPI数据进行数据增强。通过滑动时间窗口动态训练模型,预测2019年1月至2020年5月CPI变化情况。模型预测CPI取得了较高的准确率,在基于日级别数据进行CPI预测时具有明显优势。     

基于多因子与多变量长短期记忆网络的股票价格预测

近年深度学习方法在金融领域受到广泛应用,尤其推动了股票价格预测的发展.本文针对一般股票价格预测中的单变量长短期记忆网络存在的准确率与鲁棒性不佳的问题,将经济学领域的量化选股策略中的多因子模型思想引入到股票价格预测中,计算股票的多因子并以其作为预测模型的输入特征.同时为了使模型适应多因子输入,因此在单变量长短期记忆网络的基础上建立了一个多变量长短期记忆网络股票价格预测模型.实验结果表明,随着多因子模型的引入,不仅提升了长短期记忆网络股票价格预测的准确率,同时在一定程度上也带来了更好的模型鲁棒性.     

深度学习的双人交互行为识别与预测算法研究

基于卷积神经网络的双人交互行为识别算法存在提取的深度特征无法有效表征交互行为序列特性的问题,本文将长短期记忆网络与卷积神经网络模型相结合,提出了一种基于深度学习的双人交互行为识别与预测一体化方法。该方法在训练过程中,完成对卷积神经网络和长短期记忆网络模型的参数训练。在识别与预测过程中,将不同时间比例长度的未知动作类别的视频图像分别送入已经训练好的卷积神经网络模型提取深度特征,再将卷积神经网络提取的深度特征送入长短期记忆网络模型完成对双人交互行为的识别与预测。在国际公开的UT-interaction双人交互行为数据库进行测试的结果表明,该方法在保证计算量适当的同时对交互行为的正确识别率达到了92.31%,并且也可完成对未知动作的初步预测。     

融合多源数据输入具有自注意力机制的LSTM股票价格预测

股票价格预测是金融和计算机学科交叉领域的经典问题,由于股票市场的复杂性和高波动性等特征,及时预测股票价格被认为是最具挑战性的问题之一.长短期记忆(LSTM)神经网络在时间序列预测问题中表现出良好的性能.然而,该模型及其改进模型专注于顺序捕获序列信息,在学习输入数据之间非序列性的内部关联方面没有优势.此外,模型在输入数据的融合方面往往并不全面.针对上述问题,提出了融合多源数据、具有自注意力机制的长短期记忆神经网络(SA-LSTM)股票价格预测模型.SA-LSTM模型具有自注意力单元,在学习序列特征时能够快速捕获长距离依赖关系,有效学习数据之间的相关性.在多源数据的融合方面,同时融合与目标股票直接间接相关的数据,解决输入数据不全面的问题.通过对股票次日收盘价预测的实验表明,与其他基准预测模型相比,该模型取得了最佳性能,在不同数据集上均具有最小预测误差.     

基于双向长短期记忆循环神经网络的网络流量预测

针对长短期记忆循环神经网络在对时间序列进行学习时存在早期特征记忆效果差、难以充分挖掘整个网络流量特征等问题,提出一种基于双向长短期记忆循环神经网络的网络流量预测方法,以提高网络流量预测的准确性。对网络流量序列进行双向学习,避免单向学习导致较早学习部分特征提取和记忆效果差的问题。同时双向学习可以充分挖掘网络流量天与天之间双向的特征,完整地学习到网络流量的整体特征。仿真实验结果表明,改进后的方法相比原方法具有更好的预测效果。     

简化LSTM的语音合成

在增大训练数据的情况下,使用传统的隐马尔科夫模型难以提升参数化语音合成预测质量。长短期记忆神经网络学习序列内的长程特征,在大规模并行数值计算下获得更准确的语音时长和更连贯的频谱模型,但同时也包含了可简化的计算。首先分析双向长短期记忆神经网络功能结构,接着移除遗忘门和输出门,最后对文本音素信息到倒频谱的映射关系建模。在普通话语料库上的对比实验证明,简化双向长短期记忆神经网络计算量减少一半,梅尔倒频率失真度由隐马尔科夫模型的3.466 1降低到1.945 9。     

基于生成式对抗神经网络的股票预测研究

针对股票价格具有非线性、非平稳的特点,提出一种结合自注意力机制和残差网络的生成式对抗神经网络模型（SAR-GAN）。该模型的生成器（generator）由长短期记忆网络（LSTM）层、自注意力机制层、残差层等构建而成,用于生成所预测股票的价格;判别器（discriminator）用于鉴别生成的股票价格与真实的股票价格。为验证模型良好的泛化性,选取上证指数及不同股票市场的热点行业龙头股票进行预测实验。实验结果表明,与LSTM、GRU、CNN-LSTM、CNN-GRU等模型相比,SAR-GAN模型能不同程度地减少预测误差。     

基于树结构长短期记忆神经网络的金融时间序列预测

针对传统方法对多噪声、非线性的时间序列无法进行有效预测的问题,以多尺度特征融合为切入点,提出并验证了基于树结构长短期记忆（LSTM）神经网络的预测方法。首先,提出了实现预测目标的核心方法,并分析了方法的内在优势;其次,构建了基于树结构长短期记忆神经网络的预测模型;最后,基于最近十年的国际黄金现货交易数据对模型进行了验证。实验结果表明,所提算法预测准确率高出最小成功率近10个百分点,证实了所提方法的有效性。     

基于Attention-BiLSTM-LSTM神经网络的短期电力负荷预测方法

短期电力负荷预测是电力系统中的重要问题之一,准确的预测结果可以提高电力市场的灵活性和资源利用效率,对电力系统高效运行具有重要意义.为了提高预测精度,针对电网负荷数据的时序性特征,提出一种基于Attention-BiLSTM-LSTM神经网络的短期电力负荷预测方法.该方法首先针对电力负荷的影响因素(温度、节假日等)提取特征,并使用双向长短期记忆(BiLSTM)神经网络层进行双向时序的特征学习;将双向时序特征作为长短期记忆(LSTM)神经网络层的输入,用LSTM神经网络建模学习时序数据的内部变化规律;使用attention机制计算LSTM隐层状态的不同权重,以对隐层状态进行选择性地关注;结合注意力权重和LSTM神经网络进行负荷预测,最后使用全连接层输出负荷预测结果.使用EUNIT电力负荷数据集进行实验,采用提前单点预测模式,该方法的平均绝对百分比误差(MAPE)达到1.66％,均方根误差(RMSE)达到814.85.通过与单LSTM网络、基于attention机制的LSTM网络(Attention-LSTM)、前馈神经网络(FFNN)、卷积神经网络联合长短期记忆神经网络(CNN-LSTM)等4种典型的负荷预测模型结果对比,验证了Attention-BiLSTM-LSTM神经网络方法更加准确有效.     

基于AM-LSTM的风电场内多点位风电功率预测

为了提高大型风电场的风电功率预测的准确性,构建基于多点位的注意力机制(AM)和长短期记忆神经网络(LSTM)混合预测模型.对于风电功率影响因素特征提取模块,利用属性简约方法,在保证不影响原有的分类效果上,去掉多余属性,大幅度提高预测效率.对于风电功率预测模块,首先,利用15分钟数据间隔,不同高度的风速等作为模型输入,然后通过LSTM处理输入的时间序列与风电功率之间的非线性关系,接下来通过AM进一步优化LSTM的权重,最终得到风电功率的预测结果.通过国外某电场数据的验证:将数据集按照季度分开,各个模型预测结果最为优的是第四季度,对于基于多点位的注意力机制和长短期记忆混合预测模型的均方根误差和平均绝对误差分别比前馈神经网络预测模型降低48.8％和17.4％,比单一长短期记忆神经网络预测模型降低37.2％和7.8％.     

基于TG–LSTM神经网络的非完整时间序列预测

针对传统模型对含数据缺失的非完整时间序列预测精度不高的问题,利用长短期记忆(LSTM)神经网络强大的时序建模能力,提出一种带时间门的长短期记忆(TG–LSTM)神经网络.首先,提出一种能同时对输入值在线估计和输出值实时预测的TG–LSTM单元结构;其次,基于TG–LSTM结构设计一种网络的前向传播算法,实现输入填补和输出预测同步进行;然后,建立TG–LSTM神经网络的学习算法来对输入填补和输出预测任务整体训练;最后,通过在Mackey-glass基准数据集,月平均气温数据集和污水处理出水氨氮预测中的实验结果表明:与传统方法相比,TG–LSTM神经网络模型能以更高精度对非完整时间序列进行填补和预测.     

基于Convolutional-LSTM的蛋白质亚细胞定位研究

蛋白质亚细胞位置预测研究是目前蛋白质组学和生物信息学研究的重点问题之一。蛋白质的亚细胞定位决定了它的生物学功能,故研究亚细胞定位对了解蛋白质功能非常重要。由于蛋白质结构的序列性,考虑使用序列模型来进行亚细胞定位研究。尝试使用卷积神经网络(convolutional neural network,CNN)、长短期记忆神经网络(long short-term memory,LSTM)两种模型挖掘氨基酸序列所包含的信息,从而进行亚细胞定位的预测。随后构建了基于卷积的长短期记忆网络(Convolutional-LSTM)的集成模型进行亚细胞定位。首先通过卷积神经网络对蛋白质数据进行特征抽取,随后进行特征组合,并将其送入长短期记忆神经网络进行特征表征学习,得到亚细胞定位结果。使用该模型能达到0.816 5的分类准确率,比传统方法有明显提升。     

基于时序超图卷积神经网络的股票趋势预测方法

传统的股票预测方法大多基于时间序列模型,忽视了股票之间复杂的关系,并且该关系往往超出成对连接,例如同行业板块内股票或者基金持仓多支股票。针对该问题,提出一种基于时序超图卷积神经网络（HGCN）的股价走势预测方法,根据金融投资事实构造超图模型以拟合股票之间的多元关系,该模型包括两大组件：门控循环单元（GRU）网络和超图卷积神经网络。GRU网络对历史数据进行时间序列建模,捕捉长期依赖关系;HGCN建模股票间的高阶关系以学习内在关系属性,从而将股票间多元关系信息引入到传统的时序建模中,进行端到端的趋势预测。在中国A股市场真实数据集上的实验结果表明,相较于已有的股票预测方法,所提模型预测性能有所提升;如与GRU网络相比,所提模型在ACC和F1_score上的相对增幅分别为9.74%和8.13%,且更具有稳定性。此外,模拟回测结果显示,基于该模型的交易策略更具获利能力,年回报率达到11.30%,与长短期记忆（LSTM）网络相比提高了5个百分点。     

基于改进神经网络的农作物产量预测方法

农作物产量预测对政府规划国民经济的发展具有决定性作用,对于合理统筹种植策略以及减少水肥的浪费有着重要意义。影响农作物产量的因素众多,准确预测农作物产量具有非常重要的意义。气候是影响农作物产量的重要因素。以气候因素为依据,提出了一种基于改进长短期记忆神经网络的农作物产量时间序列预测的方法,将历史产量和气候因素相结合,以固定年份为单位对下一年农作物产量进行预测。实验结果表明,与长短期记忆神经网络、支持向量机方法进行对比,本方法在农作物产量时间序列预测中有较高的准确性。     

基于mRMR和VMD-AM-LSTM的短期风功率预测

为了提高模型预测风功率的准确率,提出了一种基于最大相关-最小冗余筛选、变分模态分解、注意力机制和长短期记忆神经网络的短期风功率预测方法.首先使用变分模态分解算法将风功率序列分解成几个中心频率不同的分量;再对各个分量结合最大相关-最小冗余筛选出的气象特征分别建立注意力机制和长短期记忆混合预测模型;最后将各个分量的预测结果...     

基于卷积神经网络与双向长短时融合的锂离子电池剩余使用寿命预测

针对锂离子电池剩余使用寿命（remaining useful life,RUL）传统预测方法的精确度与稳定性较低等问题,融合卷积神经网络（convolutional neural network,CNN）和双向长短期记忆（bidirectional long short-term memory,BiLSTM）神经网络的...     

基于注意力机制的CNN-LSTM短期股票价格预测

根据股价存在的高频性、长记忆性及不确定性,文章给出了基于注意力机制的卷积神经网络一长短期记忆网络股票价格序列预测方法。首先使用CNN来对数据序列进行卷积操作,以提取其特征分量。然后,利用长短期记忆网络(LSTM)对所抽取出的特征分量做序列预测。最终,注意力模块通过神经网络来自动化拟合权重分配,并对LSTM各个时间节点的隐含层输出向量与对应的权重相乘并求和,为重要的特征分量赋予更大的权重,以此作为模型最终的特征表达。     

GRU递归神经网络对股票收盘价的预测研究

股票市场是个多变且复杂的非线性动力学系统,股票价格是个具有时序性的数据,基于此选用具有时间记忆功能的GRU（Gated Recurrent Unit）递归神经网络模型来处理时间序列数据的预测问题。本文选取上证中18支证券行业股票的日收盘价数据,该数据截止日期为2017年12月29日,每支股票数据量为1000天。本文作了2个实证研究,一方面用GRU递归神经网络预测未来10天的股票日收盘价,实证结果表明,GRU递归神经网络的测试误差和验证误差都比其余2个模型得到的同种类型的误差要小,而GRU递归神经网络在预测未来10天日收盘价的精度达到了98.3%,体现了GRU强大的学习能力和泛化能力。另一方面,对比序列长度分别为240天、120天以及60天时,GRU递归神经网络的测试误差、预测收盘价的方差以及验证误差。结果表明面对不同序列长度的数据集,GRU预测精度都很高,序列长度为240天的GRU模型得到的测试结果的方差明显低于其他2个,说明其稳定性更好。