针对PM2.5单时间序列数据的动态调整预测模型

针对细颗粒物PM2.5的浓度预测,本文提出了基于单时间序列数据的动态调整模型.在动态指数平滑算法中,指数平滑次数与参数基于样本数据并借助二分查找进行调整.在动态马尔科夫模型中,马尔科夫链的残差状态数、隐马尔科夫模型的隐状态数、连续样本数和阈值参数都通过训练数据加以调整.动态调整模型将指数平滑法和马尔科夫模型有效结合起来,指数平滑法得到的预测值由马尔科夫模型进行校正,从而提高预测准确度.基于大量实际PM2.5数据进行测试,验证了算法的有效性.并与其他现有的灰色模型、人工神经网络、自回归滑动平均模型、支持向量机等方法进行了对比,表明所提模型能够得到精度更高的预测结果.本文模型不局限于PM2.5数据,还可应用于其他类型的数据预测.     

CEEMD-WT和CNN在短期风速预测中的应用研究

由于风速存在随机性和不稳定性,为了提高短期风速预测的精度,提出了一种基于完备总体经验模态分解（CEEMD）、小波变换（WT）和卷积神经网络（CNN）的短期风速预测混合模型。首先,CEEMD算法把原始风速序列分解成一些相对平稳的固有模态函数和一个残差序列;然后,WT算法对每个固有模态函数进行二次去噪,进一步消除噪声对固有模态函数的影响;最后,卷积神经网络对每个固有模态函数、残差序列和影响风速的5个属性训练预测得到各自的预测结果,对所有的预测结果重构得到最终的预测结果。通过实验与其他4个风速预测模型进行比较,所提出的模型预测的绝对平均百分比误差（MAPE）最小,为2.484%,表明在短期风速预测方面CEEMD-WT-CNN模型有较好的性能。     

基于WTFMC算法的递归模糊神经网络结构设计

针对递归模糊神经网络(Recurrent fuzzy neural network, RFNN)的递归量难以自适应的问题, 提出一种基于小波变换–模糊马尔科夫链(Wavelet transform fuzzy Markov chain, WTFMC)算法的RFNN模型.首先, 在时间维度上记录隐含层神经元的模糊隶属度, 并采用小波变换将该时间序列进行分解, 通过模糊马尔科夫链对子序列的未来时段进行预测, 之后将各预测量合并后代入递归函数中得到具有自适应性的递归量.其次, 利用梯度下降算法更新RFNN的参数来保证神经网络的精度.最后, 通过非线性系统建模中几个基准问题和实际污水处理中关键水质参数的预测实验, 证明了该神经网络模型的可行性和有效性.     

基于SFLA-CNN和LSTM组合模型的水位预测

水文时间序列受降雨量的影响,在变化规律上呈现季节性、非线性的特点。传统单一模型结构简单,对于复杂的非线性水文时间序列具有预测精度较低、不能很好捕捉水文时间序列的复合特征的问题。组合预测模型采用多分类器的思想,能够有效地提高预测准确度,然而在模型参数选择方面需要手工调参,花费时间多且不准确。本文提出一种基于SFLA-CNN和LSTM的组合预测模型：通过随机蛙跳算法SFLA对CNN模型进行参数寻优,得到优化后的SFLA-CNN预测模型;之后利用BP神经网络对SFLA-CNN和LSTM模型的预测值进行非线性组合,获得最终预测结果。在江苏省太湖区域的水位预测实验结果表明,该组合模型与现有模型相比,有效地提高了预测准确率,具有更好的泛化能力。     

基于马尔科夫残差修正的瓦斯浓度预测

针对采用灰色神经网络预测瓦斯浓度时部分预测值精度不高的问题,提出用马尔科夫模型对三阶灰色神经网络模型预测结果进行修正的方法;介绍了灰色神经网络模型的建立和马尔科夫修正残差方法,并采用该方法对某煤矿不同时间、不同地点的瓦斯浓度进行分析预测。实际应用结果表明,经马尔科夫残差修正后的瓦斯浓度预测值与实测值的最大相对误差从14%减小到6%,修正后的瓦斯浓度变化曲线更接近实际瓦斯浓度变化趋势。     

基于马尔科夫残差修正的瓦斯浓度预测

针对采用灰色神经网络预测瓦斯浓度时部分预测值精度不高的问题,提出用马尔科夫模型对三阶灰色神经网络模型预测结果进行修正的方法;介绍了灰色神经网络模型的建立和马尔科夫修正残差方法,并采用该方法对某煤矿不同时间、不同地点的瓦斯浓度进行分析预测。实际应用结果表明,经马尔科夫残差修正后的瓦斯浓度预测值与实测值的最大相对误差从14%减小到6%,修正后的瓦斯浓度变化曲线更接近实际瓦斯浓度变化趋势。     

基于LSTM和时间序列分析法的短期风速预测

短期风速对输电线路影响巨大,由于短期风速的随机性和非线性特性,使得短期风速难以精确预测。提出了一种将长短时记忆网络和时间序列分析法相结合的组合预测算法来实现对短期风速的预测。首先,利用时间序列分析法对短期风速进行预测得到预测结果和预测残差,然后利用长短时记忆网络对预测残差进行预测,最后将两种方法得到的预测结果进行线性组合得到最终的预测结果序列。为验证所提出的算法的实际效果,将提出的算法与时间序列分析法、长短时记忆网络以及BP神经网络等进行对比。实验结果表明,组合算法有效提高了短期风速序列预测精度,是一种可行的分析方法。     

智慧农业中时序数据组合预测模型

智慧农业是实现农业精准化的技术解决方案,智慧农业系统可以实时监测植物生长的各类环境参数,并可以应用相应的预测模型来模拟农作物生长环境的变化趋势,为科学决策提供依据。近年来有很多学者提出了时间序列的预测模型算法,在预测稳定性方面取得了不错的效果。为了进一步提升时间序列的预测精度,提出一种基于差分整合移动平均自回归模型和小波神经网络的组合预测模型。该组合模型结合2个单项模型优点,用差分整合移动平均自回归模型来拟合序列的线性部分,用小波神经网络来校正其残差,使其拟合曲线更接近于实际值,采用温室内的历史温度数据来验证该组合模型的精确度,最后将组合模型与传统预测模型的预测结果进行对比。结果表明,该组合模型用于温室温度预测的精确度更高,拟合效果更好,相比于传统模型预测算法计算效能提高了20%左右。     

灰色Verhulst-BP网络组合模型在预测中的应用研究

在灰色Verhulst模型和BP神经网络理论的基础上,对两者的结合方式进行了研究,提出了部分数据Verhulst模型组的概念,得到了一种结合灰色Verhulst与BP神经网络的组合预测模型。利用BP神经网络建立部分数据Verhulst模型组与原始数据之间的非线性映射关系,克服了小样本时间序列数据在神经网络训练时的缺陷。实验结果和仿真验证表明,该组合预测模型具有较高的预测精度和良好的稳定性。     

基于残差网络和门控卷积网络的语音识别研究

由于传统循环神经网络具有复杂的结构,需要大量的数据才能在连续语音识别中进行正确训练,并且训练需要耗费大量的时间,对硬件性能要求很大.针对以上问题,提出了基于残差网络和门控卷积神经网络的算法,并结合联结时序分类算法,构建端到端中文语音识别模型.该模型将语谱图作为输入,通过残差网络提取高层抽象特征,然后通过堆叠门控卷积神经...     

Norm-DP模型行人检测优化算法

传统深度金字塔模型作为一种有效的行人检测算法备受关注,融合可变形部件模型和卷积神经网络模型,但特征提取部分使用的算法像素区域的大小不同,导致模型之间不能完全融合,在行人数量多、姿势复杂和有遮挡情况时的检测效果不理想。因此,提出一种基于规范化函数的深度金字塔模型(Norm-DP)算法,使用规范化函数融合可变形部件模型和卷积神经网络模型,直接从金字塔特征中提取正负样本,使用隐变量支持向量机进行模型训练,结合柔性非最大抑制(soft-NMS)算法和边界框回归(BBR)算法对定位框进行优化。分别使用INRIA和MS COCO数据集进行实验验证,在行人数量多、姿势复杂和有遮挡情况时,检测精度高于最优的可变形部件模型算法、卷积神经网络算法、深度金字塔模型算法和结合区域选择的卷积神经网络算法。     

图网络层级信息挖掘分类算法综述

深度学习作为人工智能的一个研究分支发展迅速,而研究数据主要是语音、图像和视频等,这些具有规则结构的数据通常在欧氏空间中表示。然而许多学习任务需要处理的数据是从非欧氏空间中生成,这些数据特征和其关系结构可以用图来定义。图卷积神经网络通过将卷积定理应用于图,完成节点之间的信息传播与聚合,成为建模图数据一种有效的方法。尽管图卷积神经网络取得了巨大成功,但针对图任务中的节点分类问题,由于深层图结构优化的特有难点——过平滑现象,现有的多数模型都只有两三层的浅层模型架构。在理论上,图卷积神经网络的深层结构可以获得更多节点表征信息,因此针对其层级信息进行研究,将层级结构算法迁移到图数据分析的核心在于图层级卷积算子构建和图层级间信息融合。本文对图网络层级信息挖掘算法进行综述,介绍图神经网络的发展背景、存在问题以及图卷积神经网络层级结构算法的发展,根据不同图卷积层级信息处理将现有算法分为正则化方法和架构调整方法。正则化方法通过重新构建图卷积算子更好地聚合邻域信息,而架构调整方法则融合层级信息丰富节点表征。图卷积神经网络层级特性实验表明,图结构中存在层级特性节点,现有图层级信息挖掘算法仍未对层级特性节点的图信息进行完全探索。最后,总结了图卷积神经网络层级信息挖掘模型的主要应用领域,并从计算效率、大规模数据、动态图和应用场景等方面提出进一步研究的方向。     

结合Bi-2DPCA与CNN的美式手语识别

针对现有美式手语（ASL）识别算法准确率低和模型训练时间长的问题,提出一种结合双向二维主成分分析（Bi-2DPCA）与卷积神经网络（CNN）并基于贝叶斯优化的识别算法。利用Bi-2DPCA算法对原始图像做数据降维处理,提取行、列方向的特征图,使用卷积神经网络对特征图进行训练分类,同时采用贝叶斯优化算法对模型超参数进行自动调参。在24分类ASL数据集上的实验结果表明,该算法的识别准确率达到99.15%,训练时间相比传统CNN算法减少90.3%。     

基于多尺度特征和注意力的金融时序预测方法

金融时间序列预测是经济领域中一个非常重要的实际问题,然而,由于金融市场的噪声和波动性,当前存在方法的预测精度尚不能令人满意。为了提高金融时间序列的预测精度,提出了一种融合扩张卷积神经网络（dilated convolutional neural network,DCNN）、长短时记忆神经网络（long short term memory,LSTM）和注意力机制（attention mechanism,AT）的混合预测模型DCNN_LSTM_AT。该模型由两个部分组成：第一部分包含扩张卷积神经网络和基于LSTM的编码器,其功能在于提取原始序列数据中不同时间尺度的有效信息;第二部分由带注意力机制的LSTM解码器构成,其功能在于对第一部分提取的信息进行过滤并利用过滤后的信息进行预测。最后将所提模型在3支股指数据集和3支个股数据集上进行实验,并与其他常见的基准模型进行了对比,实验结果表明该模型相比于其他模型具有更好的预测精度和稳定性。     

基于特征复用的卷积神经网络模型压缩方法

为了在不降低准确率的前提下，减小卷积神经网络模型的体积与计算量，提出一种基于特征复用的卷积神经网络压缩模块——特征复用单元（FR-unit）。首先，针对不同类型的卷积神经网络结构，提出不同的优化方法；然后，在对输入特征图进行卷积操作后，将输入特征与输出特征进行结合；最后，将结合后的特征传递给下一层。通过对低层特征的重复使用，使总的提取的特征数量不发生改变，以保证优化后的网络的准确率不会发生改变。在CIFAR10数据集上进行验证，实验结果表明，优化后的VGG模型体积缩小为优化前的75.4%，预测时间缩短为优化前的43.5%；优化后的Resnet模型体积缩小为优化前的53.1%，预测时间缩短为优化前的60.9%，且在测试集上的准确率均未降低。     

SAR图像目标识别的卷积神经网模型

目的 合成孔径雷达图像目标识别可以有效提高合成孔径雷达数据的利用效率。针对合成孔径雷达图像目标识别滤波处理耗时长、识别精度不高的问题,本文提出一种卷积神经网络模型应用于合成孔径雷达图像目标识别。方法 首先,针对合成孔径雷达图像特点设计特征提取部分的网络结构;其次,代价函数中引入L2范数提高模型的抗噪性能和泛化性;再次,全连接层使用Dropout减小网络的运算量并提高泛化性;最后研究了滤波对于网络模型的收敛速度和准确率的影响。结果 实验使用美国运动和静止目标获取与识别数据库,10类目标识别的实验结果表明改进后的卷积神经网络整体识别率（包含变体）由93.76%提升至98.10%。通过设置4组对比实验说明网络结构的改进和优化的有效性。卷积神经网络噪声抑制实验验证了卷积神经网络的特征提取过程对于SAR图像相干斑噪声有抑制作用,可以省去耗时的滤波处理。结论 本文提出的卷积神经网络模型提高了网络的准确率、泛化性,无需耗时的滤波处理,是一种合成孔径雷达图像目标识别的有效方法。     

GM(1,1)残差修正的季节性神经网络预测模型及其应用

季节性时间序列具有增长性和波动性的二重趋势。灰色模型GM(1,1)能反映时间序列的总体变化趋势,但不能很好反映其季节性波动变化的具体特征,在模拟与预测季节性时间序列中有明显的局限性。文中介绍了季节性神经网络建立的残差修正模型。通过季节性神经网络模型对GM(1,1)的残差序列进行分析,提取其中的非线性成分作为预测时的补偿项,以进行残差修正,从而形成GMSANN叠合预测模型。实例表明,所建模型具有较好的适应性和预测精度。     

提高小样本高光谱图像分类性能的变维卷积神经网络

目的 为了解决基于卷积神经网络的算法对高光谱图像小样本分类精度较低、模型结构复杂和计算量大的问题,提出了一种变维卷积神经网络。方法 变维卷积神经网络对高光谱分类过程可根据内部特征图维度的变化分为空—谱信息融合、降维、混合特征提取与空—谱联合分类的过程。这种变维结构通过改变特征映射的维度,简化了网络结构并减少了计算量,并通过对空—谱信息的充分提取提高了卷积神经网络对小样本高光谱图像分类的精度。结果 实验分为变维卷积神经网络的性能分析实验与分类性能对比实验,所用的数据集为Indian Pines和Pavia University Scene数据集。通过实验可知,变维卷积神经网络对高光谱小样本可取得较高的分类精度,在Indian Pines和Pavia University Scene数据集上的总体分类精度分别为87.87%和98.18%,与其他分类算法对比有较明显的性能优势。结论 实验结果表明,合理的参数优化可有效提高变维卷积神经网络的分类精度,这种变维模型可较大程度提高对高光谱图像中小样本数据的分类性能,并可进一步推广到其他与高光谱图像相关的深度学习分类模型中。     

基于残差的改进卷积神经网络图像分类算法

现有深度残差网络作为一种卷积神经网络的变种,由于其良好的表现,被应用于各个领域,深度残差网络虽然通过增加神经网络深度获得了较高的准确率,但是在相同深度情况下,仍然有其他方式提升其准确率.本文针对深度残差网络使用了三种优化方法：（1）通过卷积网络进行映射实现维度填充;（2）构建基于SELU激活函数的残差模块（3）学习率随迭代次数进行衰减.在数据集Fashion-MNIST上测试改进后的网络,实验结果表明：所提出的网络模型在准确率上优于传统的深度残差网络.     

结合自注意力和残差的BiLSTM_CNN文本分类模型

双向长短期记忆网络（BiLSTM）和卷积神经网络（CNN）很难在文本的多分类任务中提取到足够的文本信息。提出了一种基于自注意力机制（self_attention）和残差网络（ResNet）的BiLSTM_CNN复合模型。通过自注意力赋予卷积运算后信息的权重,接着将池化后的特征信息层归一化并接入残差网络,让模型学习到残差信息,从而进一步提高模型的分类性能。在模型的运算过程中,使用了更加光滑的Mish非线性激活函数代替Relu。通过与深度学习模型对比,所提出的方法在准确率以及F1值评价指标上均优于现有模型,为文本分类问题提供了新的研究思路。