一种基于DE-ENN的烟气轮机运行状态潜在风险识别方法

针对烟气轮机在运行中潜在风险难以快速准确识别的问题,提出了一种基于差分进化-可拓神经网络（DE-ENN）的风险识别方法．该方法根据可拓学的基本理论对烟气轮机的运行模型进行拓展分析,构建物元模型,确定特征向量和潜在风险等级;接着将差分进化思想引入到可拓神经网络中,以解决学习速率和加权系数难以确定的问题,进而提出了完整的DE-ENN算法,并用UCI标准数据集进行测试,验证了该算法的有效性．最后将该算法应用于烟机运行模型的潜在风险识别,实验结果表明该方法不仅结构简单、运行时间短、预测准确率高,而且还具有出色的泛化能力．     

基于CNN和GRU的混合股指预测模型研究

针对股票数据共线性和非线性的特点,提出了一种基于卷积神经网络（Convolutional Neural Network,CNN）和门控循环单元（Gated Recurrent Unit,GRU）神经网络的混合预测模型,并对沪深300指数、上证综指和深证成指进行了预测。该模型首先采用CNN提取特征向量,对原始数据进行降维,然后利用GRU神经网络学习特征动态变化规律进行股指预测。仿真结果表明,与GRU神经网络、长短时记忆（Long-Short-Term Memory,LSTM）神经网络和CNN相比,该模型能够挖掘历史数据中蕴含的信息,有效提高股指预测的准确率,并可为股指交易提供一些参考。     

基于改进的CBOW与ABiGRU的文本分类研究

文本的表示与文本的特征提取是文本分类需要解决的核心问题,基于此,提出了基于改进的连续词袋模型（CBOW）与ABiGRU的文本分类模型。该分类模型把改进的CBOW模型所训练的词向量作为词嵌入层,然后经过卷积神经网络的卷积层和池化层,以及结合了注意力（Attention）机制的双向门限循环单元（BiGRU）神经网络充分提取了文本的特征。将文本特征向量输入到softmax分类器进行分类。在三个语料集中进行的文本分类实验结果表明,相较于其他文本分类算法,提出的方法有更优越的性能。     

基于自适应的神经模糊推理的医疗大数据风险访问控制研究

针对传统风险预测方法预测精度低，导致医疗大数据风险访问控制效果不佳的问题，提出构建一个基于自适应神经模糊理论的风险轻量化模型。首先，对BP神经网络的基本原理进行具体分析；然后在BP神经网络的基础上，结合模糊理论知识和T-S模型特性，构建一个基于T-S的模糊神经网络模型；最后通过此模型对访问风险进行量化处理，并根据访问控制策略判断是否授予访问权限。仿真结果证明，构建的模型预测结果与实际输出结果误差均值小于le-5;在非法用户的比例小于15%时，基于自适应神经模糊理论的风险轻量化模型的精确率和召回率较高。由此说明，该模型在医疗大数据风险访问控制中具有可行性。     

基于神经网络的邢台市空气质量预测模型构建研究

随着邢台市空气污染日趋严重,构建基于神经网络的空气质量等级预测模型具有重要意义.文章以邢台市空气主要污染源的排放量、日最高温度、日最低温度、风力及空气质量等级为样本数据,基于MATLAB神经网络的背景,运用BP神经网络、PNN神经网络、Elman神经网络模式识别方法构建空气质量预测模型,通过对比预测空气质量等级和实际等级评价模型,结果表明,BP神经网络正确率41.94％,PNN网络正确率38.71％,Elman网络正确率35.48％,BP神经网络所构建的预测模型效果最好.     

基于密集连接卷积神经网络的链路预测模型

现有的基于网络表示学习的链路预测算法主要通过捕获网络节点的邻域拓扑信息构造特征向量来进行链路预测，该类算法通常只注重从网络节点的单一邻域拓扑结构中学习信息，而对多个网络节点在链路结构上的相似性方面研究不足。针对此问题，提出一种基于密集连接卷积神经网络（DenseNet）的链路预测模型（DenseNet-LP）。首先，利用基于网络表示学习算法node2vec生成节点表示向量，并利用该表示向量将网络节点的结构信息映射为三维特征数据；然后，利用密集连接卷积神经网络来捕捉链路结构的特征，并建立二分类模型实现链路预测。在四个公开的数据集上的实验结果表明，相较于网络表示学习算法，所提模型链路预测结果的ROC曲线下方面积（AUC）值最大提高了18个百分点。     

基于量子粒子群神经网络的太阳黑子数预测磁

为了提高太阳黑子数的预测精度,论文提出了一种基于量子粒子群神经网络预测太阳黑子数的模型（QPSO-BP 网络）。首先基于前18个太阳周（1755～1953）的年均值,利用量子粒子群算法优化 BP 神经网络的权值和阀值,完成网络训练训;然后对第19太阳周（1954～2013）年均值进行预测,检验模型的预测能力。与普通 BP 神经网络预测的对比结果表明,该模型在逼近能力和预测精度两方面均有明显提高,从而表明基于量子粒子群优化的训练方法对于提高神经网络预测能力具有一定潜力。     

基于自注意力长短期记忆网络的Web软件系统实时剩余寿命预测方法

为了能够实时准确对Web软件系统的剩余使用寿命（RUL）进行预测,考虑Web系统健康状态性能指标的时序特性和指标间的相互依赖特性,提出了一种基于自注意力长短期记忆（Self-Attention-LSTM）网络的Web软件系统实时剩余寿命预测方法。首先,搭建加速寿命测试实验平台来收集反映Web软件系统老化趋势的性能指标数据;然后,根据该性能指标数据的时序特性来构建长短期记忆（LSTM）循环神经网络以提取性能指标的隐含层特征,并使用自注意力机制建模特征间的依赖关系;最后,得到系统RUL的实时预测值。在三组测试集上,把所提模型与反向传播（BP）网络和常规的循环神经网络（RNN）做了对比。实验结果表明,所提模型的平均绝对误差（MAE）比长短期记忆（LSTM）网络平均低16.92%,相对准确率（Accuracy）比LSTM网络平均高5.53%,验证了Self-Attention-LSTM网络剩余寿命预测模型的有效性。可见所提方法能为优化系统抗衰决策提供技术支撑。     

基于双通道卷积神经网络的航班延误预测模型

针对航班延误预测数据量大、特征提取困难而传统算法处理能力有限的问题,提出一种基于双通道卷积神经网络（DCNN）的航班延误预测模型。首先,该模型将航班数据和气象数据进行融合,应用DCNN进行自动特征提取,采用批归一化（BN）和Padding策略优化,提升到港延误等级的分类预测性能;然后,在卷积神经网络（CNN）基础上加入直通通道,以保证特征矩阵的无损传输,增强深度网络的畅通性;同时引入卷积衰减因子对卷积通道的特征矩阵进行稀疏性限制,控制不同网络深度的特征叠加比例,维持模型的稳定性。实验结果表明,所提模型与传统模型相比,具有更强的数据处理能力。通过数据融合,航班延误预测准确率可提高1个百分点;加深网络深度后,该模型能保证梯度的稳定,从而训练更深的网络,使准确率提升至92.1%。该基于DCNN算法的模型特征提取充分,预测性能优于对比模型,可更好地服务于民航决策。     

基于时空特征向量的长短期记忆人工神经网络的城市公交旅行时间预测

针对“随着预测距离的增加,旅行时间预测的难度加大”的问题,提出了一种基于时空特征向量的长短期记忆（LSTM）和人工神经网络（ANN）的综合预测模型。首先,将24 h切分为288个时间切片,以生成时间特征向量;然后,基于时间切片建立LSTM时间窗口模型,该模型可解决长期预测的窗口移动问题;其次,将公交线路切分为多个空间切片,并使用当前空间切片的共同平均速度作为瞬时速度,同时将每个空间切片的预测时间用作空间特征向量,并将其发送到新型的混合神经网络模型LSTM-A中,该模型结合两种预测模型的优点并解决了公交旅行时间预测问题;最后,基于实验数据集进行了实验和测试：将公交站点间的预测问题划分为线路切片预测子问题,并针对每个相关的子问题引入了实时计算的概念,从而避免了复杂路况带来的预测误差。实验结果表明,所提算法在准确性、适用性方面均优于单个神经网络模型。综上,所提的新型混合神经网络模型LSTM-A能从时间特征的维度实现长距离到站预测、从空间特征的维度实现短距离到站预测,从而有效地解决了城市公交旅行时间预测问题,避免了公交车辆的远程依赖和错误积累。     

基于Attention-LSTM-Kalman建模的风洞动态流量软测量

针对风洞流量测量中传统静态软测量模型估计精度低、鲁棒性差等问题,提出了注意力机制（Attention mechanism, Attention）、长短时记忆神经网络（Long short-term memory, LSTM）和卡尔曼滤波（Kalman filtering, Kalman）结合的Attention-LSTM-Kalman软测量模型：通过LSTM网络建立静态软测量模型,在此基础上,提出一种基于注意力机制的改进方案,考虑到系统的动态特性,使用卡尔曼滤波动态调整软测量模型输出序列。实验结果表明,静态预测模型LSTM的预测效果优于循环神经网络（Recurrent neural network, RNN）和门控循环单元（Gated recurrent unit, GRU）等模型;基于LSTM、Attention-LSTM和Attention-LSTM-Kalman的3种模型的对比预测测量结果表明,注意力机制能有效提高模型精准度,引入卡尔曼滤波改善了模型的动态测量特性。该模型方案在风洞系统的流量测量验证了其可行性和有效性。     

基于蚁群算法优化反向传播神经网络的软件质量预测

针对基于反向传播神经网络（BPNN）的软件质量预测模型存在收敛慢、模型精度不高的问题,提出一种基于蚁群算法优化BPNN的软件质量预测（SQP-ACO-BPNN）方法。首先,选择软件质量评价指标,确立软件质量评价体系;其次,采用BPNN构建初始软件质量预测模型,并利用蚁群优化（ACO）算法确定若干网络结构、网络初始连接权值和阈值;再次,给出网络结构评价函数,选择神经网络模型的最佳结构、网络初始连接权值和阈值;最后,通过BP算法训练该网络,得到最终的软件质量预测模型。在机载嵌入式软件质量预测数据上的实验结果表明,优化后的BPNN模型有效提高了预测的准确率、精确率、召回率和F1值,并且模型能够更快收敛,验证了SQP-ACO-BPNN方法的有效性。     

基于循环神经网络的电信行业容量数据预测方法

在电信运维的容量预测过程中,存在容量指标和部署业务种类繁多的问题。现有研究未考虑指标数据类型的差异,对所有类型的数据使用同种预测方法,使得预测效果参差不齐。为了提升指标预测效率,提出一种指标数据类型分类方法,利用该方法将数据类型分为趋势型、周期型和不规则型。针对其中的周期型数据预测,提出基于双向循环神经网络（BiRNN）的周期型容量指标预测模型,记作BiRNN-BiLSTM-BI。首先,为分析容量数据的周期特征,提出一种忙闲分布分析算法;其次,搭建循环神经网络（RNN）模型,该模型包含一层BiRNN和一层双向长短时记忆网络（BiLSTM）;最后,充分利用系统忙闲分布信息,对BiRNN输出的结果进行优化。与传统的三次指数平滑、差分自回归移动平均（ARIMA）模型和反向传播（BP）神经网络模型进行比较的实验结果表明,在统一日志数据集和分布式缓存数据集上,提出的BiRNN-BiLSTM-BI模型的均方误差（MSE）分别比对比模型中表现最优的模型降低了15.16%和45.67%,可见预测准确率得到了很大程度的提升。     

基于HHT-LSTM的冬奥会临时设施运行趋势预测方法研究

针对冬奥会延庆赛区临时设施的安全性和可使用性,本文充分结合信号处理算法与深度神经网络,提出了一种由希尔伯特黄变换（Hilbert-Huang transform,HHT）对时序数据进行信号分解和信号特征提取,长短期记忆网络（long short-term memory,LSTM）进行临时设施运行趋势预测2部分构成模型。该模型基于受严寒天气和大客流诱发的看台振动等一系列外因影响所测得的真实振动和倾角数据,实现对设施进行有效的预测,以避免发生安全问题,解决了由于受数据中一些无关特征因素的干扰导致预测准确度低的问题。论文提出的方法与循环神经网络（recurrent neural network, RNN）、门控循环网络（gated recurrent neural network,GRU）、双向RNN和双向GRU等运行趋势预测方法进行比较,验证了本文方法的可行性和有效性,实验结果也说明所提出的模型在此类任务中表现非常出色。     

基于经验模态分解自回归组合模型的网络舆情预测

随着大数据时代的到来,网络舆情数据呈现信息量大和领域覆盖广等特征。面对复杂的网络舆情数据时,传统单一模型预测能力有限,不能对舆情趋势进行有效预测。针对此问题,提出一种基于经验模态分解-自回归（EMD-AR）改进的组合模型——EMD-ARXG模型,应用于复杂网络舆情的预测。该模型利用经验模态分解算法对时间序列进行分解,然后通过自回归模型对分解后的时间序列进行各自趋势拟合,建立子模型。最后再对各个子模型进行重构,完成建模。另外,在利用自回归（AR）模型拟合过程中,为了减少拟合误差,采用极限梯度提升算法对残差进行学习,并使预测模型迭代更新,提高各个子模型预测精度。为验证EMD-ARXG模型的预测效果,该模型与小波神经网络模型和基于经验模态分解的神经网络模型进行实验对比。实验结果表明,在均方根误差（RMSE）、平均绝对百分误差（MAPE）和希尔不等系数（TIC）三项指标上,EMD-ARXG模型获得的结果均优于小波神经网络模型和基于经验模态分解的神经网络模型的结果。     

基于改进的多层BLSTM的中文分词和标点预测

目前主流的序列标注问题是基于循环神经网络（RNN）实现的。针对RNN和序列标注问题进行研究,提出了一种改进型的多层双向长短时记忆（BLSTM）网络,该网络每层的BLSTM都有一次信息融合,输出包含更多的上下文信息。另外找到一种基于序列标注的可以并行执行中文分词和标点预测的联合任务方法。在公开的数据集上的实验结果表明,所提出的改进型的多层BLSTM网络模型性能优越,提升了中文分词和标点预测的分类精度;在需要完成中文分词和标点预测两项任务时,联合任务方法能够大幅地降低系统复杂度;新的模型及基于该模型的联合任务方法也可应用到其他序列标注任务中。     

基于图注意力网络与双阶注意力机制的径流预报模型

为了提高流域径流量预报的准确率,考虑数据驱动水文模型缺乏模型透明度与物理可解释性的问题,提出了一种使用图注意力网络与基于长短期记忆网络（LSTM）的双阶注意力机制（GAT-DALSTM）模型来进行径流预报。首先,以流域站点的水文资料为基础,引入图神经网络提取流域站点的拓扑结构并生成特征向量;其次,针对水文时间序列数据的特点,建立了基于双阶注意力机制的径流预报模型对流域径流量进行预测,并通过基于注意力系数热点图的模型评估方法验证所提模型的可靠性与透明度。在屯溪流域数据集上,将所提模型与图卷积神经网络（GCN）和长短期记忆网络（LSTM）在各个预测步长下进行比较,实验结果表明,所提模型的纳什效率系数分别平均提高了3.7%和4.9%,验证了GAT-DALSTM径流预报模型的准确性。从水文与应用角度对注意力系数热点图进行分析,验证了模型的可靠性与实用性。所提模型能为提高流域径流量的预测精度与模型透明度提供技术支撑。     

利用Bagging算法和GRU模型预测股票价格指数

股价预测对监管部门了解金融市场运行状况和投资者规避股市的高风险具有重要意义。提出了一种基于门控循环（gated recurrent unit,GRU）神经网络和装袋（Bagging）的方法,并将其应用于股指的预测研究。该模型通过Bagging方法处理训练数据集,在模型构建过程中引入随机性,并结合GRU模型预测股价,最终能够降低预测误差,提高预测准确性。通过4个数据集实验结果的对比发现：（1）GRU模型能够较好地预测股指数据,与另外两种单个模型相比,多数情况下具有更小的预测误差;（2）引入Bagging方法的GRU模型具有较强的预测能力,相比于三种基准模型（GRU、ELM、BP）有更小的预测误差和更高的预测稳定度。     

基于长短期记忆网络的高速公路车辆变道轨迹预测模型

高速公路车辆车速、车距、行驶方向等因素都是动态变化的,受外界环境干扰,采集到的目标车辆状态特征数据可能存在噪声,导致车辆变道轨迹预测存在误差,为此提出基于长短期记忆网络的高速公路车辆变道轨迹预测模型,有效预测高速公路车辆变道轨迹,改善车辆行驶条件,保障其安全运行。通过激光雷达、GPS等装置采集目标车辆交通数据,将其合理组合成目标车辆状态观测特征向量,并构建相应的特征向量矩阵,将所构建目标车辆状态观测特征向量矩阵作为1层卷积神经网路输入,提取目标车辆状态观测特征向量潜在特征后,以1层卷积神经网络输出结果为双向长短期记忆网络有效输入,经过无数次模型训练后,输出目标车辆变道轨迹预测结果。实验结果表明:该模型可有效预测高速公路车辆变道轨迹,预测出的轨迹横纵坐标误差极低,能够得到较为理想的高速公路车辆变道轨迹预测结果。     

基于图注意力网络与双阶注意力机制的径流预报模型

为了提高流域径流量预报的准确率,考虑数据驱动水文模型缺乏模型透明度与物理可解释性的问题,提出了一种使用图注意力网络与基于长短期记忆网络（LSTM）的双阶注意力机制（GAT-DALSTM）模型来进行径流预报。首先,以流域站点的水文资料为基础,引入图神经网络提取流域站点的拓扑结构并生成特征向量;其次,针对水文时间序列数据的特点,建立了基于双阶注意力机制的径流预报模型对流域径流量进行预测,并通过基于注意力系数热点图的模型评估方法验证所提模型的可靠性与透明度。在屯溪流域数据集上,将所提模型与图卷积神经网络（GCN）和长短期记忆网络（LSTM）在各个预测步长下进行比较,实验结果表明,所提模型的纳什效率系数分别平均提高了3.7%和4.9%,验证了GAT-DALSTM径流预报模型的准确性。从水文与应用角度对注意力系数热点图进行分析,验证了模型的可靠性与实用性。所提模型能为提高流域径流量的预测精度与模型透明度提供技术支撑。