基于互信息变量选择与LSTM的电站锅炉NOx排放动态预测

电站锅炉NO_x排放是大气污染物的重要来源,建立有效的预测模型是降低NO_x排放的基础。NO_x的排放特性受多个热工变量的影响,针对变量间的相关性和强耦合性,提出一种基于互信息变量选择和长短期记忆神经网络的预测模型,实现对NO_x排放的动态预测。以互信息"最小冗余最大相关"为准则对特征变量进行重要性排序和变量选择。在变量筛选过程中采用序列前向选择方法,以模型预测精度为目标确定最优输入特征集和最佳模型参数。将筛选出来的特征变量集作为LSTM预测模型的输入,并采用多层网格搜索算法优化网络超参数,建立了NO_x排放动态预测模型。基于某660 MW超超临界燃煤机组的运行数据对模型进行验证,实验结果表明该方法能够有效地减少模型输入变量的数目,降低变量间的信息冗余,同时提高了预测模型的精度和鲁棒性。     

基于卷积门控循环网络的齿轮箱故障诊断

为充分利用信号的时序相关性特征,增强模型对数据信息的全面挖掘能力,以进一步提高卷积神经网络(CNN)诊断精度,本文将CNN与善于处理数据时序相关性特征的门控循环单元(GRU)相结合,提出了一种新的齿轮箱故障诊断模型。CNN通过端对端的方式提取数据空间特征,并将提取的特征作为GRU的输入进一步提取时空特征,最后将GRU提取的时空特征作为SoftMax的输入进行故障识别。两组齿轮箱实验数据分析结果显示:平均故障诊断精度分别可达99.86%和99.85%,与其它现有模型的结果对比体现了本文模型的有效性和优越性。     

基于C-GRU的微博谣言事件检测方法

提出基于卷积-门控循环单元(convolution-gated recurrent unit, C-GRU)的微博谣言事件检测模型。结合卷积神经网络(convolutional neural networks, CNN)和门控循环单元(gated recurrent unit, GRU)的优点,将微博事件博文句向量化,通过CNN中的卷积层学习微博窗口的特征表示,将微博窗口特征按时间顺序拼接成窗口特征序列,将窗口特征序列输入GRU中学习序列特征表示进行谣言事件检测。在真实数据集上的试验结果表明,相比基于传统机器学习方法、CNN和GRU的谣言检测模型,该模型有更好的谣言识别能力。     

基于GA-GRNN数据挖掘的SCR脱硝系统建模优化研究

火电厂选择性催化还原法(SCR)烟气脱硝系统是处理燃煤机组烟气排放NOx污染的主要途径,但该系统具有多输入变量、环境影响复杂、时变非线性等特征,因此建立准确的系统模型是SCR优化控制的基础。提出了一种融合遗传算法(GA)主元分析和广义回归神经网络(GRNN)数据挖掘的SCR系统建模方法。首先使用GA对运行数据进行变量选择优化计算;然后将最优变量作为GRNN的输入量,利用数据挖掘技术建立SCR系统数据模型。基于某电厂机组运行数据的实例分析表明,该方法建立的模型具有复杂度低、精度高、泛化能力强等优点。     

隐含情感特征感知的智能客服系统情感分类模型

为研究智能客服系统中用户的情感分类,基于数据构成的复杂性,提出了一种智能客服情感分类的模型,该模型采用CNN(卷积神经网络)+特征模型+GRU(门循环单元)网络框架实现了多特征融合数据的情感分类.模型针对智能客服系统中用户中文语料库语句简短且偏重口语化,隐喻、讽刺等特点,构建了针对不同特征的语料卷积神经网络的特征模型,结合CNN采用循环神经网络GRU进行情感分类.大量的实验结果表明：该模型能够有效解决多特征融合的中文文本情感分类问题,在智能客服系统中人机交互场景具有广泛的应用前景.     

基于门控循环单元与主动学习的协同过滤推荐算法

针对传统协同过滤推荐算法存在无法反映用户短时兴趣的问题,提出一种基于门控循环单元(gated recurrent unit, GRU)神经网络与主动学习的协同过滤推荐算法。在采用GRU神经网络的基础上,将数据进行时序化处理,反映用户兴趣变化,并利用主动学习动态采样数据中的高质量的数据进行GRU神经网络的训练,使模型快速建立。在MovieLens1M数据集上的试验结果表明:加入主动学习的GRU模型的推荐算法比基于用户的协同过滤推荐算法(user-based collaborative filtering, UCF)、基于马尔科夫模型的协同过滤推荐算法(markov chain, MC)、基于隐语义模型的协同过滤推荐算法(latent factor model, LFM)算法有更高的短时预测率、召回率、项目覆盖率以及用户覆盖数,能够有效预测用户短时兴趣,提升精度,发掘长尾物品,且与原始GRU模型相比能够以更少的迭代次数达到相同效果。     

基于IPSO-GRU的锂离子电池剩余使用寿命预测

为了提高预测锂离子电池剩余使用寿命(RUL)的精度,提出了一种基于改进型粒子群算法(IPSO)与门控循环单元(GRU)神经网络的锂离子电池RUL预测模型。首先,通过改变PSO算法的惯性权重和学习因子的更新规则,提高其寻优能力;然后,通过IPSO算法优化GRU神经网络的参数选择,搭建IPSO-GRU模型。最后,利用美国国家航空航天局(NASA)公开的锂离子电池实验数据进行试验,验证IPSO-GRU模型的准确性。实验结果表明,相比于直接采用单一GRU模型,所提IPSO-GRU模型降低了容量预测误差,有效提高了锂离子电池RUL预测精度。     

深度集成森林回归建模方法及应用

复杂工业过程因涉及多种物理/化学反应,其质量指标或环保指标等难测参数的精确数学模型难以构建.常用的基于神经网络的数据驱动建模方法存在可解释性差、样本需求量大等缺点.针对上述问题,提出了一种非神经网络模式的深度集成森林回归(deep ensemble forest regression,DEFR)建模方法.首先,基于样本空间和特征空间的随机采样策略获得训练子集后构建T个基于决策树(decision trees,DT)的子森林模型,将采用K最近邻(K-nearest neighbor,KNN)准则选取的层回归向量与原始特征组合获得的增强层回归向量作为输入层森林模型的输出;然后,采用相同方式构建包含若干预设层数的中间层森林模型;最后,基于上层增强层回归向量构建输出层的子森林模型,通过对其T个输出值的加权获得DEFR模型的预测值.采用加州大学欧文分校(University of California Irvine,UCI)平台混凝土抗压强度数据和城市固废焚烧过程的二口恶英排放质量浓度数据仿真验证了所提方法的有效性.     

基于特征工程的XGboost风速短期预测

为了解决现有风速预测模型精度不足以及数据利用度不高的问题,实现更高精度更快速度的风速短期预测,提出了一种基于特征工程的极限梯度提升算法(eXtreme Gradient boosting, XGboost)风速预测模型。XGboost算法是一种boosting集成学习算法,具有精度高速度快的特点。所提方法通过提取风速序列的5个统计特征,并与原始风速序列进行结合获得新的模型训练输入集,从而实现数据的充分利用,并采用XGboost算法对新输入集进行风速预测,提高了模型的预测精度。以江阴市某风电场实测风速数据进行预测,预测结果表明：基于时间-特征序列的XGboost风速预测模型具有精确的预测结果与快速的训练速度,与长短期记忆网络(long short-term memory,LSTM)、门控循环单元（gated recurrent unit,GRU)、卷积神经网络-长短期记忆网络（convolutional neural networkslong short-term memory,CNN-LSTM)及轻梯度提升机（light gradient boosting machine,LightG...     

基于CGA模型的盾构扭矩预测研究

以盾构近距离下穿既有车站结构为背景,提出了一种结合卷积神经网络(Convolutional Neural Networks, CNN)、门控制循环单元神经网络(Gated Recurrent Unit, GRU)和注意力机制(Attention)的新型盾构荷载预测模型。首先用CNN-Attention模型提取数据的高维空间特征并区分不同特征的重要性,然后通过GRU模型提取数据的时序特性,紧接着通过注意力机制提取出重要时间节点信息,最后得出预测的结果。为验证所提模型的预测效果,选取了4种现有的算法进行比较。结果表明所提出的模型在三种评价指标上均优于其他算法模型,同时该模型还可为盾构刀具磨损、地表及结构变形等方面的预测研究提供思路。     

基于串并行卷积门阀循环神经网络的短文本特征提取与分类

针对短文本数据特征少、提供信息有限,以及传统卷积神经网络（convolutional neural network,CNN）和循环神经网络（recurrent neural network,RNN）对短文本特征表示不充分的问题,提出基于串并行卷积门阀循环神经网络的文本分类模型,处理句子特征表示与短文本分类。该网络在卷积层中去除池化操作,保留文本数据的时序结构和位置信息,以串并行的卷积结构提取词语的多元特征组合,并提取局部上下文信息作为RNN的输入;以门阀循环单元（gated recurrent unit,GRU）作为RNN的组成结构,利用文本的时序信息生成句子的向量表示,输入带有附加边缘距离的分类器中,引导网络学习出具有区分性的特征,实现短文本的分类。实验中采用TREC、MR、Subj短文本分类数据集进行测试,对网络超参数选择和卷积层结构对分类准确率的影响进行仿真分析,并与常见的文本分类模型进行了对比实验。实验结果表明：去掉池化操作、采用较小的卷积核进行串并行卷积,能够提升文本数据在多元特征表示下的分类准确率。相较于相同参数规模的GRU模型,所提出模型的分类准确率在3个数据集中分别提升了2.00%、1.23%、1.08%;相较于相同参数规模的CNN模型,所提出模型的分类准确率在3个数据集中分别提升了1.60%、1.57%、0.80%。与Text-CNN、G-Dropout、F-Dropout等常见模型相比,所提出模型的分类准确率也保持最优。因此,实验表明所提出模型可改善分类准确率,可实际应用于短文本分类场景。     

基于门控循环单元的链路质量预测

链路质量预测可以为上层路由协议选择高质量的无线链路进行通信提供依据。采用手肘法优化的K-means++算法,在此基础上自适应划分链路质量等级;选择RSSI均值、LQI均值以及SNR均值作为链路质量参数;基于Catboost评估链路质量,采用网格搜索法优化CatBoost超参数;使用滑动时间窗口得到链路质量时间序列样本集,使用 GRU提取链路质量的时序信息,将时序信息输入支持向量回归预测得到下一时刻链路质量等级。在室内、走廊以及停车场三个场景下实验表明,与基于小波神经网络、循环神经网络和随机向量函数链等方法构建的链路质量预测模型相比,本文提出的方法有更高的预测准确率。     

基于深度学习的录音文本分类方法

为了提高具有关联工单数据的录音文本的分类精确率,根据录音文本及关联数据的特点,设计基于深度学习的录音文本分类方法. 针对录音文本,通过双向词嵌入语言模型（ELMo）获得录音文本及工单信息的向量化表示,基于获取的词向量,利用卷积神经网络（CNN）挖掘句子局部特征;使用CNN分别挖掘工单标题和工单的描述信息,将CNN输出的特征进行加权拼接后,输入双向门限循环单元（GRU）,捕捉句子上下文语义特征;引入注意力机制,对GRU隐藏层的输出状态赋予不同的权重. 实验结果表明,与已有算法相比,该分类方法的收敛速度快,具有更高的准确率.     

注意力卷积GRU自编码器及其在工业过程监控的应用

针对现有故障检测算法难以深入并准确地提取数据内在信息的问题,提出注意力卷积门控循环单元自编码器（CGRUA-AE）深度神经网络和基于CGRUA-AE的过程故障检测方法. 采用卷积门控循环单元（ConvGRU）有效地提取输入数据的空间和时间特征;建立基于ConvGRU的自编码器,采用无监督学习对时间序列数据进行特征提取,引入注意力机制对相应的特征进行加权计算,实现对关键特征的有效选择;分别在特征空间与残差空间上建立基于T ²、SPE统计量的过程监控模型,实现对多元数据有效的特征提取和故障检测. 数值案例和田纳西?伊士曼过程故障检测结果表明,CGRUA-AE具有良好的特征提取能力和故障检测能力,性能优于常用的过程故障检测方法.     

Radio Frequency Fingerprint-Based Satellite TT&C Ground Station Identification Method

This study presents a radio frequency (RF) fingerprint identification method combining a convolutional neural network (CNN) and gated recurrent unit (GRU) network to identify measurement and control signals. The proposed algorithm (CNN-GRU) uses a convolutional layer to extract the IQ-related learning timing features. A GRU network extracts timing features at a deeper level before outputting the final identification results. The number of parameters and the algorithm’s complexity are reduced by optimizing the convolutional layer structure and replacing multiple fully-connected layers with gated cyclic units. Simulation experiments show that the algorithm achieves an average identification accuracy of 84.74% at a –10 dB to 20 dB signal-to-noise ratio (SNR) with fewer parameters and less computation than a network model with the same identification rate in a software radio dataset containing multiple USRP X310s from the same manufacturer, with fewer parameters and less computation than a network model with the same identification rate. The algorithm is used to identify measurement and control signals and ensure the security of the measurement and control link with theoretical and engineering applications.     

基于门控循环单元的多因素感知短期游客人数预测模型

提出的预测模型采取分时序分段策略,使用卷积神经网络（CNN）提取景区多因素时序数据的特征,并对不同因素的时序数据赋予不同的权重,将结果送入门控循环单元（GRU）以挖掘其中的时序信息,结合预测时刻的情境信息（天气状况和节假日）预测短期景区内游客人数. 在某景区的闸机数据集和监控点车辆数据集上的实验结果表明：基于门控循环单元的多因素感知短期游客人数预测模型可以充分考虑多情境因素并对不同因素时序数据赋予不同的权重,均方根误差（RMSE）和平均绝对百分比误差（MAPE）均小于传统模型,能够有效降低短期游客人数预测误差。     

基于马尔可夫过程和深度神经网络的TBM围岩识别

为了实现隧道围岩的实时识别,基于马尔可夫过程和深度神经网络模型,提出将先验围岩信息和掘进参数结合,作为深度神经网络输入的隧道掘进机（TBM）围岩实时识别方法. 根据施工现场地质勘探资料,用马尔可夫过程的隧道围岩分类方法预测隧道沿线的围岩分布概率;将该围岩分布概率作为先验围岩信息,结合TBM掘进参数作为神经网络输入,真实围岩类别作为输出,训练深度神经网络以实现对TBM前方围岩的实时识别. 使用工程现场数据进行对比实验,结果表明,所设计的深度神经网络模型的围岩总体识别率高于96%. 相比于仅将掘进参数作为输入,当结合先验围岩信息和掘进参数作为输入时,模型围岩识别率提高6%以上.