基于深度卷积和门控循环神经网络的 传感器运动识别

用于可穿戴传感器的人体运动识别任务的传统机器学习方法通常需要手工提取特征,可以自动提取人体运动数据特征的深度神经网络正成为新的研究热点。目前将卷积神经网络(CNN)和长短期记忆(LSTM)循环神经网络组合而成的DeepConvLSTM在识别精度方面有着优于其他识别方法的表现。针对带有长短期记忆循环单元的神经网络的训练较为困难的问题,提出了一种基于卷积神经网络和门控循环单元(GRU)的融和模型,并在3个公开数据集(ACT数据集、UCI数据集和OPPORTUNITY数据集)上与卷积神经网络和DeepConvLSTM进行了性能对比。实验结果显示,该模型在3个公开数据集上的识别精度都高于卷积神经网络,与DeepConvLSTM相当,但是收敛速度比DeepConvLSTM更快。     

基于CNN-LSTM神经网络的电网调度火电厂短期存煤预测

采用传统的回归拟合进行发电厂存煤量单变量单步预测已无法满足电网优化调度的需求,针对该问题,提出卷积神经网络(CNN)与长短期记忆(LSTM)神经网络相结合的CNN-LSTM神经网络预测模型,利用CNN良好的特征提取能力以及LSTM神经网络特殊的记忆预测功能实现对未来电厂存煤量的精准预测.为了使预测结果更符合实际存煤量,在已有预测结果的基础上进行进一步优化.实例验证结果表明,相较于传统差分自回归移动平均(ARIMA)模型和单一LSTM神经网络模型,所提模型取得的效果更好,且经过优化后的预测精度得到了进一步提高.     

基于CNN(1D)-LSTM模型的电站锅炉SCR入口NOx浓度预测

为了解决电站锅炉操作人员依赖经验调节锅炉运行参数降低SCR入口NOx浓度，提高脱硝效果的问题，提出一种SCR入口处NOx浓度预测方法。该方法建立了基于卷积神经网络和长短期记忆神经网络的CNN(1D)-LSTM模型，通过提取锅炉在时序上的特征参数，可预测5 min后SCR入口处NOx浓度。电厂运行人员可将该模型的预测结果作为SCR入口处NOx浓度的重要参考，更加有效地调节锅炉参数进行脱硝优化。结果表明，预测3 min后SCR入口处NOx浓度LSTM模型优于CNN(1D) LSTM；预测5 min后的SCR入口浓度CNN(1D)-LSTM模型相比于LSTM模型预测精度有很大的所提高，在测试集上Emape为7.05%，取得了期望的效果。     

基于CNN-LSTM混合神经网络模型的短期负荷预测方法

为了更好地挖掘海量数据中蕴含的有效信息,提高短期负荷预测精度,针对负荷数据时序性和非线性的特点,提出了一种基于卷积神经网络(CNN)和长短期记忆(LSTM)网络的混合模型短期负荷预测方法,将海量的历史负荷数据、气象数据、日期信息以及峰谷电价数据按时间滑动窗口构造连续特征图作为输入,先采用CNN提取特征向量,将特征向量以时序序列方式构造并作为LSTM网络输入数据,再采用LSTM网络进行短期负荷预测。使用所提方法对江苏省某地区电力负荷数据进行预测实验,实验结果表明,文中所提出的预测方法比传统负荷预测方法、随机森林模型负荷预测模型方法和标准LSTM网络负荷预测方法具有更高的预测精度。     

基于深度学习的变压器局部放电模式识别研究

针对传统PD模式识别用统计特征量需要依赖专家经验而缺乏一定的泛化性问题和卷积神经网络(CNN)模式识别算法缺乏PD图谱时序特征信息的问题,文中构建了基于CNN-LSTM深度学习的PD PRPD图谱模式识别模型,该模型综合了CNN善于挖掘PRPD图谱局部空间信息的优点和长短时记忆网络(LSTM)善于挖掘PD图谱时序特征信息的优点,可同时提取PRPD图谱的局部空间特征和时序特征,利用变压器典型绝缘缺陷放电图谱对构建的网络进行性能测试,并与CNN和LSTM对比,结果表明,对于PD图谱稳定的悬浮电位缺陷,CNN-LSTM和CNN的识别能力均为100%,但是对于金属突出物缺陷、油纸气隙缺陷和沿面放电缺陷,CNN-LSTM的识别能力优于CNN,CNN-LSTM网络的整体识别性能优于CNN和LSTM。     

基于深度学习断路器储能机构故障诊断方法研究北大核心CSCD

断路器正常分、合闸动作直接影响电力系统控制的可靠性,储能环节一旦出现问题将直接影响断路器正常工作。提出了一种基于深度学习的断路器振动信号辨识储能过程故障类型新方法。首先,将加速传感器采集到的时域振动信号进行数据扩充,再将扩充后振动信号二次采样作为训练样本,采用改进后的卷积神经网络(convolutional neural network,CNN)与长短时记忆网络(long-short term memory,LSTM)并行结构,将卷积神经网络的第1层大卷积核和多层小卷积核,均进行批量归一化(batch normalized,BN),以提高网络训练效率。实验结果表明:基于CNN与LSTM并行的网络结构不需要人工提取特征,具有较好的分类性,为高压断路器弹簧操作机构故障诊断提供一种通用方法。     

基于卷积-长短期记忆网络的电能质量扰动分类

为了提高电能质量扰动分类准确率,针对扰动信号时序性的特点,采用了基于卷积-长短期记忆网络的电能质量扰动分类方法。首先,将扰动信号进行采样作为输入。然后,通过卷积神经网络(CNN)提取特征数据,再对提取到的特征数据以序列的形式作为长短期记忆网络(LSTM)的输入,对特征数据进行筛选更新。最后,再对输出的特征数据进行学习分类。仿真结果显示,该方法对电能质量扰动信号的平均分类准确率为99.6%,优于单一的CNN法和单一的LSTM法。     

考虑数据不均衡的居民用户负荷曲线分类方法

由于用户用电行为的多样性和随机性,负荷数据存在分布不均衡的问题,传统负荷曲线分类方法在处理不均衡数据时性能较差。为此,提出一种改进K-means与长短期记忆(LSTM)神经网络-卷积神经网络(CNN)分类模型结合的负荷曲线分类方法。首先,为提升K-means算法对不均衡数据的聚类效果,基于密度峰值聚类(DPC)算法思想,提出一种相对k近邻密度峰值(RKDP)初始聚类中心选取方法,将其作为K-means算法的初始中心进行聚类;然后,为提高RKDP-K-means处理高维负荷数据的性能,采用LSTM自编码器进行特征降维后再聚类获得精准类别标签;最后,基于LSTM神经网络和CNN分别提取负荷特征构建负荷曲线分类模型,实现对大规模负荷曲线的分类。算例选取了爱尔兰智能电表数据集和伦敦负荷数据集进行实验,验证了所提算法在大规模负荷曲线分类时的有效性和实用性。     

基于CNN-LSTM混合神经网络模型的NOx排放预测

为了充分挖掘电站锅炉NO_(x)排放数据中时序性特征联系,提高NO_(x)排放预测精度,提出一种基于卷积神经网络(CNN)和长短期记忆网络(LSTM)的NO_(x)排放预测方法。以某300 MW电站锅炉历史数据为样本,采用K-means聚类方法对NO_(x)排放训练样本集进行分组,再基于CNN网络的卷积层和池化层提取NO_(x)排放变量的高维映射关系,构造高维时序特征向量,将抽象化的特征集输入到LSTM网络,通过训练LSTM网络参数建立基于CNN-LSTM的NO_(x)排放预测模型。通过某电站锅炉实际数据验证,所提预测模型对训练和测试样本的平均相对百分比误差分别为1.76%和3.85%,远低于其他模型。结果表明所提模型在预测精度和泛化能力方面具有显著优势。     

基于seq2seq模型的非侵入式负荷分解算法

非侵入式负荷分解对于节能减排、负荷调峰、智能用能等方面均具有重要的现实意义。针对目前非侵入式负荷分解方法在低频采样条件下（1Hz及以下）分解准确率较低的问题,提出了一种基于卷积神经网络(CNN)与长短期记忆网络(LSTM)相结合的seq2seq的非侵入式负荷分解算法(seq2seq Based on CNN and LSTM,seq2seqBCL)。该模型将功率时间序列作为网络的输入,通过CNN做特征提取。考虑到电力数据的时序性,增加了LSTM层进行电器识别,相比于NILMTK中seq2seq模型降低了网络层数,简化了网络结构。在REDD数据集上对算法性能进行了评估,所提出的算法提升了整个网络系统的性能,与FHMM、CO和传统seq2seq算法相比,负荷分解准确率有明显提升。     

基于LSTNet模型的配电台区短期电力负荷预测研究

短期电力负荷预测作为电力系统运行规划的重要依据，对电力系统的安全经济运行有重要意义。提出一种长期和短期时间序列网络（LSTNet）模型对配电台区的短期负荷变化进行预测。该模型用卷积神经网络（CNN）提取负荷数据间的局部依赖关系，用长短时记忆（LSTM）神经网络提取负荷数据长期变化趋势，再融合传统自回归模型解决神经网络对负荷数据极端值的不敏感问题，最后将某一配电台区的电力负荷数据用于网络的训练和预测过程中。通过仿真实验案例发现，相较于以往LSTM、双向长短时记忆神经网络（Bi-LSTM）和CNN-LSTM的预测模型，LSTNet模型在短期负荷预测方面更具优势、预测精度更高。     

基于改进CNN-LSTM的电力系统宽频振荡辨识

宽频振荡的强非线性和强时变性会导致参数准确辨识困难,提出了改进CNN-LSTM神经网络的参数辨识方法。首先,采用卷积神经网络（CNN）提取输入的宽频振荡信号的振荡特征,并通过Softmax分类器输出振荡模态数量。然后,根据模态数量对长短期记忆网络（LSTM）辨识的模态个数进行定阶;同时,通过对CNN输出矩阵进行1×1卷积运算替代LSTM中的矩阵乘法,实现LSTM模型对高维输入的可行性。最后,以卷积运算结果作为LSTM的输入,辨识振荡频率和衰减因子。实测数据分析结果证明改进的CNN-LSTM对宽频振荡的频率和衰减因子都具有较高的辨识精度,在处理宽频振荡频率漂移现象和衰减因子突变等问题上有突出的优势。     

基于深度学习的电力信息网络流量异常检测

随着信息技术的快速发展,通信、计算机和电网构成多功能复杂系统,通信设施的复杂化使智能电网网络安全问题日益严峻。为确保电力信息网络具有更高的安全性能,必须有效识别电力信息网络存在的入侵攻击。对此,提出了一种基于CNN(卷积神经网络)和LSTM(长短期记忆)网络的混合网络的异常检测方法,混合网络通过提取网络流量数据特征以获得较高的检测率,同时为减少模型训练样本中不同攻击类型样本数量不平衡对模型性能的影响,采用类别权重优化方法来提高模型鲁棒性。经实验证明,所提方法能够有效提高识别网络攻击的准确率。     

基于恒等映射CNN的高压断路器机械故障诊断方法

为提升高压断路器机械故障识别效果,增强诊断方法的泛化性,提出基于恒等映射卷积神经网络(CNN)的高压断路器机械故障诊断方法.利用多个加速度传感器全方位获取断路器的振动信息;设计基于恒等映射卷积神经网络的故障诊断模型,信号经下采样、数据拼接等预处理手段输入,由模型综合分析各传感器信号特征并识别故障.该模型在网络结构上增加首尾直连通道,与以往研究使用的CNN相比,缓解了梯度消失问题,验证集故障识别率由96％左右提升至100％.与人工提取特征的方法相比,该方法能够自主提取故障特征信息.与其他方法的对比试验结果表明,相比提取差异区间幅值和、配合加权支持向量机识别的传统模型,以及不含恒等映射结构的卷积神经网络模型,该文提出的方法在不同严重程度故障的情况下诊断准确率依然能够达到100％,泛化性更好.     

并行多模型融合的混合神经网络超短期负荷预测

针对输入数据特征多时负荷预测模型精度提升难的问题,文章提出一种并行多模型融合的混合神经网络超短期负荷预测方法。将卷积神经网络(convolutional neural network,CNN)与门控循环单元神经网络(gated recurrent unit neural network,GRU-NN)并行,分别提取局部特征与时序特征,将2个网络结构的输出拼接并输入深度神经网络(deep neural network,DNN),由DNN进行超短期负荷预测。最后应用负荷与温度数据进行预测实验,结果表明相比于GRU-NN网络结构、长短期记忆(long short term memory,LSTM)网络结构、串行CNN-LSTM网络结构与串行CNN-GRU网络结构,所提方法具有更好的预测性能。     

基于通道融合的Res-CNN-LSTM电网虚假数据注入攻击检测

针对电力系统的网络攻击事件越来越多,信息物理安全问题已经引发电力公司和学术界的高度关注。为了能够正确检测电网虚假数据注入攻击,本文提出一种基于残差神经网络（ResNet）结构的一维卷积神经网络（1DCNN）和长短期记忆（LSTM）网络多通道融合网络模型,简称通道融合的Res-CNN-LSTM网络模型。该神经网络算法利用1DCNN和LSTM对时间序列信息的高效提取能力,将不同通道上提取的信息进行融合,进一步加强了数据特征的提取效果,同时网络模型主体采用残差跳跃连接的结构来解决神经网络在训练过程中的过拟合问题;在IEEE-14和IEEE-118节点测试系统进行模型仿真实验,并对比其他神经网络模型,结果验证了本文所提方法的有效性和准确性。     

基于Inception-DLSTM双通道的滚动轴承故障诊断方法

卷积神经网络(CNN)对空间特征具有敏感性，而Inception相比CNN具备多尺度提取特征优势；长短时记忆网络(LSTM)对时间特征具有敏感性，而深层长短时记忆网络(DLSTM)比LSTM具备更深层次提取特征优势。为了多尺度充分提取滚动轴承振动信号在空间和时间上的特征，实现滚动轴承故障诊断，提出了一种Inception通道和DLSTM通道结合的Inception DLSTM双通道滚动轴承故障诊断模型。对于Inception通道，把轴承振动信号经过小波变换生成的时频图作为输入，利用Inception网络多尺度提取时频图的空间特征信息；对于DLSTM通道，直接把轴承振动信号作为输入，利用DLSTM网络充分提取信号的时间特征信息。然后把两个通道输出的特征信息连接成一个时空特征向量，最后利用分类器进行轴承故障诊断识别。对轴承故障数据进行对比实验可得，Inception DLSTM双通道的故障识别准确率可达100%，具备良好的故障诊断和特征提取能力。     

基于SA-PSO算法优化CNN的电能质量扰动分类模型

针对传统电能质量扰动分类模型中扰动特征复杂、识别步骤繁琐的问题,提出了一种通过模拟退火(SA)算法与粒子群优化(PSO)算法相结合来优化卷积神经网络(CNN)的电能质量扰动分类模型。将CNN卷积层中的二维卷积核替换成一维卷积核;采用SA算法对PSO算法进行改进,规避PSO算法陷入局部最优的困境;采用改进后的PSO算法对CNN进行参数寻优;利用优化CNN提取和筛选合适的特征,根据这些特征利用分类器得到最终分类结果。通过算例分析得出,使用基于SA-PSO算法优化的CNN的电能质量扰动分类模型能精确地识别出电能质量扰动信号。     

基于LSTMAttention网络的短期风电功率预测

提出一种基于LSTM-Attention网络的短期风电功率预测方法。首先,使用LSTM网络对数值天气预测(NWP)数据的特征信息进行提取,同时采用注意力机制有效分析了模型输入与输出的相关性,从而获取了更多重要时间的整体特征;其次,使用卷积神经网络(CNN)提取NWP数据的局部特征,并引入压缩和奖惩网络(SE)模块学习特征权重,利用特征重新标定方式提高网络表示能力;最后,将局部特征和整体特征进行特征融合,通过分类器输出分类结果。利用NOAA提供的美国加利福尼亚州某风电场的数据进行案例分析,证明了所提方法的有效性。试验结果表明,与BP神经网络、自回归积分滑动平均模型(ARIMA)模型和LSTM模型相比,LSTM-Attention模型具有更高的预测精度,证明了该方法的有效性。     

电力设备典型故障案例的文本挖掘

国家电网公司信息化工作中积累的大量典型故障案例多为描述性文本数据,很难利用自动化手段理解和分析。针对此一问题利用文本挖掘技术从故障案例中抽取故障问题和原因形成故障的因果关系,从而为故障文本的下一步挖掘提供必要条件。挖掘采用的方法是先将因果关系的抽取问题转化为对句子的3分类问题,缩小了目标集,提高了准确率;再将句子用分布式文本表示,利用双向长短期记忆网络(Bi LSTM),分类模型提取事件句的深层语义特征。变压器故障案例的实验结果表明Bi LSTM相比于单向LSTM、卷积神经网络(CNN)处理故障文本句子分类效果更优,对故障和原因信息的提取准确率更高,精确率和召回率的平均调和值达67%。