基于多层注意力机制的4DC-BGRU脑电情感识别

为了提高脑电情感识别的准确率，提取更丰富的特征信息，提升网络模型稳定性，提出一种改进的基于多层注意力机制的脑电情感识别模型。在特征提取方面，将原始脑电信号转换成四维空间 频谱 时间结构，提取丰富的脑电信息。在网络模型方面，构建双路卷积神经网络学习空间及频率信息，有效提取多尺度特征，增加网络宽度来学习更丰富的特征信息；在卷积层及池化层后融入批量归一化层，防止过拟合。最后，构建多层注意力机制 双向门控循环单元模块处理时间特征并配合Softmax分类。采用双向门控循环单元学习更全面的上下级特征信息。利用多层注意力机制使四维特征中不同时间切片与整体时间切片之间产生关联。该文在DEAP数据集唤醒度和效价两个维度进行了评估实验，二分类平均准确率分别为96.38%和96.73%，四分类平均准确率为93.78%。实验结果显示，与单路卷积神经网络及其他文献算法相比，该文算法的平均准确率有所提高，表明该算法可以有效提升脑电情感识别性能。     

基于Transformer与增强信息融合的双源情感识别

为解决当前多模态情感识别效果不佳的问题,提出了一种基于Transformer与增强信息融合的双源情感识别模型,模型由音视频编码分支网络和双源增强特征融合模块组成。其中,视频编码分支利用MobileViTv2提取每帧视频的空间特征,并通过在Transformer编码器结构中内嵌残差结构,强化各帧短期关联语义信息的提取能力。在音频特征提取部分构建了维度匹配器,避免了潜在异构鸿沟,提高了模型训练的鲁棒性。在音视频特征融合处引入低参数量跨模态注意力机制,从两个角度同时增强特征融合能力。通过对比和消融实验证明了方法在多模态情感识别任务中的有效性。     

基于QWDAE和HWMHGRU融合的电力系统短期负荷预测模型

为提升电力系统短期负荷预测精度，提出量子加权降噪自编码器和高速通道多层级门控循环单元神经网络融合的短期负荷预测模型。首先利用量子信息处理机制，采用量子加权神经元构建量子加权降噪自编码器，挖掘负荷序列中的有效信息作为输入特征；然后提出具有两级门控结构和高速通道结构的高速通道多层级门控循环单元，构成量子加权降噪自编码器和高速通道多层级门控循环单元融合的短期负荷预测模型。仿真结果表明，所提模型具有较好的预测精度和预测稳定性。     

基于改进LRCN的人体运动识别方法

针对人体运动识别中数据特征提取不充分和识别准确率不高的问题，提出了一种改进长期循环卷积网络的人体运动识别模型。首先构建出一种由多层卷积神经网络和门控循环单元组成的LRCN模型。在此基础上构建内部和外部循环层，内部循环层作用是得到所选取时间窗内部时间特征和空间特征，外部循环层作用是从子序列数据中获取其所表征状态信息之间的特征相关性和时间相关性。提出的模型在3种公开数据集上验证，准确率均高于传统的LRCN模型，然后在自建数据集上进行测试验证，识别准确率为99.7%。实验结果表明该模型在识别准确率上高于原始模型，验证了该模型的可行性。     

基于时间模式注意力机制的GRU短期负荷预测

针对新能源时代负荷数据随机性更强及负荷预测误差较大的问题,提出一种基于时间模式注意力机制的门控循环单元神经网络短期负荷预测方法。首先,采用自适应白噪声的完整经验模态分解对负荷数据进行处理,得到若干个频率范围不同的本征模函数。其次,通过最大互信息系数进行相关性分析筛选特征,优化输入数据的特征维度。然后,构建基于时间模式注意力机制的门控循环单元神经网络预测模型进行负荷预测,采用自回归算法优化线性特征提取能力,得到预测结果。最后,通过实例分析证明了所提模型有助于负荷预测精度的提升。     

基于异构数据特征级融合的多任务暂态稳定评估

考虑到基于深度学习的暂态稳定评估方法对电力系统输入数据的描述不够全面,异构数据常被忽略,且许多特征信息无法有效融合,为充分利用电力系统各类异构数据以提高模型的精确度和算法性能,提出了一种异构数据特征级融合的深度学习方法。首先,利用多层感知机、图卷积网络、门控循环单元分别对静态多变量数据、拓扑图域数据、时序多变量数据进行特征提取;然后,采用张量融合方法对所提取特征进行特征级融合,并将展平的融合特征输入共享层,利用基于同方差不确定性的多任务学习方法,同时实现了暂态稳定判别与暂态稳定裕度预测。在此基础上,建立了暂态稳定评估模型,并对所提方法的性能进行了评估。最后,采用新英格兰10机39节点系统进行仿真、训练与验证,结果表明所提方法能有效提升评估的准确性与鲁棒性。     

融合轮廓增强和注意力机制的改进 GaitSet步态识别方法

针对传统基于轮廓的步态识别方法受限于输入特征及模型特征提取的能力,从而导致识别准确率不高的问题,提出一种融合轮廓增强和注意力机制的改进GaitSet步态识别方法。首先通过预处理获取行人的轮廓图,求得其均值,合成步态GEI能量图,将其作为神经网络模型的输入特征,增强了人体外观的表示。其次在提取特征的过程中引入注意力机制,增强模型的特征提取能力,从而提高步态识别的精度。最后在CASIA-B和OU-MVLP数据集上进行实验,所提方法的平均Rank-1准确率分别为87.7%和88.1%。特别是在最复杂的穿大衣行走条件下,相较于GaitSetv2算法,准确率提升了6.7%,表明所提出方法具有更强的准确性。此外,所提方法几乎没有增加额外的参数量、计算复杂度和推理时间,说明其各模块的快速性。     

基于多尺度融合模型的化工故障诊断

针对目前化工过程故障诊断中降噪效果不佳、多尺度特征未区分重要性、时序特征提取不充分等问题，本文提出了一种基于多尺度融合模型的化工故障诊断方法，该方法将注意力机制分别与软阈值方法和多尺度学习相结合，构建了多尺度深度残差收缩网络，并将提取到的多尺度空间特征送入双向门控循环单元进一步提取时序特征，相比于单通道网络，双向门控循环单元不仅能够完成对过去信息的学习，而且还能够完成对未来信息的学习，因此能够得到更多的时间关联信息。最后使用修正田纳西 伊斯曼过程数据进行验证，最终取得了95.08%的分类精度和94.76%的召回率，明显优于对比方法，证明了方法的有效性。     

基于MobileNetV3多尺度特征融合的人脸表情识别

针对人脸表情识别中普通卷积神经网络特征提取能力不足且识别效率低下的情况，本文提出了一种基于MobileNetV3多尺度特征融合的人脸表情识别。首先利用MobileNetV3进行特征提取以获得高层次情感信息；其次在骨干网络中借鉴DenseNet结构，增强特征复用并提升网络重要面部特征表达能力；然后利用特征金字塔模块充分获取人脸图像的深层和浅层多尺度融合特征，从而提高了MobileNetV3的特征提取能力和实时性；最后利用全连接层构建分类器对表情进行分类，从而完成了人脸表情识别。通过实验验证，结果表明，在CK+和FERPlus数据集上识别准确率可以达到88.3%和98.8%，与现有方法相比分别提高了2.3%和1.5%，表明了所提方法识别效果好，泛化能力强。     

一种轴承故障诊断的多任务深度学习方法

提出一种基于多任务深度学习的故障诊断方法,将故障诊断任务分为故障分类和损伤程度识别。 共享层采用卷积神经 网络提取监测振动信号中蕴含的故障特征信息,两个子任务模块使用门控循环单元从共享层的输出中进一步提取特征,进行故 障分类和损伤程度识别。 在多任务深度学习方法中两个子任务模块可以通过共享层相互影响,提高模型的特征提取能力,获得 更好的故障诊断性能。 在轴承数据集上进行故障诊断实验,同时与故障分类单任务模型和损伤程度识别单任务模型进行对比, 以检验多任务深度学习方法的故障诊断性能,实验结果显示多任务深度学习模型在测试集上两个任务同时正确的准确率为 99. 79%。 为进一步验证多任务深度学习方法的特征提取能力,在测试集中添加不同程度的高斯噪声进行故障诊断实验,在较 强噪声情况下,多任务深度学习模型的准确率明显高于单任务深度学习模型。 研究结果表明,多任务深度学习模型与单任务深 度学习模型相比故障诊断准确率更高,同时抗噪性能更好,具有一定的实用价值。     

基于多特征提取的Attention-BiGRU短期负荷预测方法

电力负荷预测在电力系统发展中起着重要的作用,为供电提供了重要的指导。短期电力负荷预测(STLF)可以在短时间内保证电网的安全和稳定。为解决预测精度不足且数据集单一缺乏参考因素的问题,提出一种基于多特征提取并结合注意力机制的双向门控循环单元(Attention-BiGRU)网络短期电力负荷预测方法。预测模型采用门控循环单元(GRU)的基本结构,在已有数据特征的基础上进行时间特征与数据分布特征提取,将所有特征作为负荷预测的影响因素,然后使用注意力机制对输入序列进行权重分配,使用双向门控循环单元(BiGRU)网络对特征进行学习并输出负荷预测值。仿真结果表明,基于多特征提取的Attention-BiGRU网络表现优于传统高斯回归预测方法、GRU网络、多特征提取的BiGRU网络和BiGRU网络。     

基于遗传优化的多级SVM语音情感识别

针对语音情感识别中特征维数高、识别率较低的问题,提出利用遗传算法进行特征降维,并构建二叉树结构的多级支持向量机(SVM)分类器进行语音多类情感识别的方案.首先对语音信号预处理后提取常用的情感特征,由于涉及特征较多,存在数据的冗余,采用遗传算法对提取的特征进行优化筛选;然后使用选出的最具情感区分能力的特征训练二叉树结构的多级SVM分类模型.在包含7种情感的柏林情感语料库上进行实验,结果证明提出的语音情感识别方案的有效性.     

基于BI-GRU改进的Seq2Seq网络的变压器油中溶解气体浓度预测方法

基于门控循环单元(GRU)构建双向多层门控循环单元,并引入编码器-解码器结构搭建Seq2Seq网络模型,通过优化神经元及神经网络结构提取时序数据依赖关系.同时引入注意力机制和Scheduled Sampling算法,自动获取与当前时刻预测输出显著相关的关键输入时间点,提高长时间预测的精度.变压器正常运行状态下的气体浓度...     

基于卷积长短时深度神经网络行为识别方法

传统的人员行为识别中,通过人工特征对人员行为进行分类。 这些方法仅能够利用较浅层次的特征,其识别准确率有 限。 提出通过卷积长短时深度神经网络(convolutional long short-term deep neural networks, CLDNN)进行人员行为识别,并用新 的 GRU 门控单元代替传统的 LSTM 门控单元提高网络效率。 利用该网络结构,既可提取惯性数据中多层次特征,也可充分利 用时间序列相关性。 通过开源数据集的实验证明,该方法相比于传统的卷积网络和基于 LSTM 门控循环神经网络的识别准确 率分别提高了约 3%和 7%;用 GRU 门控单元代替 LSTM 单元后,所需的训练时间和前向的识别时间分别下降了 14%和 10%。     

单通道条件下纵差和纵联保护无缝切换机制

光纤通道的误码率和通道双向延时一致性是影响纵差保护性能的重要因素。提出利用线路集中参数模型计算电压相角差以识别通道双向延时一致性的方法。在单通道条件下,提出纵联短帧结合纵差长帧传送,并根据通道状况自动实现纵差和纵联保护无缝切换机制。试验表明该机制大大减少主保护退出时间,提高了保护的可靠性。     

基于CNN-RNN集成的隧道事故异常声音识别

为提高公路隧道事故异常声音识别的准确率,并针对卷积神经网络只关注局部信息问题,提出了一种基于CNN-RNN集成的声音识别模型。该模型采用Stacking集成策略将CNN的强特征表达能力和RNN的强记忆能力相结合,并使用门控循环单元减少循环神经网络的计算复杂度,将SIREN正弦周期函数作为RNN的隐式激活函数,增强模型对声音数据的拟合能力,设计多通道卷积细化特征提取的精度,实现全局化特征提取。在异常声音数据集上评估了所提声音识别模型的识别性能,实验结果表明：提出的声音模型的识别性能高于其他模型,且更加稳健,可有效识别公路隧道事故的异常声音。     

基于多头注意力机制和门控循环单元神经网络的居民充电桩容量预测

居民充电桩的容量预测可为其定容选址提供参考,助力实现“双碳”目标,为此提出了一种基于数据驱动的居民充电桩容量预测方法。首先,采集了居民充电桩的历史容量数据并进行预处理;其次,利用不同大小的时序窗口对其进行切片作为输入特征;最后,构建了结合多头注意力机制和门控循环单元神经网络的预测模型,将特征输入模型从而实现了对未来容量的精准预测。通过实例分析表明,该模型预测结果的平均绝对误差和均方根误差分别为33.19和102.14%,预测精度相较于其他模型有较大提升,为居民充电桩的容量预测提供了新思路。     

基于贝塞尔曲线网络的电表用电信息识别算法

利用计算机视觉技术来快速、准确地获得用户的用电信息对于电力部门具有重要意义。针对传统算法精度低、速度慢等问题,提出了一种基于自适应贝塞尔曲线网络的用电信息识别算法。该框架集检测、识别于一体,实现了端到端的文本定位和预测。检测端结合了特征金字塔网络和残差网络,对输入图像进行特征提取,并通过四个控制点生成贝塞尔曲线,能更好地拟合文本框。识别端采用了卷积循环神经网络,引入门控循环单元替代长短期记忆网络,再结合注意力机制对文本进行识别。最后在数据集上开展五组消融实验,进行性能对比和评估分析。实验结果显示,该算法识别精度高达99.08%,且推理速度快,可被用于用电信息检测与识别的实际应用中。     

基于张量重构融合诊断的电动汽车直流充电桩开路故障诊断方法

电动汽车充电桩的开路故障影响电网电能质量、威胁充电安全,研究开路故障诊断对保障电网安全稳定运行、降低充电桩维护成本具有重要意义。针对充电桩开路故障信号多维度特点,该文提出一种张量重构融合诊断方法。该方法分别利用残差网络(residual network,ResNet)的多维特征并行提取能力和门控循环单元(gated recurrent unit,GRU)的时序特征提取能力,提取充电桩充电模块电路中前、后级故障特征,并对前、后级特征进行融合诊断,实现了充电桩中充电模块前、后级故障的较高精度诊断。提出的基于张量重构的前级三相故障数据预处理方法,避免了传统深度学习算法使用的图像化输入或一维输入,充分发挥了深度神经网络的并行诊断性能。与传统的故障诊断方法相比较,所提方法使用深度学习技术,无需人为选定故障特征参数。仿真证明所提方法对不同强度噪声影响下的故障数据平均诊断准确率可达96%以上,特别是在信噪比(signal-noise ratio,SNR)10dB的高噪声情况下,依然具有90%以上准确率,在实验测试中该方法准确率达94.54%,进一步验证了该方法的有效性。     

基于2D CNN和Transformer的人体动作识别

人体动作识别是计算机视觉领域的研究热点之一,在人机交互、视频监控等方面具有深远的理论研究意义。为了解决2D CNN无法有效获取时间关系等问题,利用Transformer在建模长期依赖关系上的优势,引入Transformer架构并将其与2D CNN相结合用于人体动作识别,以更好地捕获上下文时间信息。首先使用融合通道-空间注意力模块的2D CNN提取强化的帧内空间特征,其次利用Transformer捕捉帧间的时间特征,最后应用MLP Head进行动作分类。实验结果表明在HMDB-51数据集和UCF-101数据集上分别达到了69.4%和95.5%的识别准确度。