基于注意力机制的CNN-BIGRU短期电价预测

针对短期电价预测的复杂性和精确度较差的问题,本文提出一种基于注意力机制的卷积神经网络和双向门控循环单元网络的短期电价预测模型。该模型将历史电价数据经过数据预处理后作为输入,首先利用卷积神经网络提取历史电价序列中的特征;其次,将提取的特征向量构造成时间序列输入到双向门控循环单元网络,充分挖掘特征内部的变化规律进行训练;然后,引入注意力机制来突出重要信息的影响并赋予权重,利用注意力机制对双向门控循环单元网络每个时间步的输出进行加权求和;最后,在全连接层通过激活函数计算输出最终预测值。通过实例验证了本文所提模型的准确性。     

基于多域信息融合的脑电情感识别研究

脑电信号识别方法较少将空间、时间和频率信息相融合,为了充分挖掘脑电信号包含的丰富信息,本文提出一种多域信息融合的脑电情感识别方法。该方法利用二维卷积神经网络和一维卷积神经网络相结合的并行卷积神经网络(PCNN)模型学习脑电信号的空间、时间和频率特征,来对人类情感状态进行分类。其中,2D-CNN用于挖掘相邻EEG通道间的空间和频率信息,1D-CNN用于挖掘EEG的时间和频率信息。最后,将两个并行卷积模块提取的信息融合进行情感识别。在数据集SEED上的情感三分类实验结果表明,融合空间、时间、频率特征的PCNN整体分类准确率达到了98.04%,与只提取空频信息的2D-CNN和提取时频信息的1D-CNN相比,准确率分别提高了1.97%和0.60%。并于最近的类似工作相比,本文提出的方法对于脑电情感分类具有一定的优越性。     

注意力机制 CNN 结合肌电特征矩阵的手势识别研究

当前基于卷积神经网络(CNN)的手势识别研究集中于增加网络深度,较少关注改善样本数据分布带来的性能提升。 针对此类问题,提出一种量化表面肌电信号(sEMG)特征相关性的肌电特征矩阵(EFM)样本输入有效通道注意力(ECA)机制 CNN,用于识别 NinaproDB1 中 52 类手势。 首先使用时间窗截取低通滤波后的 sEMG,计算多种信号时域特征;然后利用笛卡尔 积组合并相乘不同特征,对特征相乘值进行归一化后得到 EFM。 同时,引入 ECA 机制使网络关注重要的深层特征,从而提升手 势分类效果。 分别输入 sEMG、肌电时域特征和 EFM 到注意力机制 CNN 进行手势识别,EFM 识别准确率最高,达到了 86. 39%, 高于近年来手势识别研究方法精度。 验证了提出方法的有效性,为多类别手势准确分类提供可行新方案。     

基于Attention机制优化CNN-GRU混合神经网络的短期负荷预测技术

电力系统负荷预测实质是对电力市场需求的预测,短期电力负荷预测是电力部门的重要工作之一。目前主要的负荷预测方法有传统预测、灰色预测、混沌理论预测、智能技术预测、优选组合预测等,其中智能预测中最典型的就是人工神经网络。人工神经网络是一个极其复杂的非线性动力学系统。它的自学习功能对预测有着重要的意义,能通过学习历史负荷数据来反映出输入变量和输出变量之间的非线性关系。由于很多因素都会对电力负荷造成影响,因此可以把神经网络算法引用到负荷预测中,提高电力负荷的预测精度。基于宁夏电网短期电力负荷预测的实际需求,提出了一种基于Attention机制优化CNN-GRU混合神经网络的短期负荷预测技术。该技术通过引入Attention机制对CNN-GRU模型进行改进,有效提升了预测精度和可解释性。在宁夏电网实际数据集上进行的仿真实验表明所提出的模型具有较高的预测准确性和可靠性。     

基于CNN-BiGRU-Attention的非侵入式负荷分解

随着智能电网的迅速发展,为了有效提高电能的使用率,合理规划电能资源,建立全国范围内的智能用电和负荷监测系统,非侵入式负荷监测(NILM)和分解问题一直受到广泛关注。为提高非侵入性负载分解性能,提出一种基于耦合神经网络的非侵入式负荷分解方法。首先,对数据集进行归一化和预处理。其次,构建一种将卷积神经网络(CNN)与双向门控循环单元(BiGRU)相结合的混合深度学习模型,对数据的空间特性和时序特性进行充分挖掘,并加入注意力机制,关注重要信息,剔除冗余特征。最后,采用国内自测数据集进行试验,使用不同的评价指标对该耦合神经网络进行评估,并与其他的常用分解模型进行对比。试验结果表明,所提方法的均值绝对误差与绝对误差和相较于其他分解方法都有所降低,均值绝对误差平均下降了35.9%,绝对误差和平均下降了39.9%。     

基于多视图与注意力机制的睡眠脑电分期

为了更全面地对睡眠脑电进行特征提取,提出一种基于多视图与注意力机制的睡眠脑电分期方法。首先针对原始睡眠脑电信号构造时域和时频域两类视图数据;然后设计融合注意力机制的混合神经网络对多视图数据进行表征学习;接着通过双向长短时记忆(bi-directional long short-term memory, BiLSTM)网络进一步学习睡眠阶段之间的转换规则;最后使用Softmax函数进行睡眠分期,并利用类别加权损失函数解决睡眠数据类别不均衡的问题。实验使用Sleep-EDF数据库中前20名受试者的单通道脑电信号并采用20折交叉验证对模型进行性能评估,睡眠分期准确率达到83.7%,宏平均F₁值达到79.0%,Cohen′s Kappa系数达到0.78。与现有方法相比,算法性能提升明显,证明了所提方法的有效性。     

基于CNN-BiGRU-NN模型的短期负荷预测方法

为充分挖掘蕴含在大量采集数据中的有效信息,提高短期负荷预测精度,提出一种基于卷积神经网络(CNN)和双向门控循环单元(BiGRU)、全连接神经网络(NN)的混合模型的短期负荷预测方法,将海量的历史负荷数据、气象信息、日期信息按时间滑动窗口构造特征图作为输入,先利用CNN提取特征图中的有效信息,构造特征向量,再将特征向量...     

基于注意力机制的CNN-BiLSTM日前电价预测

日前电价预测结果的准确性对于存在多元化竞争格局的电力市场具有重要意义,因此提出一种基于注意力机制的CNN-BiLSTM日前电价预测模型。该模型考虑诸多因素对日前电价预测的影响,采用皮尔逊系数进行相关性分析,得到各因素对日前电价预测的影响;利用卷积神经网络提取历史电价序列中的特征;将提取的特征信息输入双向长短期记忆网络,充分挖掘特性的变化规律进行训练;然后引入注意力机制来突出重要信息的影响并赋予权重;最后在全连接层通过激活函数加权求和计算出最终预测值。通过实例验证了该模型的准确性,其中RMSE、MAPE、MAE分别减少了33.07%、28.39%、27.08%。     

基于深层图卷积的EEG情绪识别方法研究

针对浅层图卷积提取的局部脑区空间关联信息对情感脑电表征不足的问题,本文提出了一种深层图卷积网络模型。该模型利用深层图卷积学习情绪脑电全局通道间的内在关系,在卷积传播过程中应用残差连接和权重自映射解决深层图卷积网络面临的节点特征收敛到固定空间无法学习到有效特征的问题,并在卷积层后加入PN正则化扩大不同情绪特征间的距离,提高情绪识别的性能。在SEED数据集上进行实验,与浅层图卷积网络相比准确率提高了0.7%,标准差下降了3.15。结果表明该模型提取的全局脑区空间关联信息对情绪识别的有效性。     

深度嵌套注意力下的SlowFast信息融合动作识别网络

视频动作识别在视频监控、自动驾驶等多个领域都有着广泛的应用。SlowFast网络是视频动作识别领域经常使用的网络。目前SlowFast相关网络中使用注意力进行相关信息增强,注意力机制与网络的结合方式是将注意力机制嵌套到网络的各个卷积块之间,如果将注意力机制深层嵌套到卷积块的具体卷积层中,SlowFast网络的信息提取能力将更进一步。首先提出了一种深度嵌套注意力机制,该深度嵌套机制内部包含一种可以提取时空与通道信息的注意力SCTM,使SlowFast网络的3种信息提取能力得到了进一步加强。此外,目前多流网络融合的信息并没有充分的交互与处理。提出了一种基于交叉注意力与ConvLSTM的多流时空信息融合网络,使多流网络中每个流的信息充分交互。改进后的SlowFast网络在UCF101数据集上的Top-1准确率已达到98.5%,在HMDB51数据集中的准确率达到了80.1%。均优于目前已有的模型,比原始SlowFast网络提高了2.64%,且鉴于上述数据,深度嵌套注意力的 SlowFast 时空信息融合网络在信息提取与融合方面具有优越性能。     

融合多级注意力机制和信息融合的车型识别

不同车型类间外观特征高度相似,同车型类内外观差异大,这对特征提取网络提出了更高的要求。现有的车型识别方案仅依靠车辆外观特征识别,整体识别准确率不高。为此,首先在主干网络设计了多级注意力机制,提高主干网络对车型特征提取和识别能力;其次根据卡口环境下不同车辆位置车辆外观特征的变化提出了车辆位置和外观特征融合结构,从而提取出融合位置信息的复合图像特征,减小类内特征距离,增强主干网络所提取的特征的表达力和稳健性;最后在分析了难例样本注意力热力图基础上,对难例样本注意力区域进行干预,使网络聚焦于车辆细小差异的局部区域。实验结果表明,本文所提出的车型识别方法整体性能比现有方案有显著提升。     

基于注意力机制的卷积神经网络指针式仪表图像读数识别方法

目前关于指针式仪表图像读数识别的研究大多建立在指针线段检测的基础上,然而该方法流程较多、读数识别效率低.并且仪表图像校准、指针线段拟合等中间过程积累的误差容易使指针倾角偏离真实值.因此从另一角度对基于图像特征映射仪表读数的方法进行了研究,该方法的优势是流程短、效率高.首先构建了融合卷积注意力模块的双路异构卷积神经网络,...     

基于HMM的语音信号情感识别研究

包含在语音信号中的情感信息是一种很重要的信息,它是人们感知事物不可缺少的部分。本文在语音识别的基础上提出了应用隐马尔可夫模型(HMM)进行语音信号情感识别的研究。从情感语音的分类、情感语音资料的获取、情感语音特征提取及情感语音识别等方面,讨论了应用连续隐马尔可夫模型进行情感识别的整个过程,并得到了比较理想的识别结果。     

基于迁移学习多层级融合的运动想象 EEG 辨识算法

为了准确获取运动想象脑电信号的全局特征和个体间的共性特征,进而提高其分类准确率和模型鲁棒性,提出一种参 数共享迁移学习的融合卷积神经网络算法。 首先把源域上训练完成的网络逐层迁移至目标网络以获取最佳迁移层。 其次,在 迁移层后分别连接不同数量的卷积-池化块构成 4 个不同深度的卷积网络,并将其并行融合后连接分类器得到分类结果。 利用 BCI 竞赛 IV Datasets 2a 对提出方法进行实验分析。 结果显示,使用 100%和 50%样本时所有受试者的平均辨识率分别为 80. 85%和 78. 9%,验证了提出方法在全局特征提取上的有效性小样本问题上的优势。     

基于遗传优化的多级SVM语音情感识别

针对语音情感识别中特征维数高、识别率较低的问题,提出利用遗传算法进行特征降维,并构建二叉树结构的多级支持向量机(SVM)分类器进行语音多类情感识别的方案.首先对语音信号预处理后提取常用的情感特征,由于涉及特征较多,存在数据的冗余,采用遗传算法对提取的特征进行优化筛选;然后使用选出的最具情感区分能力的特征训练二叉树结构的多级SVM分类模型.在包含7种情感的柏林情感语料库上进行实验,结果证明提出的语音情感识别方案的有效性.     

基于自适应时序表征和多级注意力的超短期风电功率预测

针对风电功率数据包含的多尺度时间信息难以描述、现有方法未充分考虑气象因素对于风电功率动态耦合的影响而导致的预测性能下降等问题,提出了一种基于自适应时序表征和多级注意力的超短期风电功率预测方法。采用时序嵌入层对风电功率序列进行表征以获取其周期、非周期模式,并引入自注意力捕捉高维风电功率序列的自相关性;利用交叉注意力重构风电功率与气象因素,形成包含两者耦合关系的多维特征序列;利用一维卷积神经网络沿时间、特征方向分别挖掘多维特征序列的时间相关性和空间相关性,进而利用长短期记忆网络提取相应的时序特征,并将所得时序特征经全局注意力去噪和门控机制融合后输入全连接层,分别进行点预测和区间预测。实验结果表明,所提方法能够获得准确的点预测值和可靠的预测区间。