基于改进胶囊网络的电力线巡线异物检测

针对电力线巡线异物检测使用的传统卷积神经网络空间辨识度较差、训练样本需求过多的问题,提出一种改进胶囊网 络模型。 使用数据灰度化、三维块匹配滤波算法预处理巡线数据集。 提出自适应贡献池化降低数据信息丢失量,异物数据深度 信息提取单元提取主要特征来滤除冗余信息、减少数据数量以改善模型性能,改进异物识别主胶囊层和动态路由结构以适应电 力线巡线异物检测的二分类情况。 对自适应贡献池化和最大池化,无池化、传统结构胶囊网络和改进胶囊网络,改进胶囊网络 和 AlexNet、GoogLeNet 分别进行异物识别对比实验和改进胶囊网络的空间辨识度性能进行测试实验。 实验结果表明,在 3 700 张小训练样本条件下,经 20 次训练后,自适应贡献池化比最大池化的改进胶囊网络平均准确率提高 2. 7%,改进胶囊网络比无 池化、传统结构胶囊网络平均准确率提高 3. 6%,改进胶囊网络比 AlexNet、GoogLeNet 的平均准确率分别提高 21. 9%和 12. 6%, 且改进胶囊网络在大小、角度不同的测试数据中仍具有高于 91%的平均准确率。 改进胶囊网络在空间辨识度复杂、少训练样本 情况下仍具有较高的异物识别能力,实现了高效率、高准确率的自动化无人巡线异物检测。     

基于特征增强的高分辨率人体姿态估计网络

在轻量级卷积神经网络进行高分辨率人体姿态估计时存在提取特征不充分,针对该问题,提出了一种基于特征增强的高分辨率人体姿态估计网络。首先利用空洞卷积补全操作提取图像特征,以避免特征信息丢失且保持模型参数基本不变;接着利用池化增强模块进行卷积提取特征的选择,以保留重要特征且减轻传统池化模块对提取特征造成的破坏;最后利用加强通道信息交互的深度可分离卷积模块进行特征提取,以保持该模块的参数量较少且能够提高其特征提取能力。在COCO2017数据集进行性能测试,本文算法和DiteHRNet30算法的AR值分别为77.9%和77.2%;在MPII数据集进行性能测试,本文算法和DiteHRNet30算法的PCKh值分别为32.6%和31.7%。实验结果表明,本文算法在人体姿态估计精度和算法复杂度之间能够达到较好的平衡。     

基于改进卷积神经网络的输电线路故障诊断方法

针对电网输电线路发生故障较多、告警系统误报率较高且依赖运维人员事后分析的问题,提出了基于改进卷积神经网络(CNN)的电网输电线路故障诊断模型.首先对电网输电线路的电流时序数据进行预处理,然后通过双通道融合和多层卷积、池化改进卷积神经网络,并在卷积层中结合批归一化方法,对故障数据和正常调停数据分别进行特征提取,再通过soft-max分类器进行分类识别,构建了智能高效的故障诊断模型,有效地降低了误报率.最后利用国家电网调度中心实际数据,验证了所提方法的有效性.     

注意力增强的视觉Transformer图像检索算法

基于深度哈希的图像检索方法往往利用卷积和池化技术去提取图像局部信息,并且需要不断加深网络层次来获得全局长依赖关系,这些方法一般具有较高的复杂度和计算量。本文提出了一种注意力增强的视觉Transformer图像检索算法,算法使用预训练的视觉Transformer作为基准模型,提升模型收敛速度,通过对骨干网络的改进和哈希函数的设计,实现了高效的图像检索。一方面,本文设计了一个注意力增强模块,来捕获输入特征图的局部显著信息和视觉细节,学习相应的权重以突出重要特征,并增强输入到Transformer编码器的图像特征的表征力。另一方面,为了提高图像检索的效率,设计了一种对比哈希损失函数,生成具有判别力的二进制哈希码,从而降低了内存需求与计算复杂度。在CIFAR-10和NUS-WIDE数据集上的实验结果表明,本文提出的方法,在两个不同数据集上使用不同哈希码长度的平均精度均值达到了96.8%和86.8%,性能超过多种经典的深度哈希算法和其他两种基于Transformer架构的图像检索算法。     

基于深度卷积和门控循环神经网络的 传感器运动识别

用于可穿戴传感器的人体运动识别任务的传统机器学习方法通常需要手工提取特征,可以自动提取人体运动数据特征的深度神经网络正成为新的研究热点。目前将卷积神经网络(CNN)和长短期记忆(LSTM)循环神经网络组合而成的DeepConvLSTM在识别精度方面有着优于其他识别方法的表现。针对带有长短期记忆循环单元的神经网络的训练较为困难的问题,提出了一种基于卷积神经网络和门控循环单元(GRU)的融和模型,并在3个公开数据集(ACT数据集、UCI数据集和OPPORTUNITY数据集)上与卷积神经网络和DeepConvLSTM进行了性能对比。实验结果显示,该模型在3个公开数据集上的识别精度都高于卷积神经网络,与DeepConvLSTM相当,但是收敛速度比DeepConvLSTM更快。     

基于深度学习的模拟电路软故障诊断

为降低模拟电路软故障特征提取与分类的人工成本,提高软故障诊断的通用性,提出一种基于深度学习的软故障特征提取方法.利用通道注意力机制对深度学习中的卷积神经网络进行改进,将时域电压波形数据输入至改进的卷积神经网络中进行卷积池化,实现数据降维和故障特征提取,并利用注意力机制对所得的故障特征进行深度选择,突出通道内关键的故障特征,抑制不重要的特征,最终使用Softmax分类器对故障特征分类.针对四运放双二次高通滤波器进行故障诊断,故障诊断平均准确率为98％.实验结果表明改进的卷积神经网络模型可以实现对模拟电路的故障诊断,并避免了传统故障识别耗费大量人工的故障提取和选择.     

基于OctConv的DCNN在遥感图像场景分类中的应用

传统卷积神经网络(convolutional neural network,CNN)模型在遥感场景分类中存在大量的空间特征信息冗余,这极大的影响了模型的分类精度和运行效率,针对此问题提出一种基于Octave卷积(octave convolution,OctConv)的深度卷积神经网络(DCNN)模型.首先将卷积层输出的特征图根据频率分解为高低频两部分,并采用全局平均池化将特征映射信息量较少的低频部分压缩为当前尺寸的四分之一,然后使用OctConv替换传统卷积操作,实现高低频特征的自我更新和信息交互,最后引入迁移学习用于提升模型的鲁棒性以及弥补训练样本不足的问题.实验证明该方法在UC_merced_Land_Use公开数据集下能够达到99.25%的分类精度,相较于同类型方法提高了2个百分点,表明该方法的优越性以及有效性。     

基于时间序列分类任务的智能电能表负荷监测技术研究

随着深度学习模型在非侵入式负荷监测领域的应用,负荷识别与分解的能力得到了显著提升。但是多数方法仍然存在模型训练效率低下、分解精度不足以及模型不易推广的问题。针对上述问题,文章利用基于时间序列分类任务的卷积神经网络对非侵入式负荷监测框架进行了研究,并提出了相应的负荷识别与分解方法。通过对比实验证明,在UK-DALE数据集上,基于时间序列分类任务的卷积神经网络提升了洗碗机4.3%的识别准确率和19%的识别精度,降低了21.3%负荷分解过程的均方误差;在REDD数据集上,模型对于洗衣机的识别准确率、精度和F1值均有所提升,特别是召回率提高了24.3%,同时在负荷分解的过程中,模型降低了15.8%的均方误差。因此,与其它神经网络模型相比,基于时间序列分类任务的卷积神经网络具有更稳定的负荷识别与分解性能。     

一种基于CAEs-LSTM融合模型的窃电检测方法

为解决现有的智能电网电力盗窃行为检测方法中准确性不足、检测效率低下等问题,提出了一种由卷积自编码器网络(convolutional auto-encoders,?CAEs)和长短期记忆网络(long short term memory,?LSTM)相结合的CAEs-LSTM检测模型。该模型通过分析数据集的特点对电力数据进行二维转换,设计卷积自编码器结构,采用池化、下采样和上采样重构电力数据的二维空间特征,加入高斯噪声提高模型鲁棒性,并构建长短期记忆网络以学习全局时序特征。最后,对提取的时空特征进行融合从而检测能源窃贼,并进行了参数调优。在由国家电网公布的真实数据集上,通过将CAEs-LSTM模型与支持向量机、LSTM以及宽深度卷积神经网络进行对比,CAEs-LSTM模型的平均精度均值和曲线下面积值均最优。仿真实验表明,基于CAEs-LSTM模型的窃电检测方法具有更高的窃电检测效率和精度。     

应用改进卷积神经网络的客户服务业务中台资源异常信息主动报警

针对客户服务业务中台资源异常信息人工诊断不及时、故障辨识率低等问题,提出一种基于改进卷积神经网络的故障诊断方法。卷积层后引入批量归一化层提高模型的泛化能力,在全连接层引入Droupout函数来缓解过拟合问题,还对数据进行了增强处理以及运用灰狼算法对超参数进行寻优。该模型在Pytorch和Pycharm环境下进行仿真,得出经典卷积神经网络的测试集准确率在85%左右,而改进后的测试集准确率在94%左右,表明所提设计具有明显效果。     

基于动态衰减网络和算法的图像识别

针对在大样本数据集下,梯度下降法长期性存在着容易收敛到局部最优和收敛速度慢等问题,通过改变网络结构和梯 度下降过程,提出了一种动态衰减网络和动态衰减梯度下降算法。 在现有网络的基础上,层与层的每个神经元之间增加一条衰 减权重,同时在梯度下降过程中引入了衰减权重项。 衰减权重值随着迭代不断衰减,最终趋于 0。 由于衰减权重项的增加,可 以在梯度下降的前期加快梯度下降速度和收敛速度,同时可以避免越过最优解和在最优解附近振荡,提高了网络获得最优解的 概率。 通过 MNIST 、CIFAR-10 和 CIFAR-100 数据集的实验结果证实,所提出的动态衰减网络和算法,相比原始网络使用 Adam 和动量随机梯度下降法,测试准确度分别提高了 0. 2% ~ 1. 89%和 0. 75% ~ 2. 34%,同时具有更快的收敛速度。     

基于改进 YOLO 及 NMS 的水果目标检测

为使水果采摘机器人在复杂情况下如树叶遮挡、果实目标尺度变化大等情况能准确地检测出水果,提出一种YOLO(you only look once)改进模型与NMS(non-maximum suppression)改进算法的目标检测方法。首先,对传统YOLO深度卷积神经网络架构进行改进,设计一种更细化的SPP5(spatial pyramid pooling)特征融合网络模块,强化特征图多重感受野信息的融合,并基于此模块提出一种YOLOv4-SPP2-5模型,在标准YOLOv4网络中跨层添加并改进SPP层,重新分布池化核大小,增强感受野范围,从而降低目标误检率;其次,提出一种Greedy-Confluence的NMS改进算法,通过对高度接近的检测框直接抑制和对重叠检测框综合考虑距离交并比DIOU(distance-intersection over union)和加权接近度WP(weighted proximity)的方法,均衡NMS的计算消耗并减少检测框的错误抑制,从而提高遮挡、重叠物体的检测精度;最后,分别对改进方法进行性能测试,验证方法的可行性,随后制作水果检测数据集并进行格式转换和标...     

基于CWD谱图和改进CNN的无线电调制分类

针对频率随时间的变化规律是不同调制信号之间最重要的区别，提出一种结合崔 威廉斯分布和改进卷积神经网络模型的无线电调制分类识别方法。在信号预处理阶段，为了更好保留信号的时频特征，引入崔-威廉斯变换将原始时间序列转换成时频图像，进而将调制信号分类问题转化成图像识别问题。在信号识别阶段，通过在卷积神经网络模型中引入残差密集块和全局平均池化层，以克服卷积神经网络模型泛化能力差和训练时间久等缺点。实验结果表明，所提方法可以有效解决梯度消失问题，具有识别率高、泛化能力强等优点。尤其是在低信噪比情况下，表现更为优异，在信噪比为-4 dB时，8种信号的分类精度便可达到100%。     

(20期拿下）基于卷积神经网络的绝缘子故障识别算法研究

卷积神经网络被广泛应用在图像处理领域,不同算法对网络识别率有较大的影响。基于此,引入小波分解理论,通过BP传播算法以及空间向量理论证明得到,相互独立的特征更能表达原图像的信息。通过小波分解去除卷积核之间的相关性,用较少的卷积核提取图像更独立、全面的特征,以提高网络的识别性能。在MNIST、CIFAR-10和CK标准数据库上进行分类识别实验,实验结果表明,此算法能在不同核函数尺寸的条件下取得较高识别率,且达到与传统算法相同识别率的前提下,所需的训练迭代次数更少,训练时间更短。最后,将该算法应用到绝缘子故障识别中,并取得了良好的效果。     

基于 AG-CNN 的轻量级调制识别方法

针对传统卷积神经网络在调制方式盲识别过程中,存在模型体积大、运算量高、无法部署至移动端等问题,提出了一种基于双注意力机制与Ghost模块的轻量级CNN模型AG-CNN(attention and Ghost convolution neural network)调制识别方法,该方法首先将调制信号映射至复空间,并根据归一化点密度对映射点进行颜色处理,得到高阶特征密度星座图;将该特征作为AG-CNN模型的输入进行学习训练,最后使用训练好的模型对接收端接收到的未知信号进行识别。实验表明,AG-CNN模型对散点为10 000的密度星座图识别率在99.95%以上,与相同层数的CNN模型相比,卷积层参数量压缩6.01倍,计算量压缩6.76倍,且相较于VGG-16、InceptionV3、ResNet-50、Shufflenet、Efficientnet等卷积网络模型,参数量与浮点数运算数下降明显,且在大幅节省学习参数量、降低模型复杂度的情况下,表现出优秀的分类性能。     

一种基于图卷积神经网络的加密流量分类方法

深度学习算法被广泛应用于网络流量分类领域并取得较好效果。然而,对抗攻击的出现给其安全性带来了严重威胁,使得当前主流的基于卷积神经网络模型的分类算法的精度严重下降。针对此,本文提出了一种抗流量分类中灰度图对抗攻击的加密流量分类方法。所提方法通过提取数据包负载长度、包序列、方向、簇等流量交互信息构建拓扑图,将加密流量分类问题转化为图分类问题。接着,本文使用基于图卷积神经网络的分类方法进行特征的学习分类,图卷积神经网络模型可以自动从输入的拓扑图中提取特征,将特征映射到嵌入空间中的不同表示来区分不同的图结构。实验结果表明,本文所提方法不仅能够避免对抗攻击,且在公开数据集上的分类性能也较现有典型方法提高了5%以上。     

基于生成对抗网络和混合时空神经网络的入侵检测

针对网络入侵检测领域存在检测准确率低的问题,研究异常流量样本少和分类器性能不佳时的入侵检测模型,提出一种基于改进生成对抗网络和混合时空神经网络的入侵检测模型。改进生成对抗网络通过学习异常流量样本的分布特性,生成具有特定标签的人工异常流量样本;融合卷积神经网络和双向长短时记忆神经网络提取攻击流量的时空融合特征,利用注意力机制对时空融合特征进行加权,构建混合时空神经网络对网络流量进行分类预测。在UNSW-NB15数据集上对所提模型进行仿真实验,准确率和F1分数分别为92.93%和94.81%,表明所提模型能够有效改善原始数据集中的类别不平衡性问题,提高对异常流量样本的检测能力和网络入侵的检测准确率。     

基于改进降噪自编码器的风机轴承故障诊断方法

滚动轴承是风电机组中故障最为频繁的部件之一,准确有效的轴承故障诊断方法有助于保障风电机组安全稳定运行。针对轴承振动信号特征微弱、难以诊断的问题,提出了一种基于改进降噪自编码器的风电机组轴承故障检测方法。首先引入了一维信号的图像化预处理,将原始的时域信号转化为二维特征灰度图。然后利用卷积神经网络在图像特征提取上的强大优势,构建了堆叠降噪自编码器与卷积神经网络的集成模型,去除了传统卷积神经网络中的池化层,进一步提升提取特征的鲁棒性和泛化性。整体诊断流程由数据驱动,减少了对于经验的依赖。最后的实验结果表明,该方法能够精确诊断不同类型的轴承故障。此外,通过与其他方法的对比实验进一步验证了该方法在故障诊断方面的优越性。