不平衡数据下基于CNN的网络入侵检测

深度学习的自学习能力可以实现入侵检测系统的不断更新及扩展,增强入侵检测系统的防范能力,但目前大部分基于深度学习的网络入侵检测研究都未考虑到数据集类别不平衡问题.针对此问题,提出了一种类别重组技术结合Focal Loss损失函数的处理方法,用于原始网络入侵流量分类.该方法把原始流量生成灰度图输入卷积神经网络CNN进行特征提取学习,类别重组技术保证了训练集中攻击类别间的相对均衡,而Focal Loss损失函数通过影响类别权重提高了CNN模型对复杂样本的关注.在三个CNN模型上进行了实验,macro-f1分别提高了9.41%, 1.65%和4.39%,结果表明该方法能够有效处理网络入侵检测中的类别不平衡问题,且明显提高了少数类样本的识别精度.     

基于DBSCAN_GAN_XGBoost的网络入侵检测方法

由于网络异常流量检测中异常流量数据占比不平衡,导致模型不能对稀有攻击类别流量进行充分学习,从而影响模型训练和检测精度.针对这一问题,提出一种基于DBSCAN_GAN_XGBoost的网络入侵检测模型,该模型在对稀有攻击类样本进行扩充时,着重扩充更容易让机器学习产生混淆的噪声样本.首先,利用DBSCAN算法对提取出的稀有...     

基于卡方方法及对称不确定性的网络流量特征选择方法

对网络流量数据进行分类时,由于网络流量具有多个类别,并且各类样本数量不均衡,故在利用机器学习进行分类时,会导致分类的模型的性能降低,致使样本被误分为样本数量多的类别,进而致使样本数量较少的类别(小类别)的召回率过低。针对该问题,提出一种基于卡方方法及对称不确定性网络流量特征选择方法。该方法首先计算特征与类之间的加权卡方值,选择卡方值较大的特征组成候选特征子集,然后根据特征与所有类之间的对称不确定性进一步筛选特征集。在Moore网络流量数据集上进行实验,得到的实验结果证明,通过该方法选择的特征对网络流量数据进行分类,在保证准确率高的前提下也得到了较高的小类召回率,减轻了数据不均衡问题带来的不良影响。     

基于能量模型的行人与车辆再识别方法

为了解决行人再识别以及车辆再识别算法中网络训练过程对计算资源的消耗过大且准确率较低的问题,提出基于能量模型的目标分类和度量学习方法. 利用样本特征空间中同类样本的低能量分布特性, 设计对比能量损失函数,形式上表达为训练样本在真实目标类别上的损失函数响应和非目标类别上的响应之差,可以更准确地增大目标响应,抑制非目标响应, 提高了分类准确率,使得同类样本特征更聚集、异类样本特征更远离. 在多个行人再识别和车辆再识别数据集上的测试结果显示, 相对于Soft-max和Triplet混合损失函数, 利用能量模型可以提升网络训练效率,提高目标再识别准确率.     

融合对抗训练与ERNIE 的短文本情感分析模型

使用深度学习技术进行文本情感分类是近年来自然语言处理领域的研究热点, 好的文本表示是提升深度学习模型分类性能的关键因素。由于短文本蕴含情感信息较少、训练时易受噪声干扰, 因此提出一种融合对抗训练的文本情感分析模型PERNIE RCNN。该模型使用ERNIE 预训练模型对输入文本进行向量化, 初步提取文本的情感特征。随后在ERNIE 预训练模型的输出向量上添加噪声扰动, 对原始样本进行对抗攻击生成对抗样本, 并将生成的对抗样本送入分类模型进行对抗训练, 提高模型面临噪声攻击时的鲁棒性。实验结果表明, PERNIE RCNN 模型的文本分类性能更好, 泛化能力更优。     

基于判别器反馈的零样本图像分类方法

零样本学习(zero-shot learning, ZSL)致力于在训练期间缺乏不可见类数据的情况下，仍能达到对不可见类别分类的目的。目前在生成式方法中，基于联合生成模型VAEGAN的零样本学习是一个研究热点。在此基础上，提出了一个基于判别器反馈VAEGAN(discriminator feedback VAEGAN,DF-VAEGAN)的零样本图像分类方法。该方法在判别器部分引入了一个反馈模块，在训练阶段可以提升模型整体的性能，在特征生成阶段可以结合生成器共同提升特征生成质量，最终通过高质量的合成特征训练分类器，提高分类准确率。本文还通过解码器重建属性特征，并使用循环一致性损失确保生成特征具备语义一致性。传统ZSL和广义零样本(generalized zero-shot learning, GZSL)图像分类实验展示了本文方法在5个经典数据集上均优于现有方法，在零样本图像分类任务中有效增强了特征合成质量和减少了类别间歧义的目标。     

密度不均衡数据分类算法

针对不均衡数据下分类超平面偏移、少数类识别率较低的问题,提出一种基于样本密度的不均衡数据分类算法。该算法首先计算样本密度和类样本密度,依据类样本密度之间的关系确定聚类类数, 然后利用K-means聚类算法对多数类样本进行聚类,用聚类所得类中心作为样本集取代原多数类样本集, 最后对新构造的训练集进行训练得到最终决策函数。其实验结果表明,该算法能够提高SVM在不均衡数据下的分类性能,尤其是少数类的分类性能。       

基于深度卷积神经网络的睡眠分期模型

针对现阶段数据和特征决定睡眠分期模型的分类精度上限的问题,提出深度卷积神经网络模型. 在模型主体构建方面,并行卷积网络可以自动学习原始信号的时域特征和频域特征,特征融合网络通过空洞卷积和残差连接进行多特征融合,分类网络基于融合后的特征进行睡眠分期. 利用生成少数类过采样技术（SMOTE）减少类别不平衡对分类效果的影响,结合两步训练法对模型进行优化. 实验使用Sleep-EDF数据集的原始单导脑电信号（Fpz-Cz通道）对模型进行20折交叉验证,得到总体精度和宏F₁分别为86.73%和81.70%. 提出的深度卷积模型在没有任何先验知识的情况下,对脑电信号进行端到端的学习,分类准确率优于传统的深度学习模型.     

不均衡大数据集下的文本特征基因提取方法

在不均衡大数据集情况下,传统特征处理方法偏重大类而忽略小类,影响分类性能。该文提出了一种文本特征基因提取方法。首先,基于样本类别分布不均衡对特征选择的影响,给出了一种结合信息熵的CHI统计矩阵特征选择方法,以强化小类的特征;然后,在探究多维统计数据高阶相关性的基础上,采取独立成分分析手段,设计了文本特征基因提取方法,用以增强特征项的泛化能力;最后,将这两种方法相融合,实现了在不均衡大数据集下的文本特征基因提取新方法。实验结果表明,所提方法具有较好的早熟性及特征降维能力,在小类的分类效果上优于常见特征选择算法。     

基于特征优化与深层次融合的目标检测算法

针对单阶段多边框检测算法(SSD)存在对小目标检测误差较大的问题,提出基于特征优化与深层次融合的目标检测算法,通过空间通道特征增强(SCFE)模块和深层次特征金字塔网络(DFPN)改进SSD. SCFE模块基于局部空间特征增强和全局通道特征增强机制优化特征层,注重特征层的细节信息;DFPN基于残差空间通道增强模块改进特征金字塔网络,使不同尺度特征层进行深层次特征融合,提升目标检测精度. 在训练阶段添加样本加权训练策略,使网络注重训练定位良好的样本和置信度高的样本. 实验结果表明,在PASCAL VOC数据集上,所提算法在保证速度的同时检测精度由SSD的77.2%提升至79.7%;在COCO数据集上,所提算法的检测精度由SSD的25.6%提升至30.1%,对小目标的检测精度由SSD的6.8%提升至13.3%.     

基于协议分析和SVM多分类的入侵检测系统研究

入侵检测实质上可以被描述为对数据样本进行尽可能正确的分类,关键问题是特征选择和模式识别方法的选择.采用SVM分类器组合的方法对数据样本进行分类,结合协议分析技术,提出了基于协议分析和SVM多分类的入侵检测系统模型,并利用KDD CUP 99数据集对系统模型进行测试.测试结果表明,所提出的方法有效提高了入侵检测的效率,降低了漏报率和误报率.     

基于注意力机制和多层次特征融合的目标检测算法

为了提高目标检测的准确率，提出一种基于注意力机制和多层次特征融合的图像目标检测算法。该算法在Cascade R-CNN模型的基础上，以RseNet50为主干网络，通过嵌入简单的注意力模块（SAM）来提高网络的判别能力；其次，利用深度可分离卷积改进特征金字塔网络（FPN），设计了多层次特征融合模块（MFFM），对多尺度特征进行融合，以丰富特征图的信息量，并对不同层次的特征图赋予相应的权重以平衡不同尺度的特征信息；最后，结合目标检测方法中的区域建议网络（RPN）结构获取目标的候选区域进行分类和回归处理，确定检测目标的位置和类别。实验结果表明，相较于Cascade R-CNN目标检测算法，该算法的检测精度提升了约2.0%。     

多类场景下无人机航拍视频烟雾检测算法

在无人机航拍视频烟雾检测领域中,由于不同检测场景差异大,导致现有烟雾检测算法经常出现检测精度低、速度慢等问题。为了解决以上问题,建立了一个基于无人机视角的多类场景下的烟雾数据集（UAV smoke dataset,USD）,并提出了一种改进YOLOx的多类场景下无人机视频烟雾检测算法。首先,在YOLOx网络模型中引入改进的注意力机制,分别改进通道特征和空间特征的提取过程,提取更加具有表征能力的烟雾特征；然后,提出一种双向特征融合模块,增强多尺度特征融合模块对小目标烟雾特征的融合能力；最后,引入Focal-EIOU损失函数,解决训练过程中出现正负样本不平衡,以及预测框和真实框不相交时无法反映两个框的距离远近和重合度大小等问题。实验结果表明,所提算法在应用于多类场景下无人机视频烟雾检测任务时具有较好的鲁棒性,对比多个经典烟雾检测算法,本文算法在不同数据集上的烟雾检测准确率均有不同的提升,比如对比原有的YOLOx-s模型,准确率提升2.7%,召回率提升3%,速度达到73.6帧/s。     

基于3D卷积神经网络的肺结节检测

针对肺结节自动检测模型精度较低，假阳性较高等问题，提出一种基于3D卷积神经网络的两阶段肺结节检测方法。第一阶段使用3D V-Net检测出所有候选结节，并融合残差跳转连接构建深层网络，以保留上层网络一定比例输出，实现图像特征重用，引入改进的损失函数解决数据集正负样本失衡的问题；第二阶段使用3D VGG网络对候选结节分类，以降低假阳性，并加入残差连接防止梯度消失和退化，以加速网络训练过程。实验结果表明，该方法在候选结节检测阶段的敏感度为91.28%，分类阶段的准确率为99.22%，敏感度为96.60%，可有效辅助放射科医生对肺结节进行检测。     

旋转框定位的多尺度再生物品目标检测算法

针对传统目标检测算法未考虑实际分拣场景目标物形态尺度的多样性,无法获取旋转角度信息的问题,提出基于YOLOv5的改进算法MR²-YOLOv5. 通过添加角度预测分支,引入环形平滑标签（CSL）角度分类方法,完成旋转角度精准检测. 增加目标检测层用于提升模型不同尺度检测能力,在主干网络末端利用Transformer注意力机制对各通道赋予不同的权重,强化特征提取. 利用主干网络提取到的不同层次特征图输入BiFPN网络结构中,开展多尺度特征融合. 实验结果表明,MR²-YOLOv5在自制数据集上的均值平均精度(mAP)为90.56%,较仅添加角度预测分支的YOLOv5s基础网络提升5.36%;对于遮挡、透明、变形等目标物,均可以识别类别和旋转角度,图像单帧检测时间为0.02~0.03 s,满足分拣场景对目标检测算法的性能需求.     

基于多尺度条件生成对抗网络血细胞图像分类检测方法

针对血细胞图像中白细胞样本较少和生成细胞图像细节不清晰,导致检测精度较低的问题,提出基于多尺度鉴别器的条件生成对抗网络. 该网络通过生成并添加大量逼真的白细胞图像到分类检测网络训练集的方式,实现对血细胞图像的生成和分类检测. 在现有条件生成对抗网络真假鉴别器中,引入多尺度卷积核、池化域并在通道上拼接,提升鉴别器对微观细节纹理特征和宏观几何特征的鉴别能力;引入梯度相似性损失函数,以提高生成细胞图像的亮度及边缘清晰度,提升图像的真实感. 实验证明,在图像生成阶段,增加多尺度鉴别器和梯度相似性损失函数提高了生成细胞图像的质量;在图像分类检测阶段,对比仅有真实数据训练的情况,增加细胞样本多样性使细胞分类检测的平均精度由90.4%提升至94.7%.     

基于深度学习的废钢分类评级方法研究

废钢是现代钢铁工业重要的铁素来源，是钢企实现碳中和的重要原料。不同级别的废钢价格悬殊，其质量直接影响钢企的生产成本和产品质量，因此，废钢入炉前的分类和评级问题，受到钢企的普遍重视和高度关注。针对传统人工方法在废钢的分类评级中所出现的效率低、安全性和公正性差等问题，提出基于深度学习中的卷积注意力机制和加权双向特征融合网络构建废钢分类评级模型CCBFNet。首先搭建废钢质量查验物理模型，模拟货车卸载废钢的生产作业场景，采用高分辨率视觉传感器采集不同类别的废钢图像。其次，在模型训练阶段设计了一种结合注意力与特征融合的废钢验质深度学习模型，将卷积注意力模块（Convolutional Block Attention Module，CBAM）加入主干网络对采集的废钢图像数据集进行特征提取，聚焦并保留图像的重要特征；使用加权双向特征金字塔（Bidirectional Feature Pyramid Network，BiFPN）平衡多尺度特征信息，进行多尺度特征融合。最后，在模型预测阶段，利用所构建的废钢质量验质模型CCBFNet进行废钢类别和质量判级，验证模型的准确性与检测效率。基于自制废钢验证数据集，与主流的目标检测Faster R-CNN、YOLOv4、YOLOv5系列以及YOLOv7进行性能比较。实验结果表明：CCBFNet识别判级的平均准确度达到了90%，mAP为89.2%，均高于对比的目标检测模型，在准确性、实时性以及识别评级效率方面可完全满足实际生产应用，解决废钢分类评级过程中的诸多难题，实现废钢的智能验质和公正判定。     

一种基于DSmT推理的物品融合识别算法

针对目前提升深度模型分类表现方法存在的硬件性能不足、结构创新不易、训练样本有限等问题,提出一种基于DSmT(Dezert-Smarandache)推理的物品融合识别算法。对于待识别目标,应用数据融合思想将来自不同深度学习模型提供的识别信息进行融合处理。利用已有的预训练深度学习模型,根据分类识别任务进行特定的微调;针对DSmT理论中构造信度赋值困难的问题,使用深度学习网络对图像的判别输出进行证据源信度赋值;在决策级层运用DSmT组合理论对信度赋值融合处理,进而实现物品的准确识别。在不改变网络模型结构与同一数据集的情况下,将提出的方法与单一网络模型和平均值处理方法进行对比测试试验。试验结果表明,该方法可以有效地提高物品图像的识别率。     

基于数字脊波和样条权神经网络的高光谱图像融合分类

提出了一种基于数字脊波和样条权神经网络的高光谱图像融合分类新算法。在特征级融合中,针对数字脊波的特点,对不同分辨率的脊波系数采用局部信息熵进行融合,并运用样条权神经网络实现了分类。在决策级融合中,提出了先用样条权神经网络进行预分类,然后用主体投票法进行决策融合的算法,为避免作为局部分类器的神经网络结构过于复杂,对输入数据先进行了像素层的融合实现数据降维,这实质上体现了一种多层次融合的思想。实验结果表明,这两种方法都能有效的实现高光谱图像的融合及分类,在较少的训练样本下分类精度能达到92%以上,其中特征级融合可达到95.87%。