改进特征金字塔的小目标深度学习模型

现有的目标检测模型常采用特征金子塔的多尺度特征融合来提升小目标检测性能。然而，在特征金字塔的浅层特征层，大目标的存在会削弱模型对小目标的检测，侧向连接会丢失高层特征层的语义信息。针对以上问题，提出了I-FPN特征金字塔。在浅层特征层，抹去大目标信息让模型更关注小目标；在高层特征层，使用残差特征增强模块减少信息损失。此外，模型还使用数据增广技术提升鲁棒性。I-FPN特征金字塔使用Resnet为主干网络，在VEDAI小目标数据集和PASCAL VOC通用目标数据集上进行了实验。实验结果表明，在不影响检测速度的条件下，在VEDAI测试集上较原特征金字塔的mAP指标提升了2.4%,在VOC测试集上mAP指标提升了0.5%。     

基于特征选择的软件缺陷报告严重性评估

针对Bugzilla缺陷跟踪系统的Eclipse项目软件缺陷报告数据集,使用特征选择和机器学习算法对向量化的原始数据进行特征降维、权重优化等处理,得到数据维度较低的优化数据集,并采用分类算法评估软件缺陷报告严重程度。通过对4种特征选择算法及4种机器学习算法处理结果的交叉对比表明,使用信息增益特征选择算法对原始数据集进行特征优化,并结合多项式贝叶斯算法对优化数据集进行训练与测试,可使软件缺陷报告严重性预测的AUROC值提高至0.767。     

基于卷积神经网络和Adaboost的心脏病预测模型

借助计算机技术，使用年龄、性别等基本特征预测心脏病的易感性，对心脏病的早期预测和防治具有重要意义。针对基于机器学习的心脏病预测模型准确率不高的问题，提出一种基于卷积神经网络（CNN）和Adaboost的心脏病预测模型CNN-Adaboost。首先，对原始数据进行预处理，结合特征相关性与特征组合算法融合两两属性特征，并升维数据，使各属性特征充分融合；然后，通过CNN进行充分的特征提取；最后，结合Adaboost机器学习算法建立心脏病预测模型。UCI数据集上的测试结果表明，CNN-Adaboost预测模型优于K近邻（KNN）等传统机器学习模型和K近邻-随机森林（KNN-RF）等优化模型，准确率、AUC、查准率和查全率可达到0.917、0.95、0.924与0.85。CNN-Adaboost模型具有良好的分类效果，能为医患人员进行心脏病预测与预防提供帮助。     

基于膨胀卷积和门控循环单元组合的入侵检测模型

基于机器学习的入侵检测模型在网络环境的安全保护中起着至关重要的作用。针对现有的网络入侵检测模型不能够对网络入侵数据特征进行充分学习的问题,将深度学习理论应用于入侵检测,提出了一种具有自动特征提取功能的深度网络模型。在该模型中,使用膨胀卷积来增大对信息的感受野并从中提取高级特征,使用门控循环单元（GRU）模型提取保留特征之间的长期依赖关系,再利用深层神经网络（DNN）对数据特征进行充分学习。与经典的机器学习分类器相比,该模型具有较高的检测率。在著名的KDD CUP99、NSL-KDD和UNSW-NB15数据集上进行的实验表明,该模型具有由于其他分类器的性能。具体来说,该模型在KDD CUP99数据集上的准确率为99.78%,在NSL-KDD数据集上的准确率为99.53%,在UNSW-NB15数据集上的准确率为93.12%。     

集图卷积和三维方向卷积的点云分类分割模型

现有的深度学习方法在提取点云的局部特征时往往忽略了节点间的位置关系和方向信息，导致不能有效地学习点云的局部特征。为解决这一问题，提出一种集图卷积和三维方向卷积的点云分类分割模型GCN3D。GCN3D模型将图卷积神经网络应用在点云分类分割领域。将点云视作图上的节点，对每个节点求其K近邻，建立局部K近邻邻域内两两节点之间的边，并通过图卷积神经网络参数化边特征以捕捉节点间局部位置关系并更新中心节点特征；使用方向编码模块将节点的邻域划分为八个方位的细粒度的邻域小块，并按照三维空间坐标轴的方向依次将局部邻域结构内的节点特征映射到不同细粒度邻域空间内以提取节点间的方向信息，并且叠加两个方向编码模块增大网络的感受野，提高模型对于稀疏点云数据的鲁棒性并获取局部邻域多尺度特征。在ModelNet40数据集和ShapeNet数据集上分别进行点云分类和点云部分分割的实验。结果表明，相比没有考虑局部特征信息的PointNet,GCN3D模型在ModelNet40数据集上的总体分类精度提高了3.8个百分点，平均分类精度提高了4.3个百分点；在ShapeNet数据集上的平均交并比提高了1.5个百分点。相比其他深度...     

基于情感词向量和BLSTM的评论文本情感倾向分析

情感倾向分析主要用于判断文本的情感极性,在商品评论、舆情监控等领域有着重要的商业和社会价值。传统的机器学习方法主要是浅层的学习算法,并不能很好地抽取文本中高层情感信息。针对该问题,提出了一种以组合了语义信息和情感信息的情感词向量作为输入的改进双向长短期记忆模型,通过构建语义和情感双输入矩阵,并在隐藏层加入情感特征抽取模块,来增强模型的情感特征表达能力。在数据集上的实验结果表明,与标准的BLSTM模型和传统机器学习模型相比,该模型能够有效提升文本情感倾向分析的效果。     

基于卷积神经网络的JavaScript恶意代码检测方法

机器学习的JavaScript恶意代码检测方法在提取特征过程中耗费时间和人力,以及这些频繁使用的机器学习方法已经无法满足当今信息大爆炸的实际需要。提出了一种基于卷积神经网络的JavaScript恶意代码检测方法。采用爬虫工具收集良性和恶意的JavaScript脚本代码获得样本数据;将JavaScript样本转换为相对应的灰阶图像,得到图像数据集;通过构建卷积神经网络模型对图像数据集进行训练,使得模型具有检测JavaScript恶意代码的能力。实验结果表明,相对于机器学习,该方法对收集到的5 800条JavaScript代码样本,检测准确率达到98.9%。     

基于轻量级卷积神经网络的遥感图像检测模型

针对遥感图像目标检测困难，当前网络难以兼顾检测精度与实时性的问题，提出一种轻量级的遥感图像检测模型Yolov4＿Rs。以Yolov4为基准，将轻量级网络Mobilenetv2作为主干特征提取网络，减小模型容量；在网络颈部融入多个特征增强金字塔模块，丰富特征信息；在特征融合网络中去掉下采样，引入残差连接；使用K-means++算法对数据集进行聚类。实验结果表明，Yolov4＿Rs体积仅为Yolov4的25.1%,在RSOD和UCAS-AOD数据集上的MAP相比Yolov4分别提升了2.26%、0.99%,表明该模型比Yolov4检测效果更好，是一种轻量高效的检测模型。     

针对机器学习的成员推断攻击综述

近年来，机器学习不仅在计算机视觉、自然语言处理等领域取得了显著成效，也被广泛应用于人脸图像、金融数据、医疗信息等敏感数据处理领域。最近，研究人员发现机器学习模型会记忆它们训练集中的数据，导致攻击者可以对模型实施成员推断攻击，即攻击者可以推断给定数据是否存在于某个特定机器学习模型的训练集。成员推断攻击的成功，可能导致严重的个人隐私泄露。例如，如果能确定某个人的医疗记录属于某医院的数据集，则表明这个人曾经是那家医院的病人。首先介绍了成员推断攻击的基本原理；然后系统地对近年来代表性攻击和防御的研究进行了总结和归类，特别针对不同条件设置下如何进行攻击和防御进行了详细的阐述；最后回顾成员推断攻击的发展历程，探究机器学习隐私保护面临的主要挑战和未来潜在的发展方向。     

改进U-Net网络的高分辨率遥感影像变化检测算法

针对高分辨率遥感影像变化检测中出现的伪变化较多、检测边界模糊、小目标漏检等问题，提出一种孪生结构的Siam-FAUnet变化检测模型。该模型可以实现端到端的变化检测任务。首先，利用改进的VGG16作为编码器提取双时相的影像特征；其次，通过空洞空间金字塔池化模块获取图像多尺度上下文信息；然后，使用流对齐模块将编码器中的低层特征融合至解码器，以此来获取影像的变化区域。实验采用公开的CDD和STAKI数据集进行训练和测试。结果表明，相对于其他主流的深度学习变化检测方法，Siam-FAUnet变化检测模型在准确率、精确率、召回率和F1分值上均有提升，表明该模型具有良好的检测性能。     

基于机器学习的RTS游戏实时胜率预测

游戏胜负预测可用于自适应游戏AI的设计,策略层面强化学习的反馈参数等。使用SC2LE公开的数据集,首先通过游戏时间、MMR和AMP指标进行数据预处理,得到质量较高的数据集;然后使用pysc2解析,提取游戏数据;最后进行特征分析,得到基础特征和统计特征,完成游戏特征数据集的构建。最终采用机器学习方法XGB分类模型,利用10次十折交叉验证法进行模型评估与优选。结果表明使用基础特性与统计特性的组合,可以使得实时胜率预测准确率在不同匹配对局情况下均超过80%。     

一种基于改进ResNet的疲劳检测方法

为了避免因疲劳驾驶导致的交通事故的发生，该文提出一种基于改进ResNet网络的疲劳检测方法。通过在残差模块中引入深度卷积，对标准化方法进行优化并引入平均池化和注意机制，有效提升了模型对脑电信号全局信息的捕捉能力。通过SEED-VIG的功率谱特征和微分熵特征数据集、多熵融合疲劳检测数据集和SPIS静息状态数据集对该文模型进行验证。实验结果表明，该文模型在各数据集上的平均准确率达到97.4%，较原ResNet网络提升17.9%。此模型对疲劳检测十分有效，可在一定程度上降低交通事故发生率。     

基于深度注意力的融合全局和语义特征的图像描述模型

现有的图像描述模型使用全局特征时受限于感受野大小相同,而基于对象区域的图像特征缺少背景信息。为此,提出了一种新的语义提取模块提取图像中的语义特征,使用多特征融合模块将全局特征与语义特征进行融合,使得模型同时关注图像的关键对象内容信息和背景信息。并提出基于深度注意力的解码模块,对齐视觉和文本特征以生成更高质量的图像描述语句。所提模型在Microsoft COCO数据集上进行了实验评估,分析结果表明该方法能够明显提升描述的性能,相较于其他先进模型具有竞争力。     

图像超分辨率特征浓缩网络

自从卷积神经网络应用到图像超分辨率领域以来，越来越多的神经网络被提出，并且取得良好的效果，但是当前大多数方法都严重依赖于模型的深度和宽度，而没有充分利用底层信息。针对以上问题，提出了一种新型特征浓缩网络，该网络通过多个特征浓缩块逐步提取有效特征信息。网络包括特征提取模块、特征浓缩模块和重建模块，并添加了双三次插值运算和全局残差学习。通过底层特征处理来提取有用的特征，使用特征浓缩块进一步提取特征，由重建模块恢复高分辨率图像。在实验中，选择4个不同的公开数据集进行不同尺度的测试，通过实验结果可以看出，所提出的网络对比其他方法有更好的客观指标结果。     

基于特征选择模型的钓鱼网站快速识别方法

目前在识别钓鱼网站的研究中,对识别速度有着越来越高的需求,因此提出了一种基于混合特征选择模型的钓鱼网站快速识别方法。混合特征选择模型包含初次特征选择、二次特征选择和分类三个主要部分,使用信息增益、卡方检验相结合以及基于随机森林的递归特征消除算法建立了混合特征选择模型,并在模型中使用分布函数与梯度,获取最佳截断阈值,得到最优数据集,从而提高钓鱼网站识别的效率。实验数据表明,使用该混合特征选择模型进行特征筛选后的数据集,维度降低了79.2%,在分类精确度几乎不损失的情况下,降低了32%的分类时间复杂度,有效地提高了分类效率。另外,使用UCI机器学习库中的大型钓鱼数据集对该模型进行评价,分类精确率虽然损失1.7%,但数据集维度降低了70%,分类时间复杂度降低了41.1%。     

对稀疏点云规则化处理的分类卷积神经网络

深度学习作为点云分类的重要方法之一，通常会因为点云的稀疏性、无序性、有限性等特点，导致卷积算子不能充分提取局部空间相关性，直接使用卷积提取点的相关特征将导致特征信息的丢失。为此提出一种经过X变换后的点云分类卷积神经网络：XTNet(convolutional neural network based on X-transform)。XTNet对输入的原始点云数据进行X变换，将它们置换成潜在的规范顺序，抑制点云无序性、稀疏性对卷积操作的影响，避免卷积操作过程中的信息丢失；使用K近邻算法构建局部区域后，使用卷积层提取局部信息；在提取局部特征的同时通过通道扩充增加信息传递、丰富特征；在各局部特征提取模块间设置跳跃连接，进一步减少局部信息的丢失。在标准公开数据集ModelNet40和真实数据集ScanObjectNN中进行了实验。实验结果表明，与目前主流的多个高性能网络相比，XTNet分类准确率提高了0.3～4个百分点，并且拥有良好的鲁棒性和普适性。     

融合注意力机制的域泛化行人再识别

域泛化的行人再识别能够在源数据集进行训练并在目标数据集进行测试,具有更广泛的实际应用意义.现有域泛化模型往往由于专注解决光照和色彩变化问题而忽略对细节信息的有效利用,导致识别率较低.为了解决上述问题,提出一种融合注意力机制的域泛化行人再识别模型.该模型首先通过叠加卷积层的瓶颈层(bottleneck layer)设计提取出包含不同视野域的多尺度特征,并利用特征融合注意力模块对多尺度特征进行加权动态融合;然后通过多层次注意力模块挖掘细节特征的语义信息;最后将包含丰富语义信息的细节特征输入到判别器进行行人再识别.此外,设计风格正则化模块(style nomalization module)用于降低不同数据集图像明暗变化对模型泛化能力的影响.在Market-1501和DukeMTMC-reID数据集上进行对比和消融实验,表明了所提出方法的有效性.     

基于卷积神经网络的遮挡目标图像检测识别技术研究

为了尽可能降低图像目标的重复识别概率、错误率,提出了利用卷积神经网络算法对图像识别信息的重复识别进行分析的实验研究。遮挡目标的数据集经过图像增强后输入给卷积层卷积,初始化得到的图像数据经过卷积层卷积后,提交至池化层进行进一步处理,提取图像特征数据,将提取的图像特征数据经过池化层处理后进行压缩,提取遮挡目标的关键特征信息。最后经过TensorFlow深度机器学习框架的实验测试,进一步证明使用注意模块后可以通过引导网络去关注被遮挡目标图像上的可视细节部分,并完善对遮挡目标图像检测进行验证研究。     

基于LEBERT-BCF的电子病历实体识别

针对BERT在中文电子病历实体识别过程中缺少词信息，实体边界信息被浪费和模型鲁棒性较差等问题，提出一种基于BERT并引入外部词典进行特征增强和对抗训练的实体识别模型LEBERT-BCF。该模型通过外部词典自动为电子病历进行词汇匹配构建字符-词语对，在BERT内部将字符-词语对中对应字向量与词向量经过Lexicon Adapter模块进行特征融合并使用FGM提升模型的鲁棒性。在CCKS 2019数据集上的实验结果表明，该模型的F1值比BERTBiLSTM-CRF提高了3.45%。     

基于Transformer与BiLSTM的网络流量入侵检测

网络流量入侵检测技术对主机和平台安全起着重要作用。目前常采用机器学习和深度学习技术进行网络流量入侵检测,然而相关数据集的不平衡问题导致模型偏向于学习多数类数据的特征而忽视少数类数据的特征,严重影响了检测准确率。结合SMOTE算法和生成对抗网络(GAN)构建OSW模型对训练数据进行预处理,通过Wasserstein GAN学习少数类数据分布情况,避免边缘分布问题,构造平衡数据集。建立基于Transformer与双向长短时记忆-深度神经网络(BiLSTM-DNN)的TBD入侵检测模型,使用Transformer中的编码器捕捉全局联系并对输入数据进行初步特征提取,利用BiLSTM网络进行长距离依赖特征提取保留数据的序列化特征,采用DNN进一步提取深层次特征,最终通过Softmax分类器获得分类结果。在NSL＿KDD数据集上的实验结果表明,在进行数据平衡处理后TBD模型的二分类和五分类任务检测准确率分别达到90.3%和79.8%,均高于对比的深度神经网络模型以及机器学习算法。