不平衡数据下基于CNN的网络入侵检测

深度学习的自学习能力可以实现入侵检测系统的不断更新及扩展,增强入侵检测系统的防范能力,但目前大部分基于深度学习的网络入侵检测研究都未考虑到数据集类别不平衡问题.针对此问题,提出了一种类别重组技术结合Focal Loss损失函数的处理方法,用于原始网络入侵流量分类.该方法把原始流量生成灰度图输入卷积神经网络CNN进行特征提取学习,类别重组技术保证了训练集中攻击类别间的相对均衡,而Focal Loss损失函数通过影响类别权重提高了CNN模型对复杂样本的关注.在三个CNN模型上进行了实验,macro-f1分别提高了9.41%, 1.65%和4.39%,结果表明该方法能够有效处理网络入侵检测中的类别不平衡问题,且明显提高了少数类样本的识别精度.     

高动态范围图像成像技术

基于高动态范围成像技术近年来的最新研究成果,从单曝光高动态范围图像重建和多曝光高动态范围重建两方面进行综述,并针对高动态范围成像研究领域面临的主要难点问题-鬼影去除问题,特别是近年来基于深度学习的鬼影去除研究成果进行了回顾总结。     

分布式存储中数据分布策略的分析与研究

通过对当前已有分布式存储中数据放置策略与动态负载平衡算法的研究及学习,本文简单分析了分布式存储架构模型;详细介绍了分布式缓存的问题;研究了哈希算法,并对其容错性和可扩展性进行了分析;分析了虚拟节点的引入原理;并深入研究了基于节点容量感知的负载均衡策略.最后,针对当前分布式存储中数据应用环境中数据分布策略可扩展性以及灵活性的不足,并结合所得的研究成果写出了个人心得,提出一种更加合理的数据分布策略.     

基于深度学习的推荐算法研究综述

深度学习技术是机器学习领域的一个研究热点,已被深入研究并广泛应用于许多领域. 推荐系统是缓解信息过载的重要技术,如何将深度学习融入推荐系统,利用深度学习的优势从各种复杂多维数据中学习用户和物品的内在本质特征,构建更加符合用户兴趣需求的模型,以提高推荐算法的性能和用户满意度,是深度学习应用于推荐系统的主要研究任务. 对基于深度学习的推荐算法研究和应用现状进行了综述,讨论并展望了深度学习应用于推荐系统的研究发展趋势.     

基于分层抽样的不均衡数据集成分类

不均衡数据分类是数据挖掘领域的一个难点问题,对多数类样本进行降采样可简单且有效地解决不均衡数据处理面临的两大核心问题,即如何从数类占绝对优势的数据集合中最大程度地挖掘少数类信息;如何确保在不过度损失多数类信息的前提下构建学习器.但现有的降采样方法往往会破坏原始数据结构特性或造成严重的信息损失.本研究提出一种基于分层抽样的不均衡数据集成分类方法 (简记为EC-SS),通过充分挖掘多数类样本的结构信息,对其进行聚类划分;再在数据块上进行分层抽样来构建集成学习数据成员,以确保单个学习器的输入数据均衡且保留原始数据的结构信息,提升后续集成分类性能.在不均衡数据集Musk1、Ecoli3、Glass2和Yeast6上,对比EC-SS方法与基于随机抽样的不均衡数据集成分类方法、自适应采样学习方法、基于密度估计的过采样方法和代价敏感的大间隔分类器方法的分类性能,结果表明,EC-SS方法能有效提升分类性能.     

基于深度学习的小目标检测方法综述

小目标检测一直是目标检测领域中的热点和难点,其主要挑战是小目标像素少,难以提取有效的特征信息.近年来,随着深度学习理论和技术的快速发展,基于深度学习的小目标检测取得了较大进展,研究者从网络结构、训练策略、数据处理等方面入手,提出了一系列用于提高小目标检测性能的方法.该文对基于深度学习的小目标检测方法进行详细综述,按照方法原理将现有的小目标检测方法分为基于多尺度预测、基于数据增强技术、基于提高特征分辨率、基于上下文信息,以及基于新的主干网络和训练策略等5类方法,全面分析总结基于深度学习的小目标检测方法的研究现状和最新进展,对比分析这些方法的特点和性能,并介绍常用的小目标检测数据集.在总体梳理小目标检测方法的研究进展的基础上,对未来的研究方向进行展望.     

基于深度学习的信道估计

目前深度学习方法在物理层通信中得到了广泛的应用,信道估计是物理层通信中的关键部分,与传统信道估计算法相比,深度学习方法在信道估计方面具有一定的优势.本研究介绍了深度学习中常见的神经网络模型,从模型驱动和数据驱动方式两个方面分别阐述了深度学习方法在信道估计中的应用.综述了将深度学习方法应用在信道估计中的最新研究进展.为了满足下一代移动通信的性能需求,讨论了智能物理层通信中信道估计面临的挑战与机遇.     

基于受限样本的深度学习综述与思考

深度学习目前依靠大数据和强算力取得了较大进展,但在样本受限情况下的表现差强人意,主要问题在于函数空间(簇)的建构和在数据集受限情况下算法的设计。据此,本文对受限样本下的深度学习进行了分类综述。另外,从目前对大脑的研究来看,人的认知过程在大脑中是分区域的,每个区域担负的功能是不同的,对每个区域功能的学习过程也应该是有差异的。因此,提出了“功能进阶”式的深度学习的设想,试图构建分区分层多种功能模块组成的网络结构,研究“进阶”式的功能模块训练方法,以期探求“仿人学习”的新路径。     

深度学习在时空序列预测中的应用综述

对深度学习模型应用于时空序列预测的最新进展进行总结.首先介绍时空序列数据的属性及类型,并进行相应的实例化与表示.接着针对时空序列数据存在的3个问题分别提出相应的数据预处理方法,对基于传统参数模型、传统机器学习模型以及深度学习模型的时空序列预测方法逐一阐述并对比分析,为研究者选择模型提供指导,之后总结深度学习模型在不同领域内对时空序列预测的应用.最后指出当前研究的不足以及时空序列预测进一步的研究方向.     

基于样本均衡与特征交互的通信网络故障预测方法

通信网络故障预测数据集样本不均衡,影响故障预测的准确性,对此,提出了基于样本均衡与特征交互的通信网络故障预测方法. 首先,将基于Wasserstein距离的梯度惩罚生成对抗网络(WGAN-GP)用于生成新的少数类样本,解决了告警数据集中存在的样本不均衡问题,并提出了嵌入记忆向量的特征生成卷积神经网络(M-FGCNN)模型. 利用多层感知器和卷积神经网络加强特征间的交互,将告警领域专家经验与因子分解机模型结合生成新的告警特征;在模型的嵌入矩阵中加入记忆向量并改进了模型的损失函数,增强了模型的记忆性. 在样本不均衡的公开数据集上进行实验的结果表明,引入WGAN-GP模型的方法比已有的样本均衡方法能生成质量更好的新数据. M-FGCNN模型比其他深度学习模型具有更好的通信网络故障预测性能.     

Fault Diagnosis Method Based on Xgboost and LR Fusion Model under Data Imbalance

Diagnosis methods based on machine learning and deep learning are widely used in the field of motor fault diagnosis. However, due to the fact that the data imbalance caused by the high cost of obtaining fault data will lead to insufficient generalization performance of the diagnosis method. In response to this problem, a motor fault monitoring system is proposed, which includes a fault diagnosis method (Xgb_LR) based on the optimized gradient boosting decision tree (Xgboost) and logistic regression (LR) fusion model and a data augmentation method named data simulation neighborhood interpolation(DSNI). The Xgb_LR method combines the advantages of the two models and has positive adaptability to imbalanced data. Simultaneously, the DSNI method can be used as an auxiliary method of the diagnosis method to reduce the impact of data imbalance by expanding the original data (signal). Simulation experiments verify the effectiveness of the proposed methods.     

基于小波域ADMM深度网络的图像复原算法

近年来,基于深度学习的方法在图像复原领域展现出了优秀的性能。然而现有大多数深度网络均是通过经验进行网络结构设计,较少在网络设计中考虑结合一些传统方法以提升网络可解释性。针对这一不足,本文对结合图像退化模型的深度学习方法展开研究,提出了一种基于小波域ADMM深度网络的图像复原算法。具体而言,本文首先提出了一种基于小波域ADMM的图像复原方法,该方法在小波域下使用ADMM算法将复原问题分解为一系列子问题。接着,分别对子问题求解,并根据其解的形式帮助进行网络的设计,构建了一个可解释的深度卷积神经网络用于图像复原。实验结果表明,本文提出算法取得了较好的复原结果,不论在视觉效果还是客观评价指标上都优于对比方法。     

数字图像篡改被动检测技术综述

现有数字图像篡改被动检测技术相关综述对传统检测手段的描述详实细致,但缺乏对以深度学习为导向的利用卷积神经网络检测技术的系统介绍。针对数字图像篡改被动检测问题,就基于特征提取的传统篡改检测和基于卷积神经网络的篡改检测两个主要研究方向进行了阐述,分析和总结了其主要研究工作和相关算法,并在此基础上指出了数字图像篡改被动检测未来可能的发展趋势。     

基于深度学习的行为识别算法综述

人体行为识别一直是计算机视觉研究中的热点.随着近几年人体行为识别在虚拟现实、短视频等方面的广泛应用, 以及深度学习算法的快速发展, 基于深度学习的行为识别算法层出不穷.相较于传统方法, 基于深度学习的行为识别算法具有鲁棒性强、准确率高的优点.基于此, 本文对近年来提出的基于深度学习的行为识别算法进行了梳理, 并对由双流卷积网络和3D卷积网络结构发展而来的行为识别的系列算法进行了重点介绍, 并总结了各种算法的性能和成果, 最后对该领域进行了展望.     

分布式机器学习中的通信机制研究综述

与传统的分布式计算不同,分布式机器学习更加关注参数同步和梯度同步,网络通信是最大的瓶颈。许多研究者针对网络问题提出了多种解决方法。首先介绍了机器学习领域内最热门的深度神经网络的发展背景,然后分别对数据并行模型中参数同步步调和参数同步方法进行了详细的概述,最后对分布式机器学习的发展趋势和面临的挑战进行了讨论。     

基于深度学习的行为识别算法综述

人体行为识别一直是计算机视觉研究中的热点.随着近几年人体行为识别在虚拟现实、短视频等方面的广泛应用, 以及深度学习算法的快速发展, 基于深度学习的行为识别算法层出不穷.相较于传统方法, 基于深度学习的行为识别算法具有鲁棒性强、准确率高的优点.基于此, 本文对近年来提出的基于深度学习的行为识别算法进行了梳理, 并对由双流卷积网络和3D卷积网络结构发展而来的行为识别的系列算法进行了重点介绍, 并总结了各种算法的性能和成果, 最后对该领域进行了展望.     

深度学习研究综述

鉴于深度学习在学术界和工业界的重要性,依据数据流向对目前有代表性的深度学习算法进行归纳和总结,综述了不同类型深度网络的结构及特点.首先介绍了深度学习的概念;然后根据深度学习算法的结构特征,概述了前馈深度网络、反馈深度网络和双向深度网络3类主流深度学习算法的网络结构和训练方法;最后介绍了深度学习算法在不同数据处理中的最新应用现状及其发展趋势.可以看到:深度学习在不同应用领域都取得了明显的优势,但仍存在需要进一步探索的问题,如无标记数据的特征学习、网络模型规模与训练速度精度之间的权衡、与其他方法的融合等.     

基于梯度提升树的飞机机身对接状态识别

为了实时监控飞机机身的对接过程,针对机身对接数据没有标注和样本不平衡的特点,提出基于梯度提升树（GBDT）的机身对接状态识别方法. 通过定位器及定位器上的载荷传感器,实时获取机身对接过程中的位移和载荷数据. 结合飞机部件对接的工艺流程对历史对接数据进行状态标注,提出准确、高效的对接状态自动标注方法. 在经过标注的对接数据上训练基于GBDT的机身对接状态识别模型,通过该模型可以获得各个特征的重要性. 与长短期记忆网络（LSTM）、卷积神经网络（CNN）以及一些传统机器学习方法相比,该方法对接状态识别的宏F₁（macro_F₁）指标高达0.998,能够精准地识别每一种对接状态且训练速度较快.     

分布式深度学习的数据传输压缩机制研究综述

分布式深度学习已经成为深度学习领域最热门的研究之一,越来越庞大的数据模型和算法都依赖分而治之思想来处理。分布式深度学习系统在快速发展中遇到了许多挑战,其中最重要的是如何在分布式环境有限的网络带宽中有效地传输大量数据,以充分利用计算资源高效训练高精度的深度神经网络。针对这个问题,从参数同步、模型聚合和梯度压缩3个角度讨论不同的数据传输压缩技术,分别将其用于交错数据传输、减少数据交换频率以及减小单次传输数据量。最后对分布式深度学习的数据传输压缩机制的未来发展趋势进行了讨论和展望。     

基于深度学习的变压器图像识别系统

针对变压器型号多、图像复杂,以及传统基于机器学习的人工设计特征的方法不能对大规模变压器图像准确分类等问题提出了基于深度学习的变压器图像识别系统直接对原始图像进行"端对端"的学习。为实现变压器图像的准确分类,提出了改进VGG-16卷积神经网络的变压器图像识别模型。在VGG-16模型的基础上,重新构建了全连接层,针对原有的SoftMax分类器,采用3标签的SoftMax分类器进行替换,以实现网络结构优化,并通过迁移学习共享V GG-16模型卷积层和降采样层的权值参数。通过构建变压器图像的训练集和测试集对改进模型进行了训练,并进行性能测试。结果表明,与深度神经网络、卷积神经网络模型相比,改进VGG-16模型具有更好的效果,识别误差达到了9.17%,并实现了对3种变压器的准确区分。