结合随机森林的PSO-CNN入侵检测研究

为了提高网络入侵检测的准确率、精确率,降低误报率,提出一种结合随机森林(Random-Forest,RF)的粒子群算法(Particle Swarm Optimization,PSO)优化卷积神经网络(Convolutional Neural Networks,CNN)结构及初始参数算法.该方法结合随机森林理论、PSO的全局寻优特点和CNN提取特征的局部相关性能力.在数据预处理阶段,通过随机森林进行数据特征提取,并作为模型的输入数据.采用粒子群算法优化CNN网络结构,使CNN在非经验指导下自主选择最佳网络结构和初始参数.实验结果表明,该方法在准确率、精确率、误报率方面均优于经典卷积神经网络、粒子群优化反向传播(BP)算法、粒子群优化支持向量机(SVM)算法及目前流行的集成学习方法.     

结合随机森林的PSO-CNN入侵检测研究

为了提高网络入侵检测的准确率、精确率,降低误报率,提出一种结合随机森林(Random-Forest,RF)的粒子群算法(Particle Swarm Optimization,PSO)优化卷积神经网络(Convolutional Neural Networks,CNN)结构及初始参数算法.该方法结合随机森林理论、PSO的全局寻优特点和CNN提取特征的局部相关性能力.在数据预处理阶段,通过随机森林进行数据特征提取,并作为模型的输入数据.采用粒子群算法优化CNN网络结构,使CNN在非经验指导下自主选择最佳网络结构和初始参数.实验结果表明,该方法在准确率、精确率、误报率方面均优于经典卷积神经网络、粒子群优化反向传播(BP)算法、粒子群优化支持向量机(SVM)算法及目前流行的集成学习方法.     

面向网络入侵检测的GAN-SDAE-RF模型研究

针对传统机器学习方法在处理不平衡的海量高维数据时罕见攻击类检测率低的问题,提出了一种基于深度学习的随机森林算法的入侵检测模型,为了避免传统的随机森林面对高维数据和不平衡数据时分类精度低、稳定性差和对罕见攻击类检测率低的问题,引入生成式对抗网络（GAN）和栈式降噪自编码器（SDAE）对随机森林算法（RF）进行改进。将罕见攻击类数据集输入GAN神经网络中,生成新的攻击类样本,改善网络入侵数据在样本集中不均衡分布的情况,通过堆叠深层的SDAE逐层抽取网络数据的分布规则,并结合各个编码层的系数惩罚和重构误差,来确定高维数据中与入侵行为相关的特征,基于降维后的特征数据构建森林决策树。采用UNSW-NB15数据集的实验结果表明,与SVM、KNN、CNN、LSTM、DBN方法相比,GAN-SDAE-RF整体检测准确率平均提高了9.39%、误报率和漏报率平均降低了9%和15.24%以及在少数类Analysis、Shellcode、Backdoor、Worms上检测率分别提高了26.8%、27.98%、27.85%、39.97%。     

混合深度学习模型C-RF及其在手写数字识别中的应用

卷积神经网络（Convolutional neural network,CNN）是一种常见的深度学习模型,受人类视觉认知机制启发而来,能够从原始图像得到有效的特征表达。CNN模型在图像识别领域不断取得突破,但是在训练过程中需要花费大量时间。随机森林（Random forest,RF）在分类和回归上具有很高的精度,训练速度快并且不容易出现过拟合的问题,现有的基于RF的分类器都依赖手工选取的特征。针对以上问题,本文提出了基于CNN的C-RF模型,把CNN提取到的特征输入RF中进行分类。由于随机权值网络同样可以得到有效的结果,所以不用梯度算法调整网络参数,以免消耗大量时间。最后在MNIST数据集和Rotated MNIST数据集上进行了实验,结果表明C-RF模型的分类精度比RF有了较大的提高,同时泛化能力也有所提升。     

XGBoost-RF的物联网入侵检测模型

针对物联网入侵检测中检测数据不平衡导致的分类不准确的问题,提出了一种基于极端梯度提升树和随机森林相结合的物联网入侵检测模型.首先,针对物联网应用环境中产生的大量数据,对数据进行数据归一化处理.然后,利用XGBoost算法对其中的特征进行重要性评分,选择最优特征.最后,结合改进的随机森林算法,解决因数据不平衡导致的分类不准确的问题.仿真试验表明所提模型能有效的进行数据最优特征选择及合理地检测分类,同RF算法、SVM算法、Tree-SVM模型和RF-GDBT模型相比,所提模型的检测准确率有效改善.     

基于GRU-FedAdam的工业物联网入侵检测方法

针对工业物联网中的入侵检测存在数据隐私泄露和训练时间长的问题,提出一种基于GRU-FedAdam的入侵检测方法。该方法首先采用联邦学习协作训练入侵检测模型,保护客户端数据隐私;其次,构建基于门控循环单元(GRU)的入侵检测模型并采用Adam优化算法,提高客户端模型的训练速度。选用TON＿IoT数据集为实验数据,经过两轮通信轮次计算,训练时间比单层LSTM模型减少4 s;利用Adam算法训练模型比SGD算法收敛速度更快,入侵检测模型准确率为0.99。实验结果表明,基于GRU-FedAdam的入侵检测方法在保护数据隐私的情况下,可减少训练时间和获得更好的入侵检测效果。     

基于改进的随机森林算法的入侵检测模型

针对现有入侵检测算法对不同类型的攻击检测的不均衡性和对攻击的响应时间较差的问题.将随机森林算法引入到入侵检测领域,构造了基于改进的随机森林算法的入侵检测模型,并把这种算法用于基于网络连接信息的数据的攻击检测和异常发现.通过对DARPA数据的入侵检测实验,其结果表明,基于改进的随机森林算法的入侵检测模型是可行的、高效的,对数据集DARPA中所包含的4种类型的攻击检测具有良好的均衡性.     

深度森林在用户购买预测中的应用

针对电商大数据时代用户未来购买行为预测，在京东平台真实数据集上，提出时间滑动窗口技术和窗口权重递减设置，从五方面构建整体用户行为特征，综合考虑深度学习的表征学习能力和集成学习的训练效率，引入多层异源集成算法，将随机森林、XGBoost等多种算法进行组合，搭建基于深度森林模型的用户购买行为预测算法框架，实现准确高效的用户购买预测结果。算法训练时间为68 s,预测准确率达89.3%,相对于集成学习算法和深度神经网络模型取得了更好的效果。     

针对基于随机森林的网络入侵检测模型的优化研究

为了应对大规模网络环境下日益复杂的网络安全威胁,越来越多的研究使用机器学习算法来建立入侵检测模型,其中一些基于随机森林的检测方法具有较好的效果。但传统随机森林中一些分类能力较差的决策树的存在,以及入侵检测数据集的不平衡性,都可能会导致基于传统随机森林的入侵检测模型的性能有所下降。针对这些问题,论文在基于传统随机森林的入侵检测模型上加入了精英选择、加权投票和上采样几种优化方法,并在UNSW-NB15数据集上进行了测试,结果表明优化后的模型具有更好的检测能力。     

网络入侵检测中属性分组的随机森林算法

入侵检测是数据挖掘的一个重要应用领域,目前基于数据挖掘的入侵检测方法很多,而基于随机森林的方法具有比较好的性能,但仍存在一些问题。通过分析网络入侵数据得到不同输入属性与分类结果的关系,提出了一种基于属性分组的随机森林算法,并应用该算法对KDD’99数据集分类。实验结果表明,该算法的训练速度和分类准确率都比原算法有较大提高。     

结合余弦相关性的卷积网络识别汉字的方法

为了提高卷积神经网络（Convolution Neural Network,CNN）的识别率,增强卷积网络的特征提取能力,使其在模糊、光照不均等恶劣条件下能够有更好的识别效果,因此提出将余弦相关性加入神经卷积网络作为相似度度量的方法。较传统神经卷积网络相比较,有着更强的模式检测能力、更快的收敛速度以及更高的准确率的优点。在卷积神经网络的卷积层加入余弦相似性度量,最后通过对比传统神经卷积网络方法和余弦相关性神经卷积网络在脱机手写汉字的识别实验,在进行20次实验后,得出了在相同训练参数以及相同层数的卷积神经网络上,基于余弦相关性的神经卷积网络在手写汉字数据集上的准确率比传统的神经卷积网络的识别率平均提高了2.01%,并且有着更快的收敛速度。最后通过与现今流行的算法在MNIST数据集上的实验进行准确度、损失函数、时间复杂度的比较,得出结合余弦的卷积神经网络在准确度和损失函数上有一定的优势性,在时间复杂度上还需进一步提高。     

面向软件定义网络架构的入侵检测模型设计与实现

针对传统入侵检测方法无法检测软件定义网络（SDN）架构的特有攻击行为的问题,设计一种基于卷积神经网络（CNN）的入侵检测模型。首先,基于SDN流表项设计了特征提取方法,通过采集SDN特有攻击样本形成攻击流表数据集;然后,采用CNN进行训练和检测,并针对SDN攻击样本量较小而导致的识别率低的问题,设计了一种基于概率的加强训练方法。实验结果表明,所提的入侵检测模型可以有效检测面向SDN架构的特有攻击,具有较高的准确率,所提的基于概率的加强学习方法能有效提升小概率攻击的识别率。     

融合GRU和CNN的轻量级网络入侵检测模型

当前网络流量数据呈现出高维、多态、海量的特点, 这对入侵检测是一个新挑战. 针对传统入侵检测模型中检测效率低、缺乏轻量化考虑等局限性, 提出了一种融合GRU和CNN的轻量级网络入侵检测模型. 首先使用极度随机树删除数据集中的冗余特征; 其次使用GRU进行特征提取. 考虑到数据中的长短期依赖关系, 将所有隐藏层输出作为序列特征信息进行下一步处理; 再通过带有逆残差、深度可分离卷积、空洞卷积等结构的轻量化CNN模型进行空间特征提取; 为了加速模型收敛加入了通道注意力机制. 最后在CIC-IDS2017数据集上的实验表明, 该方法具有优秀的检测性能, 同时也具有模型参数量少、模型体积小、训练时间短、检测时间短等优点, 适用于网络流量的入侵检测工作.     

基于优化卷积神经网络结构的交通标志识别

现有算法对交通标志进行识别时,存在训练时间短但识别率低,或识别率高但训练时间长的问题。为此,综合批量归一化（BN）方法、逐层贪婪预训练（GLP）方法,以及把分类器换成支持向量机（SVM）这三种方法对卷积神经网络（CNN）结构进行优化,提出基于优化CNN结构的交通标志识别算法。其中：BN方法可以用来改变中间层的数据分布情况,把卷积层输出数据归一化为均值为0、方差为1,从而提高训练收敛速度,减少训练时间;GLP方法则是先训练第一层卷积网络,训练完把参数保留,继续训练第二层,保留参数,直到把所有卷积层训练完毕,这样可以有效提高卷积网络识别率;SVM分类器只专注于那些分类错误的样本,对已经分类正确的样本不再处理,从而提高了训练速度。使用德国交通标志识别数据库进行训练和识别,新算法的训练时间相对于传统CNN训练时间减少了20.67%,其识别率达到了98.24%。所提算法通过对传统CNN结构进行优化,极大地缩短了训练时间,并具有较高的识别率。     

基于邻域粗糙集的入侵检测集成算法

入侵检测领域的数据往往具有高维性及非线性特点,且其中含有大量的噪声、冗余及连续型属性,这就使得一般的模式分类方法不能对其进行有效的处理。为了进一步提高入侵检测效果,提出了基于邻域粗糙集的入侵检测集成算法。采用Bagging技术产生多个具有较大差异性的训练子集,针对入侵检测数据的连续型特点,在各训练子集上使用具有不同半径的邻域粗糙集模型进行属性约简,消除冗余与噪声,实现属性约简以提高属性子集的分类性能,同时也获得具有更大差异性的训练子集,采用SVM为分类器训练多个基分类器,以各基分类器的检测精度构造权重进行加权集成。KDD99数据集的仿真实验结果表明,该算法能有效地提高入侵检测的精度和效率,具有较高的泛化性和稳定性。     

基于改进单类支持向量机的工业控制网络入侵检测方法

针对单类支持向量机（OCSVM）入侵检测方法无法检测内部异常点和离群点导致决策函数偏离训练样本的问题,提出了一种结合具有噪声的密度聚类（DBSCAN）方法和K-means方法的OCSVM异常入侵检测算法。首先通过DBSCAN算法,剔除训练数据中的离群点,消除离群点的影响;然后利用K-means划分数据类簇的方法筛选出内部异常点;最后利用OCSVM算法为每一个类簇建立单分类器用于检测异常数据。工控网络数据集上的实验结果表明,该组合分类器能够利用无异常数据样本检测出工控网络入侵,并且提高了OCSVM方法的检测效果。在气体管道网络数据集入侵检测实验中,所提方法的总体检测率为91.81%;而原始OCSVM算法则为80.77%。     

基于耦合CNN评分预测模型的个性化商品推荐

电子商务中大量评论数据蕴含着丰富的信息,该信息有助于解决个性化推荐系统存在的数据稀疏问题.为了充分挖掘评论数据蕴含的价值,提高商品推荐的准确率,本文提出了基于耦合CNN评分预测模型的个性化商品推荐方法.该方法首先利用耦合CNN构建评分预测模型,将耦合CNN分为用户网络和商品网络,划分成输入层、卷积层、输出层和共享层;用户评论数据和商品评论数据分别从相应网络输入;在评论数据分析时,从字向量角度进行语义分析,同时改变传统的使用单一大小卷积核处理句子的模式,使用多个并行的卷积层,利用大小不同的卷积核对句子进行特征提取;两个网络的输出将共同汇聚于共享层,在共享层使用因子分解机进行评分预测;最后将结果中的高评分商品推荐给用户.经对比实验验证,本文所给方法能够提高商品推荐的准确率.     

基于样本密度的SVM及其在入侵检测中的应用

针对网络数据集过于庞大，学习速度过慢的问题，提出了一种基于空间块和样本密度的SVM算法，并将其应用到入侵检测中。该算法根据样本的局部密度选择训练样本，减少参加训练的样本数量，提高学习速度。实验结果表明，该算法在保证检测精度的同时，学习速度快于传统SVM入侵检测方法。     

基于深度学习的工业物联网智能入侵检测

如何有效识别工业物联网入侵攻击行为是一个新挑战.针对工业物联网中入侵检测特征提取不高、检测效率低、适应能力差等问题,提出一种基于深度学习的工业物联网智能入侵检测方法.首先,在数据处理上改进采样算法用于调节少数类别样本数量,提高检测精度;其次,构建堆叠降噪卷积自编码网络提取关键特征,结合卷积神经网络和降噪自编码器,加强特征识别能力;为了避免信息丢失和信息模糊,改进池化操作以增加其自适应处理能力,并在模型训练过程中采用Adam算法获取最优参数;最后,采用NSL-KDD数据集测试提出方法的性能.实验结果表明,该方法相比现有的RNN、DBN和IDABCNN的准确率分别提高了3.66%、4.93%和4.6%;与未经采样算法的SDCAENN试验对比,U2R和R2L的检测精度分别提高17.57%和3.28%.     

基于深度混合卷积模型的肺结节检测方法

基于高维肺部计算机断层扫描（CT）图像的肺结节检测是一项极具挑战性的任务。在诸多肺结节检测算法中，深度卷积神经网络（CNN）最引人注目，其中二维（2D） CNN具有预训练模型多、检测效率高等优点，应用非常广泛，但肺结节本质是三维（3D）病灶，2D CNN会不可避免地造成信息损失，从而影响检测精度。3D CNN能充分利用CT图像空间信息，有效提升检测精度，但是3D CNN存在参数多、计算消耗大、过拟合风险高等不足。为了兼顾两者的优势，提出基于深度混合CNN的肺结节检测模型，通过在神经网络模型的浅层部署3D CNN，在模型的深层部署2D CNN，并增加反卷积模块，融合了多层级的图像特征，达到了在不损失检测精度的情况下减少模型参数、增强模型泛化能力，提高检测效率的目的。在LUNA16数据集上的实验结果表明，所提出的模型在平均每次扫描8个假阳性的情况下的敏感度为0.924，优于现有的先进模型。