基于混合KPLS-FDA的过程监控和质量预报方法

提出一种基于核偏最小二乘(KPLS)与费舍尔判别分析(FDA)相结合的过程监控和质量预报方法—–混合 KPLS-FDA 方法.首先,利用 KPLS 提取过程数据的非线性特征,使用 FDA 建立 KPLS 的内部模型;然后,求出满足最大分离度的核 Fisher 特征向量和判别向量来实现状态监测,若系统运行正常,则根据 KPLS 回归模型预报产品的质量,否则利用 Fisher 相似度系数确定故障类型;最后,通过轧钢过程的仿真研究验证了混合 KPLS-FDA 方法的有效性.     

基于网络入侵检测数据集的关联规则挖掘

关联规则广泛应用于网络入侵检测,抽取KDDCup99数据集的重要特征属性,应用Excel 2007数据挖掘模块功能得出与入侵类型相关的特征项,对于入侵检测方法的进一步研究具有借鉴意义.     

基于PCA与改进的最近邻法则的异常检测

提出一种新颖的基于特征抽取的异常检测方法,先对预处理数据进行标准化变换,然后应用主成份分析(PCA)抽取入侵特征,最后应用一种改进的最近邻分类方法--基于中心的最近邻分类法(CNN)检测入侵.利用KDD Cup'99数据集,将PCA删与PCA NN、PCA SVM、标准SVM进行比较,结果显示,在不降低分类器性能的情况下,特征抽取方法能对输入数据有效降维,且在各种方法中,PCA与CNN的结合能得到最优的入侵检测性能.     

基于特征选取和样本选择的网络入侵检测

为了获得更加理想的网络入侵检测结果, 针对网络入侵特征选取和样本选择问题, 提出一种基于特征选取和样本选择的网络入侵检测模型. 首先提取网络入侵特征, 并进行归一化处理, 然后采用核主成分分析选择入侵特征, 并对样本进行选择, 最后采用极限学习机建立网络入侵检测分类器, 并采用KDD Cup99数据集进行仿真实验. 仿真结果表明, 本文模型得到了理想的网络入侵检测结果, 检测率超过95%以上, 入侵检测效率可以满足网络安全实际应用要求.     

基于改进IAA算法的网络入侵数据挖掘仿真

采用目前方法挖掘网络入侵数据时未考虑数据之间的关联规则,导致网络入侵数据挖掘过程的检测时间长、检测效率低、误报效率高.提出基于改进Apriori算法的网络入侵数据挖掘方法,利用改进后的Apriori算法产生网络入侵数据之间的关联规则,依据产生的关联规则对网络入侵数据进行特征抽取,最后将抽取出的特征放人贝叶斯数据分类器中进行数据分类,实现网络入侵数据挖掘.实验表明,基于改进的Apriori算法在网络入侵数据挖掘过程中的挖掘时间短、检测效率高、误报效率低,具有一定的应用性.     

基于全相关动态核偏最小二乘法的故障诊断方法

传统KPLS在构造输入变量与输出变量时未考虑样本间的动态特性,使故障样本信息易被其他样本掩盖;同时,KPLS未考虑所有变量对故障样本的影响,使变量间隐藏信息不能被完全表达。针对以上问题,提出一种基于全相关动态KPLS（all correlated dynamic KPLS,ADKPLS）的非线性工业过程故障诊断方法。该方法首先对原始数据进行动态特征分析研究,使组成的数据矩阵能很好地反映变量间的动态关系。然后分析证明了KPLS中输出变量的变化会影响到输入残差空间,设计一个输出变量辅助矩阵,表征输入变量与输出变量的全相关性。最后,采用基于输入变量与输出变量之间的全相关信息构建贡献图以识别故障源变量。与KPLS相比,在输入和输出变量之间建立了更直接的关系。在抽油机生产过程上的仿真结果表明,所提方法具有良好的故障检测与识别性能。     

一种轻量级入侵检测技术

入侵检测系统需要处理大量冗余与无关数据,使得系统耗用的计算资源很大,导致系统训练时间长、实时性差、检测效果不佳.提出一种轻量级的入侵检测技术,该技术首先采用快速相关性特征选择方法消除冗余及无关特征,然后采用主成分分析对特征进行抽取.实验结果表明,此方法能够大量消减入侵检测系统需要处理的数据量,有效提升了系统性能.     

基于数据挖掘的三层入侵检测分析模型

本文针对现有入侵检测系统的不足，根据入侵和正常访问模式各种不同的网络数据表现形式以及特定数据分组的出现规律。提出分层的网络检测模型，并在各个检测层建议运用不同的数据挖掘方法代替人工方法抽取入侵特征，以达到提高检测速度和克服人工抽取入侵特征的主观性的目的。其中运用的数据挖掘算法主要有：关联挖掘、数据分类。     

基于CEGA-SVM的网络入侵检测算法

针对传统遗传算法在网络入侵检测中存在分类复杂的问题,提出结合条件熵遗传算法（CEGA）和支持向量机（SVM）的网络入侵检测算法。将入侵特征的抽取和分类模型的建立进行联合优化,同时利用训练数据的统计特性指导入侵特征的抽取,并对特征空间进行线性变换,得到优化的特征子集和分类模型,在提高分类检测率的同时降低检测时延。     

基于主元神经网络和SVM的入侵特征抽取和检测

目前基于机器学习的入侵检测研究都是从提高检测精度的分类器算法设计出发,大多未考虑对样本特征的分析。文章提出了一种基于特征抽取的异常检测方法,应用主元神经网络(PCNN)抽取入侵特征,再应用SVM检测入侵。采用广义Hebb学习规则训练线性主元神经网络,SVM采用基于网格粒度搜索获得最优参数。利用KDD99数据集,将线性PCNN-SVM与SVM进行比较,结果显示在不降低分类器性能的情况下,PCNN特征抽取方法能对输入数据有效降维。     

基于核的偏最小二乘特征提取的最小二乘支持向量机回归方法

提出了用核的偏最小二乘进行特征提取．首先把初始输入映射到高维特征空间，然后在高维特征空间中计算得分向量，降低样本的维数，再用最小二乘支持向量机进行回归．通过实验表明，这种方法得到的效果优于没有特征提取的回归．同时与PLS提取特征相比，KPLS分析效果更好．     

局部KPLS特征提取的LSSVM软测量建模方法

针对复杂工业过程的非线性、变量间的强相关性以及工况时变的特点,提出了一种基于局部KPLS特征提取的LSSVM建模方法。该方法通过属性加权的欧式距离指标选取局部训练样本子集,利用KPLS算法对该子集进行特征提取,使用LSSVM算法在线建立局部软测量模型。实验结果表明,该方法可以有效实现特征提取,具有更好的推广能力和预测精度,比基于全局KPLS特征提取的LSSVM模型和未经特征提取的全局LSSVM模型具有更好的泛化能力。     

基于核偏最小二乘的支持向量机回归算法研究

对SVM的特征提取问题进行了研究,提出了KPLS-SVM组合回归建模方法.该方法在输入空间映射得到的高维特征空间中进行PLS特征提取后,再进行SVM回归,不仅保持了SVM良好的模型性能,并且兼具KPLS和SVM的优点.仿真和实验结果表明,该KPLS-SVM建模方法是正确且有效的,采用该方法构建的SVM模型,泛化性能明显优于没有特征提取的SVM.     

基于KPLS和TD的热连轧精轧末架微调AGC

热连轧传统的厚度控制方式主要依靠精轧机组下游机架的监控AGC(automatic gauge control)来消除厚差,易造成末架调节量过大,对板形产生非常不利的影响.为此提出一种基于KPLS(kernel partial least squares)和TD(tracking differentiator)的热连轧精轧末架微调AGC,通过对前一卷带钢轧制信息进行非线性特征抽取,找出F5,F6机架间过程变量的关系,从而可以在F6机架保持辊缝和压力基本不变的前提下,仅通过调节F5机架的辊缝而使厚度精度达到控制要求.现场实验证明了这一观点.     

基于主题特征的关键词抽取

为了使抽取出的关键词更能反映文档主题,提出了一种新的词的主题特征(topic feature,TF)计算方法,该方法利用主题模型中词和主题的分布情况计算词的主题特征。并将该特征与关键词抽取中的常用特征结合,用装袋决策树方法构造一个关键词抽取模型。实验结果表明提出的主题特征可以提升关键词抽取的效果,同时验证了装袋决策树在关键词抽取中的适用性。     

Feature extraction based on decision boundaries

A novel approach to feature extraction for classification based directly on the decision boundaries is proposed. It is shown how discriminantly redundant features and discriminantly informative features are related to decision boundaries. A procedure to extract discriminantly informative features based on a decision boundary is proposed. The proposed feature extraction algorithm has several desirable properties: (1) it predicts the minimum number of features necessary to achieve the same classification accuracy as in the original space for a given pattern recognition problem; and (2) it finds the necessary feature vectors. The proposed algorithm does not deteriorate under the circumstances of equal class means or equal class covariances as some previous algorithms do. Experiments show that the performance of the proposed algorithm compares favorably with those of previous algorithms     

基于核学习方法的短时交通流量预测

基于核学习的强大非线性映射性能,针对短时交通流量预测,提出一类基于核学习方法的预测模型。核递推最小二乘(KRLS)基于近似线性依赖(approximate linear dependence,ALD) 技术可降低计算复杂度及存储量,是一种在线核学习方法,适用于较大规模数据集的学习;核偏最小二乘(KPLS)方法将输入变量投影在潜在变量上,利用输入与输出变量之间的协方差信息提取潜在特征;核极限学习机(KELM)方法用核函数表示未知的隐含层非线性特征映射,通过正则化最小二乘算法计算网络的输出权值,能以极快的学习速度获得良好的推广性。为验证所提方法的有效性,将KELM、KPLS、ALD-KRLS用于不同实测交通流数据中,在同等条件下,与现有方法进行比较。实验结果表明,不同核学习方法的预测精度和训练速度均有提高,体现了核学习方法在短时交通流量预测中的应用潜力。     

Decision boundary feature extraction for neural networks

In this paper, we propose a new feature extraction method for feedforward neural networks. The method is based on the recently published decision boundary feature extraction algorithm which is based on the fact that all the necessary features for classification can be extracted from the decision boundary. The decision boundary feature extraction algorithm can take advantage of characteristics of neural networks which can solve complex problems with arbitrary decision boundaries without assuming underlying probability distribution functions of the data. To apply the decision boundary feature extraction method, we first give a specific definition for the decision boundary in a neural network. Then, we propose a procedure for extracting all the necessary features for classification from the decision boundary. Experiments show promising results.     

复杂中文文本的实体关系抽取研究

实体关系抽取是信息抽取研究领域中的重要研究课题之一.针对已有方法在处理复杂文本上的不足,提出了复杂中文文本的实体关系抽取方法.结合中文文本的语法特征,提出了7条抽取关系特征序列的启发式规则,并采用语义序列核和KNN机器学习算法结合的方法来分类和标注关系的类型.通过对ACE评测定义下的两个子类的实体关系抽取,关系抽取的平均F值迭到了76%,明显高于传统的基于特征向量和最短依存路径核的方法.