偏最小二乘回归模型在EEG特征选择的应用

为了克服主成分分析（PCA）对共空间模式（CSP）提取脑电信号特征进行降维时,仅考虑主成分对输入变量的表征能力,而忽略了对输出变量进行解释的这一个缺点,提出偏最小二乘回归（PLS）进行降维,通过CSP对数据增强后的信号进行特征提取,采用PLS进行降维,将提取的主成分信息包含对因变量解释程度高的特征作为特征向量,使用PSO-SVM进行分类,用2005 BCI竞赛的数据集IIIa进行分类测试,结果得到3位被试的想象运动平均分类正确率91.71%,通过与CSP-LDS、WL-CSP和CSP等算法的比较,3位被试的平均分类正确率最高,验证了该算法的有效性。     

针对恶意JavaScript识别的降维方法

针对将JavaScript代码N-gram处理后识别算法特征维度较高的问题,提出一种高效的降维方法。该方法利用TF-IDF-like模型分别计算特征在正常样本和恶意样本中的权重,基于特征权重在两类样本中的差异度进行降维。基于多个识别算法,将提出的降维方法与基于主成分分析（Principal Component Analysis,PCA）的降维方法进行比较,实验结果表明：当识别算法维度相同时,基于本文所给降维方法的识别算法在识别效果方面优于基于PCA的识别算法;当降维后识别算法的维度超过某个阈值时,随着识别算法维度的增长,本降维方法的时间开销增长速率远低于PCA方法。     

二维类增广PCA及其在人脸识别中的应用

提出了一种二维类增广PCA（2DCAPCA）的人脸识别算法。用二维PCA（2DPCA）方法直接对人脸图像矩阵进行特征提取,对提取的特征进行归一化处理,将归一化处理后的特征与类别信息结合构成类增广矩阵,对类增广矩阵进行2DPCA处理,提取图像的类增广矩阵特征。由于该算法既保留了人脸图像的结构信息,又考虑了样本的类别信息,识别率有了较大的提高。通过Yale和FERET库上的实验表明,该方法对人脸识别是有效的。     

基于PCA和SVM算法的人脸识别

人脸识别是计算机视觉和图像模式识别领域的一个重要技术。主成分分析（PCA）是人脸图像特征提取的一个重要算法。而支持向量机（SVM）有适合处理小样本问题、高维数及泛化性能强等多方面的优点。文章将两者结合,先用PCA算法进行人脸图像特征提取,再用SVM进行分类识别。通过基于ORL人脸数据库的计算机仿真实验表明,该方法具有很好的可行性和实际意义。     

融合PCA与LDA变换的仿生人脸识别研究

就基于PCA与LDA变换的传统人脸识别方法识别率低但特征提取过程中维数低和基于K-L 变换的仿生人脸识别方法识别率高但在特征提取过程中维数过高的的问题,将两者的优点相结合,提出了一种基于PCA与LDA变换的仿生人脸识别新方法。通过PCA与LDA变换对训练人脸样本进行特征提取,然后构建各类样本的覆盖区域。再通过判断待识别人脸特征在各覆盖区域的归属情况来识别人脸。实验收到了预期的效果,证明了方法的可行性。     

独立环形对称Gabor特征及在人脸识别中的应用

提出了一种基于2D环形对称Gabor变换（2DCSGT）和独立成分分析（ICA）的特征提取方法,并用于人脸识别中。对人脸图像做5尺度2D环形对称Gabor变换;对变换后的图像下采样并采用主成分分析（PCA）进行降维;采用ICA获得人脸图像的独立环形对称Gabor特征（ICSGF）;采用最近邻分类法分类。在ORL、YALE和FERET人脸数据库上,基于ICSGF的人脸识别算法的正确识别率分别达到99.5%、93.33%和97.14%。实验结果表明,ICSGF方法有效可行。     

基于非线性迭代PLS的人脸识别算法

主成分分析(PCA)是一种无监督的线性降维方法,能有效地提取模式的类内特征,当样本之间出现高度相关性或多重相关性时,PCA提取的主成分解释能力不够。鉴于PCA的缺点,采用一种有监督的鉴别特征提取法——偏最小二乘(PLS),在保留输入变量的最大信息条件下,先在输入和输出变量组中建立模型,再用非线性迭代法提取类间特征,直至隐变量收敛。在ORL人脸库和Yale人脸库中实验结果表明,该算法具有有效性。     

小波分解与PCA方法的掌纹特征提取方法*

提出了一种新的掌纹特征提取方法,其目的在于在不降低识别率的情况下,提高掌纹特征提取速度。首先将原始掌纹图像进行小波分解,获得低分辨率的掌纹图像;其次通过主成分分析（PCA）方法获得一个低维子空间,即“特征掌”;最后通过将训练、测试样本在该“特征掌”上投影来提取掌纹特征。实验结果表明,所提出方法与单一PCA方法比较,在同样识别率情况下,特征提取速度明显提高。     

Spark下基于PCA和分层选择的随机森林算法

针对大数据背景下随机森林算法中存在协方差矩阵规模较大、子空间特征信息覆盖不足和节点通信开销大的问题,提出了基于PCA和子空间分层选择的并行随机森林算法PLA-PRF（PCA and subspace layer sampling on parallel random forest algorithm）。对初始特征集,提出了基于PCA的矩阵分解策略（matrix factorization strategy,MFS）,压缩原始特征集,提取主成分特征,解决特征变换过程中协方差矩阵规模较大的问题;基于主成分特征,提出基于误差约束的分层子空间构造算法（error-constrained hierarchical subspace construction algorithm,EHSCA）,分层选取信息素特征,构建特征子空间,解决子空间特征信息覆盖不足的问题;在Spark环境下并行化训练决策树的过程中,设计了一种数据复用策略（data reuse strategy,DRS）,通过垂直划分RDD数据并结合索引表,实现特征复用,解决了节点通信开销大的问题。实验结果表明PLA-PRF算法分类效果更佳,并行化效率更高。     

偏最小二乘改进算法与特征抽取

采用基于正交约束的非迭代PLS可以实现PLS成分的快速有效抽取,但不能保证所抽取的成分之间不相关。而基于统计不相关约束的非迭代PLS建模方法所抽取的成分之间是无关的,从而可以保证图像识别时的有效性和稳定性。基于2DPCA思想的2DPLS特征抽取技术,直接从图像矩阵中抽取特征,能有效地解决小样本问题。但在使用PLS对单特征数据进行维数压缩时,传统的类标编码过于简单,为了充分利用数据分布信息,采用模糊k-近邻法对每个样本赋予一个样本标号,将近邻样本类别信息反映在该样本的类编码中,从而提出了基于样本标号的PLS及2DPLS改进算法。在ORL人脸库上的实验结果表明,该改进算法优于传统的PLS,能够更有效地抽取识别特征,其识别率要高于传统的PLS算法。     

混合PLS特征提取和CVM的异常入侵检测研究

为提高异常入侵检测的效率,提出一种混合偏最小二乘特征提取和核心向量机算法的入侵检测模型。模型使用偏最小二乘算法在入侵数据集上进行主成分提取,在此基础上构建特征集,引入适用于解决大规模样本训练问题的核心向量机算法,在特征集上建立入侵检测模型,使用该模型对异常入侵行为进行检测和判断。通过基于KDD99数据集上的入侵检测实验,验证了混合模型的可行性和有效性。     

一种基于各向异性高斯核核惩罚的PCA特征提取算法

提出了一种基于各向异性高斯核核惩罚的主成分分析的特征提取算法.该算法不同于传统的核主成分分析算法.在非线性数据降维中,传统的核主成分分析算法忽略了原始数据的无量纲化.此外,传统的核函数在各维度上主要由一个相同的核宽参数控制,该方法无法准确反映各维度不同特征的重要性,从而导致降维过程中准确率低下.为了解决上述问题,首先针对现原始数据的无量纲化问题,提出了一种均值化算法,使得原始数据的总方差贡献率有明显的提高.其次,引入了各向异性高斯核函数,该核函数每个维度拥有不同的核宽参数,各核宽参数能够准确地反映所在维度数据特征的重要性.再次,基于各向异性高斯核函数建立了核主成分分析的特征惩罚目标函数,以便用较少的特征表示原始数据,并反映每个主成分信息的重要性.最后,为了寻求最佳特征,引入梯度下降算法来更新特征惩罚目标函数中的核宽度和控制特征提取算法的迭代过程.为了验证所提出算法的有效性,各算法在UCI公开数据集上和KDDCUP99数据集上进行了比较.实验结果表明,所提基于各向异性高斯核核惩罚的主成分分析的特征提取算法比传统的主成分分析算法在9种公开的UCI公开数据集上准确率平均提高了4.49%.在KDDCUP99数据集上,所提基于各向异性高斯核核惩罚的主成分分析的特征提取算法比传统的主成分分析算法准确率提高了8%.     

一种基于PCA的组合特征提取文本分类方法

为了获得更好的文本分类准确率和更快的执行效率, 研究了多种Web文本的特征提取方法, 通过对互信息(MI)、文档频率(DF)、信息增益(IG)和χ²统计（CHI）算法的研究, 利用其各自的优势互补, 提出一种基于主成分分析(PCA)的多重组合特征提取算法(PCA-CFEA)。通过PCA算法的正交变换快速地将文本特征空间降维, 再通过多重组合特征提取算法在降维后的特征空间中快速提取出更具代表性的特征项, 过滤掉一些代表性较弱的特征项, 最后使用SVM分类器对文本进行分类。实验结果表明, PCA-CFEA能有效地提高文本分类的正确率和执行效率。     

基于多纹理特征融合的震后SAR图像倒塌建筑物信息提取

合成孔径雷达（SAR）凭借其全天候观测能力以及SAR图像中丰富的纹理信息,在震后建筑物倒塌评估中发挥了重要作用。针对SAR图像中倒塌建筑物纹理特征多样但利用率较低,且特征信息冗余的问题,提出一种基于主成分分析的SAR图像多纹理特征分类方法。该方法基于灰度直方图、灰度共生矩阵、局部二值模式、Gabor滤波器提取了26种纹理特征信息,构建主成分变量进行多维特征优选与降维融合,通过随机森林分类算法提取建筑物的倒塌信息。以2016年日本熊本地震为例验证了该方法的有效性,结果显示其提取精度高达79.85%,倒塌建筑物的识别效率有所提高,分类结果优于单种纹理特征提取方法及多种纹理特征组合提取法,可用于震后建筑物震害信息的快速提取。     

文本分类中一种混合型特征降维方法

提出一种基于特征选择和特征抽取的混合型文本特征降维方法,分析基于选择和抽取的特征降维方法各自的特点,借助特征项的类别分布差异信息对特征集进行初步选择。使用一种新的基于PCA的特征抽取方法对剩余特征集进行二次抽取,在最大限度减少信息损失的前提下实现了文本特征的有效降维。对文本的分类实验结果表明,该特征降维方法具有良好的分类效果。     

一种基于快速特征选择的故障诊断方法

针对故障诊断中数据存在噪声和高维的缺点,使用一种快速特征提取方法对故障数据进行降维,该方法以特征信号的均值和方差作为其权重衡量的依据。利用支持向量机的模式分类功能,构造了基于特征提取的多故障分类器。实例表明,在保证诊断效果的情况下,该方法实现了数据降维,降低了运算复杂度。     

Gene selection in class space for molecular classification of cancer

Gene selection (feature selection) is generally pertormed in gene space(feature space), where a very serious curse of dimensionality problem always existsbecause the number of genes is much larger than the number of samples in gene space(G-space). This results in difficulty in modeling the data set in this space and the lowconfidence of the result of gene selection. How to find a gene subset in this case is achallenging subject. In this paper, the above G-space is transformed into its dual space,referred to as class space (C-space) such that the number of dimensions is the verynumber of classes of the samples in G-space and the number of samples in C-space isthe number of genes in G-space. it is obvious that the curse of dimensionality in C-spacedoes not exist. A new gene selection method which is based on the principle of separatingdifferent classes as far as possible is presented with the help of Principal ComponentAnalysis (PCA). The experimental results on gene selection for real data set areevaluat     

Robust ear based authentication using Local Principal Independent Components

This paper presents the ear based authentication using Local Principal Independent Components (LPIC) an extension of PCA. As PCA is a global approach dealing with all pixel intensities, it is difficult to get finer details from the ear image. The concept of information sets is introduced in this paper so as to have leverage over the local information. These sets are based on the granularization of the ear image in the form of windows. The features based on these sets allow us to change the local information which goes into LPIC as the input. Thus LPIC not only uses this local information but also helps to reduce the dimensions of the deduced features far less than that can be achieved with PCA. For the extraction of sparse information from ear, features such as Effective information (EI), Energy feature (EF), Sigmoid feature (SF), Multi Quadratic feature (MQD) are derived and then LPIC is applied to get the reduced number of features. Inner product classifier (IPC) is developed for the classification of these features. The experiments carried out on constrained and unconstrained databases show that LPIC is effective not only under the ideal conditions but also under the unconstrained environment.     

基于改进遗传算法和图神经网络的股市波动预测方法

针对支持向量机（SVM）、长短期记忆（LSTM）网络等智能算法在股市波动预测过程中股票评价特征选择困难及时序关系维度特征缺失的问题,为能够准确预测股票波动、有效防范金融市场风险,提出了一种基于改进遗传算法（IGA）和图神经网络（GNN）的股市波动预测方法——IGA-GNN。首先,利用相邻交易日间的时序关系构建股市交易指标图数据;其次,通过评价指标特性优化交叉、变异概率来改进遗传算法（GA）,从而实现节点特征选择;然后,建立图数据的边与节点特征的权重矩阵;最后,运用GNN进行图数据节点的聚合与分类,实现了股市波动预测。在实验阶段,所研究的股票总评价指标数为130个,其中IGA在GNN方法下提取的有效评价指标87个,使指标数量降低了33.08%。应用所提IGA在智能算法中进行特征提取,得到的算法与未进行特征提取的智能算法相比,预测准确率整体提升了7.38个百分点;而与应用传统GA进行智能算法的特征提取相比,应用所提IGA进行智能算法的特征提取的总训练时间缩短了17.97%。其中,IGA-GNN方法的预测准确率最高,相较未进行特征提取的GNN方法的预测准确率整体提高了19.62个百分点;而该方法与用传统GA进行特征提取的GNN方法相比,训练时间平均缩短了15.97%。实验结果表明,所提方法可对股票特征进行有效提取,预测效果较好。