维规约对朴素贝叶斯分类性能的影响研究

朴素贝叶斯算法是一种简单而高效的分类算法,但属性的条件独立性假设并不符合客观实际,特别是高维度数据的属性之间往往存在相关关系,如何能在实现对数据降维的同时又提高朴素贝叶斯的分类性能是一个重要的研究问题.对基于条件信息熵的选择朴素贝叶斯、基于主成分分析的朴素贝叶斯和基于独立成分分析的朴素贝叶斯算法进行研究,通过在UCI数据集上的仿真实验,详细比较了几种维规约算法对朴素贝叶斯分类性能的影响.     

基于小波变换和2DPCA的人脸识别方法

主成分分析(Principal Component Analysis,PCA)方法是模式识别技术中经典的特征提取和降维技术之一。在传统的PCA基础上,提出了二维主成分分析(Two-Dimensional Principal Component Analysis,2DPCA)方法。针对二维主成分分析在特征提取和数据降维上存在的缺点,提出一种综合的方法—在小波变换的基础上,对人脸数据库进行二维主成分分析。实验结果表明,该方法不仅实现了降维,而且能取得比传统主成分分析和二维主成分分析更好的识别性能。     

一种适合Web图像检索的图像降维算法研究

本文对现有Web图像检索技术现状进行了归纳，分析阐明了图像降维算法在基于内容的Web图像检索技术中的地位和作用。在介绍了几种经典图像降维方法后，重点介绍了国外近来提出的基于拉普拉斯特征值映射（LE）的图像降维算法。针对Web环境下图像检索必须进行剧烈降维的特点，本文进而对基于KL变换的主成分分析（PCA）算法和基于LE的图像降维算法进行了实验分析和比较。实验结果表明：对于需要进行维数剧烈缩减的Web图像检索来说，基于LE的图像降维算法可以获得最佳的效果。     

图像矩阵上的广义最大噪声分离算法

主成分分析（PCA）是模式识别中一种重要的变换工具,在图像处理的特征提取和降维方面有广泛的应用。然而,由于二维图像数据需要进行向量化处理,导致高维向量的产生和像素空间位置丢失。广义主成分分析（GPCA）则是基于图像矩阵的主成分分析推广算法,它不改变像素间的空间位置关系,而且计算量也显著降低。但主成分分析和广义主成分分析都没有考虑到实际图像中存在的噪声干扰。最大噪声分离（MNF）则是一种面向噪声干扰的变换方法,与主成分分析基于方差的最大化不同,最大噪声分离是基于信噪比的最大化。与GPCA的推广类似,在图像二维矩阵上推广最大噪声分离方法,提出一种广义最大噪声分离（GMNF）算法。该变换方法在保证重构时信噪比最大的同时,也具有不改变像素空间位置、计算量小的优点。在人脸和红外图像上的仿真实验结果验证了所提算法的有效性。     

采用Radon变换和二维主成分分析的步态识别算法

针对主成分分析算法将图像矩阵转化为向量的维数过高、求取特征向量耗时的问题,综合步态的静态和动态信息,对一个步态周期中的图像进行Radon变换,再通过模板构造,仅用一幅图像来刻画步态特征,接着用二维主成分分析（2DPCA）进行降维.为了验证所提出的算法的有效性,在CASIA步态数据库上进行实验,采用最近邻分类器来测试识别.实验结果表明在特征模板构造时选择合适的频率,采用Radon变换结合列2DPCA进行步态特征提取是有效的.     

基于对称二维主成分分析的人脸识别

提出一种基于人脸直观上镜像对称的算法--对称二维主成分分析,并成功应用于人脸识别.该算法引入镜像变换,根据奇偶分解原理,分别生成奇偶对称样本,再分别进行二维PCA变换,生成奇偶本征空间.根据选择性集成的思想,从奇偶本征空间挑选出更具有鉴别信息的本征向量构造人脸特征提取的本征空间.提取人脸图像的各奇偶对称的二维主成分特征进行识别.理论分析与实验证明,该算法既扩大样本容量,又提高识别率,同时该算法对光照变换有一定的不敏感性.     

基于独立成分分析的高光谱图像有损压缩方法

提出一种结合小波变换和独立成分分析(ICA)的高光谱图像有损压缩方法。采用最大似然估计与最大噪声分离相结合的方法对原始高光谱数据进行维数估计。依据维数估计的结果在光谱方向上采用 ICA,在空间上运用离散小波变换。对于变换后的系数,使用多级树集合分裂算法和算术编码分别进行量化编码和熵编码。在机载可见光/红外成像光谱仪220波段高光谱数据上的实验结果表明,该算法可以在获得较高压缩率的同时,保留高光谱图像的光谱特性。     

基于2DPCA-NSCT变换的多光谱与全色图像融合

鉴于应用单一主成分分析(PCA)或非下采样Contourlet(NSCT)变换进行多光谱和全色图像融合存在的问题,提出了一种2DPCA-NSCT变换图像融合算法.首先对多光谱图像各波段进行二维PCA变换,视其主成分为信号而少量非主成分为噪声予以忽略;然后对全色图像和第一主成分做NSCT分解,在频域对近似分量和多方向高频分量按不同的融合规则融合;最后通过NSCT反变换得到融合图像.实验结果表明,所提出的融合算法在保持PCA变换良好的空间分辨率的同时改善了其光谱失真的问题.     

基于对称的二维主成分分析及其在人脸识别中的应用

在二维主成分分析算法中引入了对称性思想,提出了基于对称的二维主成分分析算法（STDPCA）。在该算法中,首先把人脸图像分解成奇对称图像和偶对称图像,然后分别在这两类图像中进行二维主成分分析,提取所需要的特征。该算法不仅有效利用了二维主成分分析算法的优点,而且也考虑了人脸对称性的特点,因此在人脸识别中有较高的识别率。在著名人脸库ORL、YALE中的实验证明了该算法的有效性。     

基于双向二维主成分分析的掌纹识别

掌纹识别是一门新兴的生物特征识别技术.使用主成分分析对图像向量进行处理,向量维教一般都很高.二维主成分分析是直接采用二维图像矩阵来构建方差矩阵,与一维主成分分析相比能更精确地计算原始数据的协方差矩阵,双向二维主成分分析是二维主成分分析的改进算法,将其应用于掌纹识别,通过在水平和垂直2个方向上各执行1次二维主成分分析运算,消除了掌纹图像行和列的相关性,运用新准则选取了更适合于分类的主分量,大大压缩了特征的维数.在香港Poly-technic Universitv的Palmprint Database测试结果表明,该方法具有更高的识别率和更低的计算复杂度.     

基于LMP和KPCA的人脸识别

提出一种基于拉普拉斯矩阵投影变换和核主成分分析的人脸图像识别方法。对人脸图像做拉普拉斯矩阵变换,通过核主成分分析提取特征,再利用最近邻分类器进行分类。拉普拉斯矩阵变换在保持人脸图像的局部特性的前提下,有效地降低了图像维数。在ORL数据库上的实验表明,进行拉普拉斯矩阵变换后人脸识别精度相差不大,但计算量得到减少。     

基于孤立点挖掘的入侵检测技术

基于孤立点挖掘,探讨了异常检测的可行性,将孤立点挖掘方法应用到入侵检测中,采用编码映射方法对符号型数据进行处理,利用主成分分析对编码映射后扩展的属性进行降维。仿真实验验证了该方法的可行性。     

结合2DWT和Fisherfaces的人脸特征提取新方法

针对人脸表情变化对人脸识别的影响,提出一种结合小波变换(DWT)、特征脸方法(PCA)和线性判别法(LDA)的人脸特征提取新方法.首先将人脸图像通过二维小波变换(2DWT)提取其低频分量,然后将低频图像经过PCA变换映射到一个低维空间,最后在低维空间中利用LDA方法进行人脸特征的提取.通过此方法,采用ORL人脸库和Yale人脸库进行测试,我们可实现更准确的特征提取,并有效解决表情变化对人脸识别的影响问题.实验结果显示,本文方法在提高人脸识别率的同时,也提高了人脸识别速度.     

核参数判别选择方法在核主元分析中的应用

针对核主元分析(KPCA)中高斯核参数β的经验选取问题,提出了核主元分析的核参数判别选择方法。依据训练样本的类标签计算类内、类间核窗宽,在以上核窗宽中经判别选择方法确定核参数。根据判别选择核参数所确定的核矩阵,能够准确描述训练空间的结构特征。用主成分分析(PCA)对特征空间进行分解,提取主成分以实现降维和特征提取。判别核窗宽方法在分类密集区域选择较小窗宽,在分类稀疏区域选择较大窗宽。将判别核主成分分析(Dis-KPCA)应用到数据模拟实例和田纳西过程(TEP),通过与KPCA、PCA方法比较,实验结果表明,Dis-KPCA方法有效地对样本数据降维且将三个类别数据100%分开,因此,所提方法的降维精度更高。     

非线性特征提取和LSSVM在化工过程故障诊断中应用

提出利用非线性特征提取（核主成分分析（KPCA）和核独立成分分析）消除数据的不相关性,降低维数。核主成分分析利用核函数把输入数据映射到特征空间,进行线性主成分分析计算提取特征;核独立成分分析在KPCA白化空间进行线性独立成分分析（ICA）变换提取独立成分。提取的特征作为最小二乘支持向量机分类器的输入,构建融合非线性特征提取和最小二乘支持向量机的智能故障分类方法。研究了该方法应用到某石化企业润滑油生产过程的故障诊断中的有效性和可行性。     

Dimensionality reduction for computer facial animation

This paper describes the usage of dimensionality reduction techniques for computer facial animation. Techniques such as Principal Components Analysis (PCA), Expectation-Maximization (EM) algorithm for PCA, Multidimensional Scaling (MDS), and Locally Linear Embedding (LLE) are compared for the purpose of facial animation of different emotions. The experimental results on our facial animation data demonstrate the usefulness of dimensionality reduction techniques for both space and time reduction. In particular, the EMPCA algorithm performed especially well in our dataset, with negligible error of only 1-2%.     

基于CCIPCA和ICA降维的文本分类研究

文本分类中采用向量空间模型来表达文本特征,维数巨大,关键是对高维的特征集进行降维处理,而一般的分解算法无法处理大规模的高维问题。采用CCIPCA与ICA相结合的特征提取方法可以有效地实现文本特征降维。实验结果表明降维提高了分类器的效率和效果。     

A random forest classifier for lymph diseases

Machine learning-based classification techniques provide support for the decision-making process in many areas of health care, including diagnosis, prognosis, screening, etc. Feature selection (FS) is expected to improve classification performance, particularly in situations characterized by the high data dimensionality problem caused by relatively few training examples compared to a large number of measured features. In this paper, a random forest classifier (RFC) approach is proposed to diagnose lymph diseases. Focusing on feature selection, the first stage of the proposed system aims at constructing diverse feature selection algorithms such as genetic algorithm (GA), Principal Component Analysis (PCA), Relief-F, Fisher, Sequential Forward Floating Search (SFFS) and the Sequential Backward Floating Search (SBFS) for reducing the dimension of lymph diseases dataset. Switching from feature selection to model construction, in the second stage, the obtained feature subsets are fed into the RFC for efficient classification. It was observed that GA-RFC achieved the highest classification accuracy of 92.2%. The dimension of input feature space is reduced from eighteen to six features by using GA.     

基于判别式扩散映射分析的非线性特征提取

针对高维数据难以被人们直观理解,且难以被机器学习和数据挖据算法有效地处理的问题,提出一种新的非线性降维方法--判别式扩散映射分析(DDMA)。该方法将判别核方案应用到扩散映射框架中,依据样本类别标签在类内窗宽和类间窗宽中判别选取高斯核窗宽,使核函数能够有效提取数据的关联特性,准确描述数据空间的结构特征。通过在人工合成Swiss-roll测试和青霉素发酵过程中的仿真应用,与主成分分析(PCA)、线性判别分析(LDA)、核主成分分析(KPCA)、拉普拉斯特征映射(LE)算法和扩散映射(DM)进行比较,实验结果表明DDMA方法在低维空间中代表高维数据的同时成功保留了数据的原始特性,且通过该方法在低维空间中产生的数据结构特性优于其他方法,在数据降维与特征提取性能上验证了该方案的有效性。     

基于子空间方法的大规模网络流量异常检测

本文采用子空间方法和PCA（主成分分析或Principal Components Analysis）对大规模网络流量异常检测进行研究,并以校园网为实验环境,应用子空间方法和PCA实现了网络流量异常检测。通过实验结果与小波分析结果的对比,证明了基于子空间方法的大规模网络流量异常检测是一种既简单又高效的方法。