基于判别式扩散映射分析的非线性特征提取

针对高维数据难以被人们直观理解,且难以被机器学习和数据挖据算法有效地处理的问题,提出一种新的非线性降维方法--判别式扩散映射分析(DDMA)。该方法将判别核方案应用到扩散映射框架中,依据样本类别标签在类内窗宽和类间窗宽中判别选取高斯核窗宽,使核函数能够有效提取数据的关联特性,准确描述数据空间的结构特征。通过在人工合成Swiss-roll测试和青霉素发酵过程中的仿真应用,与主成分分析(PCA)、线性判别分析(LDA)、核主成分分析(KPCA)、拉普拉斯特征映射(LE)算法和扩散映射(DM)进行比较,实验结果表明DDMA方法在低维空间中代表高维数据的同时成功保留了数据的原始特性,且通过该方法在低维空间中产生的数据结构特性优于其他方法,在数据降维与特征提取性能上验证了该方案的有效性。     

改进KPCA对分类数据的特征提取

提出了对核主成分分析(KPCA)在模式分类中的特征提取的改进方法.KPCA对于模式分类数据,并不是投影后的主成分就是最利于分类的成分,因此把数据降维到一个利于分类的空间,同时别除不利于分类的成分,尽可能保留类别信息,对于各个成分贡献率以及映射空间进行度量,依据各成分对于模式分类的贡献选择最优成分,且根据Fisher准则选择利于分类的空间,即确定类别信息量较大的成分以及KPCA的核参数.     

核协方差成分分析方法及其在聚类中的应用

以降维前后密度总和与Renyi熵的差(Densities-vs-Entropy,D-vs-E)尽量靠近为准则,得到了一种新的特征降维方法,而D-vs-E是由核特征空间的协方差矩阵导出的,因此称为核协方差成分分析(Kernel Covariance Compo-nent Analysis,KCCA)。将D-vs-E发展为广义D-vs-E(generalized D-vs-E)。KCCA通过将数据投影在使D-vs-E最大的KPCA轴方向得到转换后的低维数据,但是所选取的KPCA轴不一定对应于核矩阵最大的几个特征值。与基于Renyi熵的KECA相比,KCCA是基于D-vs-E的。基于广义D-vs-E的KCCA数据转换方法应用于聚类的结果显示,它在对高斯核参数的选择上具有更强的鲁棒性。     

基于核函数的PCA在QAR数据分析中的应用

分析了传统的主成分分析方法的不足,论述了KPCA方法及其时间复杂度高的缺陷。在此基础上,提出基于核函数构造的协方差矩阵的主成分分析,相比 KPCA,该方法具有快的降维速度。实验结果显示：把该方法用于QAR数据具有良好的降维效果和高分类正确率。     

基于核主量和线性鉴别分析的人脸识别算法研究

采用基于非线性核空间的主分量分析法(KPCA)和线性主元空间鉴别分析法(LDA)相结合的算法,首先将人脸图像在非线性高维空间中进行主成分分量降维,然后采用基于主元空间的LDA方法对子空间再度降维,同时利用欧式距离分类器(KNN)对样本进行有效的分类识别.采用Matlab和ORL人脸库对该算法进行验证,实验证明,该算法识别性能显著提高,明显优于其他算法.     

基于成对约束半监督学习的数据相关核优化方法

核函数及其参数的选择决定着核方法的性能。本文基于半监督学习思想,通过构建一个目标函数,利用无标签数据和成对约束信息来优化核函数,使得核函数尽可能适应数据集,从而改善核函数性能。为验证方法的有效性,将其应用于核主成分分析(KPCA)的核函数优化中,在人工数据和UCI数据集上对KPCA提取特征的分类和聚类性能进行评估,实验结果说明提出方法改进了分类和聚类性能。     

基于增量核主成分分析的数据流在线分类框架

核主成分分析(Kernel principal component analysis, KPCA)是一种非线性降维工具, 在降低数据流分类处理量方面发挥着积极作用. 然而, 由于复杂性太高, 导致KPCA的降维能力有限. 为此, 本文给出了一种增量核主成分分析算法(Incremental KPCA for dimensionality-reduction, IKDR), 该算法在每步迭代估计中只需线性内存开销, 大大降低了复杂性. 在IKDR的基础上, 结合BP (Back propagation)神经网络提出了数据流在线分类框架: IKOCFrame (Online classification frame based on IKDR). 通过一系列真实和人工数据集上的实验, 检验了IKDR算法的收敛性, 并且验证了IKOCFrame相对于同类基于成分分析的分类算法的优越性.     

基于判别核主元空间k近邻的批次过程监视

针对批次过程非线性、多模态等特征,提出一种基于判别核主元k近邻（Dis-kPCkNN）的故障检测方法。首先,在核主元分析（kPCA）中,高斯核的窗宽参数依据样本类别标签在类内窗宽和类间窗宽中判别选取,使得核矩阵能有效提取数据的关联特征,保持数据的类别信息;其次,在核主元空间中引用k近邻规则代替传统的T²统计方法,k近邻规则可以有效处理主元空间非线性和多模态等特征的故障检测问题。数值模拟实例和半导体蚀刻工艺过程仿真实验表明:基于判别核主元k近邻方法可以有效地处理具有非线性和多模态结构特征的故障检测问题,提高计算的效率,减少内存的占用,并且故障检测率明显优于传统方法。     

基于核主成分分析的环境质量综合评价模型

环境质量评价是一个多指标决策过程,考虑到评价指标众多关系复杂,该文运用降维效果显著、能有效解决非线性问题的核主成分分析(KPCA)方法对主成分分析(PCA)综合评价进行改进,建立环境质量综合评价模型。实证研究结果表明该模型能够较客观地反映不同地区的环境状况。     

低对比度下水印图像缺陷检测

在主成分分析(PCA)及核主成分分析(KPCA)进行特征提取基本原理的基础上,提出了一种改进的提取非线性的图像特征来重建图像方法,应用于嵌入式防伪水印图案缺陷的检测。该方法使得图像协方差矩阵维数大幅下降,且有效地保留了嵌入式防伪水印图案的信息,通过比较检测出图像的缺陷。实验结果表明,该方法对输入数据实现了有效的降维,缩短了计算时间,提高了检测效果和精确度。KPCA算法相比原有的PCA算法具有更高的性能指标,适用范围更广。     

非线性特征提取和LSSVM在化工过程故障诊断中应用

提出利用非线性特征提取（核主成分分析（KPCA）和核独立成分分析）消除数据的不相关性,降低维数。核主成分分析利用核函数把输入数据映射到特征空间,进行线性主成分分析计算提取特征;核独立成分分析在KPCA白化空间进行线性独立成分分析（ICA）变换提取独立成分。提取的特征作为最小二乘支持向量机分类器的输入,构建融合非线性特征提取和最小二乘支持向量机的智能故障分类方法。研究了该方法应用到某石化企业润滑油生产过程的故障诊断中的有效性和可行性。     

概率核主成分分析及其应用

主成分分析（PCA）、核主成分分析（KPCA）和概率主成分分析（PPCA）是已经取得广泛应用的特征提取方法。提出一种基于概率核主成分分析（PKPCA）的检测液晶屏幕亮点的方法。作为对PPCA的一种非线性扩展,PKPCA在PPCA的基础上引入了核函数方法,因而其捕获模式非线性特征的能力更强。在KPCA和PPCA的基础上推导了PKPCA过程公式,并在检测液晶屏幕亮点的应用中将PKPCA、PPCA、PCA算法进行比较。实验结果表明,PKPCA的检测率和局部信噪比优于其他两者。     

一种融合KPCA和KDA的人脸识别新方法

核判别分析（KDA）和核主成分分析（KPCA）分别是线性判别分析（LDA）和主成分分析（PCA）在核空间中的非线性推广,提出了一种融合KDA和KPCA的特征提取方法并应用于人脸识别中,该方法综合利用KDA和KPCA 的优点来提高人脸识别的性能。此外,还提出了一种广义最近特征线(GNFL)方法来构造有效的分类器。实验结果证明：提出的方法获得了更好的识别结果。     

基于余弦角距离的主成分分析与核主成分分析

PCA和KPCA都是基于欧氏距离提出的,这种距离对离群数据点比较敏感,而余弦角距离对离群数据更为鲁棒,在很多情况下具有更好的性能。充分利用余弦角距离的优势,提出两种新的特征抽取算法——基于余弦角距离的主成分分析（PCAC）和基于余弦角距离的核主成分分析（KPCAC）。在YALE人脸数据库与PolyU掌纹数据库上的实验表明,PCAC比PCA取得了更好的效果,KPCAC也表现出了很好的性能。     

鲁棒主元分析在掌纹识别中的应用

为了对存在异常值的图像构建低维线性子空间的描述,提出用鲁棒主元分析(RPCA)的新方法进行掌纹识别。运用图像下抽样方法降低掌纹空间的维数,在低维图像上应用RPCA提取低维的投影向量,然后将训练图像和待识别图像向投影向量上投影得到鲁棒主元特征,计算特征向量间的余弦距离进行掌纹匹配。运用PolyU掌纹图像库进行测试,结果表明,与主元分析(PCA)、独立元分析(ICA)和核主元分析(KPCA)相比,RPCA算法的识别率最高为99%,特征提取和匹配总时间0.032 s,满足了实时系统的要求。     

基于规范化KDDA的人脸识别算法

传统的PCA和LDA算法受限于“小样本问题”,且对像素的高阶相关性不敏感。论文将核函数方法与规范化LDA相结合,将原图像空间通过非线性映射变换到高维特征空间,并借助于“核技巧”在新的空间中应用鉴别分析方法。通过对ORL人脸库的大量实验表明,该方法在特征提取方面优于PCA,KPCA,LDA等其他方法,在简化分类器的同时,也可以获得高识别率。     

基于核主元分析的神经网络控制图模式识别

针对异常特征之间存在较大的相似性而带来的网络结构复杂和识别精度不高的问题,提出一种基于核主元分析的神经网络控制图模式识别方法。先通过核方法将低维空间中的非线性特征转化为高维空间中的线性特征,再将其进行线性组合并向低维空间投影,然后用BP神经网络分类器对控制图模式进行识别。通过仿真进行验证,结果显示该方法对控制图各个模式能够有效聚类,并且识别精度得到提高。     

基于核熵成分分析的数据降维?

针对高维数据的维灾问题,采用核熵成分分析方法降维数据,并与主成分分析及核主成分分析方法进行对比。降维后的数据利用支持向量机算法进行分类,以验证算法有效性。实验结果表明,KECA在较低的维数时仍然能获得较好的分类精度,可以减少后续的处理复杂度和运行时间,适用于机器学习、模式识别等领域。     

基于KPCA和CPSO的故障检测方法

提出一种基于核主元分析(KPCA)和混沌粒子优化群(CPSO)算法的非线性故障检测方法。通过核函数完成非线性变换,将变量由非线性的输入空间转换到线性的特征空间来计算主元,构造平方预测误差统计量检测故障是否发生。为避免粒子群算法的早熟现象,利用混沌优化的搜索特性,将CPSO算法应用到KPCA核参数的优化中。变压器故障检测结果表明,与基于PCA、KPCA和 PSO-KPCA的故障检测方法相比,该方法的检测正确率较高。