鲁棒自适应概率加权主成分分析

主成分分析(Principal component analysis, PCA) 是处理高维数据的重要方法. 近年来, 基于各种范数的PCA模型得到广泛研究, 用以提高PCA对噪声的鲁棒性. 但是这些算法一方面没有考虑重建误差和投影数据描述方差之间的关系; 另一方面也缺少确定样本点可靠性(不确定性)的度量机制. 针对这些问题, 本文提出一种新的鲁棒PCA模型. 首先采用$L_{2, p}$模来度量重建误差和投影数据的描述方差. 基于重建误差和描述方差之间的关系建立自适应概率误差极小化模型, 据此计算主成分对于数据描述的不确定性, 进而提出了鲁棒自适应概率加权PCA模型(RPCA-PW). 此外, 本文还设计了对应的求解优化方案. 对人工数据集、UCI数据集和人脸数据库的实验结果表明, RPCA-PW在整体上优于其他PCA算法.     

基于相同稀疏模式的稀疏主成分分析算法

稀疏主成分分析是一种用于降维和特征选择的无监督方法。由于计算多个主成分时主载荷向量间不具有相同的稀疏模式,导致难以从原始特征空间中确定出对主成分贡献最大的小部分变量,为解决此问题,提出一种自适应稀疏主成分分析（Adaptive sparse principal component analysis, ASPCA）算法。首先使用组套索模型,通过在载荷向量上施加块稀疏约束得出自适应稀疏主成分分析公式,随后对稀疏矩阵的不同列使用不同的调整参数获得自适应惩罚,最后运用块坐标下降法对自适应稀疏主成分分析公式进行两阶段优化,从而找到稀疏载荷矩阵和正交矩阵,实现降维的最优化。对稀疏主成分分析（Sparse principal component analysis, SPCA）算法、结构化且稀疏的主成分分析（Structured and sparse principal component analysis, SSPCA）算法和ASPCA算法进行仿真比较,结果表明ASPCA算法的降维性能更优,能提取更有价值的特征,从而显著提高了分类模型的平均分类准确率。     

一种稀疏可控的主成分分析方法

主成分分析(Principal Component Analysis,PCA)是一种用线性变换选出少数重要变量(降维)的多元统计分析方法。虽然传统PCA被广泛应用于科学研究与工程领域中,但是其结果有时很难解释。因此,一些研究人员引入稀疏约束项(lasso、fused lasso以及adaptive lasso等),以得到可解释的结果。由于传统稀疏项的稀疏度不容易控制,为此引入一种新的约束项,即稀疏可控惩罚项(Sparse Controllable penalty,SCP),来控制主成分的稀疏程度。与传统的约束项相比,SCP具有长度不敏感、维度不敏感和约束项的取值范围在0到1之间的优点。这些优点极大地降低了调节稀疏度的难度。实验表明,稀疏可控主成分分析(Sparse Controllable Principal component Analysis,SCPCA)是高效的。     

基于鲁棒主成分分析的Canny边缘检测算法

为提高图像边缘检测的准确性和鲁棒性,提出一种基于鲁棒主成分分析(RPCA)的Canny边缘检测算法。该算法对图像进行RPCA分解得到图像的主成分和稀疏成分,利用Canny算子对主成分进行边缘检测,从而实现对图像的边缘检测。该算法将图像的边缘检测问题转化为图像主成分的边缘检测问题,消除了图像信息中“污点”对检测结果的干扰,抑制了噪声。仿真实验结果表明,该算法在边缘检测的准确性和鲁棒性方面优于Log边缘检测算法、Canny边缘检测算法和Susan边缘检测算法方法。     

卷积鲁棒主成分分析

鲁棒主成分分析(RPCA)是一种经典的高维数据分析方法,可从带噪声的观测样本中恢复出原始数据.但是,RPCA能工作的前提是目标数据拥有低秩矩阵结构,不能有效处理实际应用中广泛存在的非低秩数据.研究发现,虽然图像、视频等数据矩阵本身可能不是低秩的,但它们的卷积矩阵通常是低秩的.根据这一原理,提出一种称为卷积鲁棒主成分分析...     

广义余弦二维主成分分析

主成分分析(Principal component analysis, PCA) 是一种广泛应用的特征提取与数据降维方法, 其目标函数采用L2范数距离度量方式, 对离群数据及噪声敏感. 而L1范数虽然能抑制离群数据的影响, 但其重构误差并不能得到有效控制. 针对上述问题, 综合考虑投影距离最大及重构误差较小的目标优化问题, 提出一种广义余弦模型的目标函数. 通过极大化矩阵行向量的投影距离与其可调幂的2范数之间的比值, 使得其在数据降维的同时提高了鲁棒性. 在此基础上提出广义余弦二维主成分分析(Generalized cosine two dimensional PCA, GC2DPCA), 给出了其迭代贪婪的求解算法, 并对其收敛性及正交性进行理论证明. 通过选择不同的可调幂参数, GC2DPCA可应用于广泛的含离群数据的鲁棒降维. 人工数据集及多个人脸数据集的实验结果表明, 本文算法在重构误差、相关性及分类率等性能方面均得到了提升, 具有较强的抗噪能力.     

重加权稀疏主成分分析算法及其在人脸识别中的应用

针对主成分分析（PCA）算法获取的主成分向量不够稀疏,拥有较多的非零元这一问题,使用重加权方法对PCA算法进行优化,提出了一个新的提取高维数据特征的方法,即重加权稀疏主成分分析（RSPCA）算法。首先,将重加权l₁最优化框架和LASSO回归模型引入到PCA算法数学模型中,建立新的数据降维模型;然后,使用交替最小化算法、奇异值分解算法、最小角回归算法等方式对模型进行求解;最后,使用人脸识别实验对算法效果进行了验证。在实验中使用K折交叉验证的方法针对ORL人脸数据集分别使用PCA算法和RSPCA算法进行识别实验。实验结果表明,RSPCA算法在获取更稀疏解的情况下仍拥有着不弱于PCA算法的表现,平均识别准确率达到95.1%,所提算法与表现最好的sPCA-rSVD算法相比,识别准确率提高了6.2个百分点;针对手写数字识别这一具体现实应用进行求解,获取到平均识别准确率96.4%的良好实验效果。证明了所提方法在人脸识别及书写数字识别方面的优异性。     

自步稀疏最优均值主成分分析

主成分分析(PCA)是一种无监督降维方法.然而现有的方法没有考虑样本的差异性,且不能联合地提取样本的重要信息,从而影响了方法的性能.针对以上问题,提出自步稀疏最优均值主成分分析方法.模型以L2,1范数定义损失函数,同时用L2.1范数约束投影矩阵作为正则化项,且将均值作为在迭代中优化的变量,这样可一致地选择重要特征,提高...     

鲁棒的加权核主成分分析算法

为减弱离群点对数据处理的影响, 提出了一种鲁棒的加权核主成分分析算法。利用核函数将样本投影到核空间, 在核空间构建一个样本加权重建误差最小模型, 最大限度地提取数据中的非线性信息并降低离群点样本的干扰。在Yale人脸库和UCI数据集上的实验表明, 该方法具有很好的识别率, 尤其对离群点样本具有较好的鲁棒性。     

基于主成分分析的时间序列Shapelet提取方法

Shapelet序列分析为时间序列分类提供了一种快速分类的方法,但Shapelet序列抽取速度很慢,限制了它的应用范围。为了加快 Shapelet 序列的提取,提出了一种基于主成分分析的改进方法。首先运用主成分分析法（PCA）对时间序列数据集进行降维,采用降维后的数据表示原数据,然后对降维后的数据提取出最能代表类特征的Shapelet序列。实验结果表明：本方法在保证分类准确率的前提下,提高了运算速度。     

概率二维主分量分析

二维主分量分析是一种直接面向图像矩阵表达方式的特征抽取与降维方法. 提出了一个基于二维主分量分析的概率模型. 首先, 通过对此产生式概率模型参数的最大似然估计得到主分量(矢量); 然后, 考虑到缺失数据问题, 利用期望最大化算法迭代估计模型参数和主分量. 混合概率二维主分量分析模型在人脸聚类问题上的应用表明概率二维主分量分析模型能作为图像矩阵的密度估计工具. 含有缺失值的人脸图像重构实验阐述了此模型及迭代算法的有效性.     

基于主分量分析的矢量量化数字水印算法

针对矢量量化过程中码书训练复杂的缺点,基于主分量分析方法对图像进行降维,根据降维后各主分量熵和标准差的差异性对其进行分类,采用非均匀矢量量化方法生成码书。在水印嵌入过程中,将水印图像嵌入降维后主分量能量适中的码书中以提高水印图像质量,利用EENNS算法代替完全搜索算法缩短编码时间。实验结果表明,该算法在提高码书质量的同时,能有效减少码书训练时间,对JPEG压缩、剪切、旋转等图像攻击也具有较强的鲁棒性。     

一类多频带主分量分析方法

主分量分析是模式识别领域使用较广的一种特征 抽取方法,但是由于经典的主分量分析在处理图像矩阵时需要将图像展开成向量形式,使得计算量很大。本文提出了一种多频带主分量分析方法,该方法不仅减少了运算过程中的计算量,而且在一定程度上提高了整体性能。首先通过二维离散余弦变换将图像转变成频率数据,再按照频率变化将数据分成多个频带,然后在此基础上设计了针对多个频带数据的主分量 分析方法。通过对ORL和NUST603图像库进行实验证明,本文方法不仅具有快速提取图像特征的能力,而且综合性能优于相应的主分量分析。     

一种基于主成分分析的异常点挖掘方法

在对现有异常点挖掘算法分析的基础上,给出了一种异常点挖掘的新方法一基于主成分分析方法,该方法先用基于密度的聚类算法进行聚类,然后把不包含在任何聚类中的周围稀疏的样本对象用主成分分析（PCA）方法进行检验,确定是否为异常点,并通过实验数据验证了算法的可行性和有效性。     

核主元分析及其在人脸识别中的应用

传统的基于数据二阶统计矩的特征脸法(Eigenface)或主元分析法(PCA)是一种有效的数据特征提取方法,是基于原始特征的一种线性变换。但是,当原始数据中存在非线性属性时,用主元分析法后留下的显著成分就可能不再反映这种非线性属性。而核主元分析则是基于原始数据的高阶统计量,是一种非线性变换,在图像识别中它可以描述多个像素之间的相关性。该文采用KPCA法提取人脸特征,利用线性支持向量机设计分类器,实验结果表明,基于核主元分析方法的识别正确率明显优于基于主元分析法。     

基于主成分分析进行特征融合的JPEG 隐写分析

为了解决现有JPEG隐写分析方法特征冗余度高和未能充分利用特征间互补关系的问题,提出了一种基于主成分分析(principal component analysis,简称PCA)进行特征融合的JPEG隐写分析方法,并分析所选特征之间的互补性.通过融合将互补特征结合在一起,更全面地反映载体和隐写信号间的统计差异,并用PCA分离出冗余成分,最终达到进一步提升准确率的目的.实验结果表明,在不同数据集和嵌入率情况下,该方法分析高隐蔽性隐写(如F5,MME和PQ)的准确率高于主要JPEG分析方法,在耗时上较现有特征层融合降维方法大为缩短.     

用于非高斯系统降维的最小残差熵主元网络

基于最小均方误差的主元分析和主元神经网络是有效的多变量降维统计技术,它们所提取的主元含有系统最大方差.非高斯随机系统的近似模型应当含有系统最大信息熵,但包含最大方差并不一定包含最大信息熵.该文提出一种以最小残差熵为通用指标的非线性主元神经网络模型,并给出了一种基于Parzen窗口密度函数估计的熵近似计算方法和网络学习算法.然后从信息论角度分析了,在高斯随机系统中基于最小残差熵和最小均方差为指标的主元网络学习结果具有一致性.最后以仿真验证该方法的有效性,并与基于最小均方误差的主元分析和主元神经网络方法的计算结果进行对比性分析.