基于SNN核的景象匹配算法

提出一种基于核方法的下视等分辨率景象匹配算法. 通过模拟电荷吸引模型, 提出了计算不等维高维数据相似度的SNN核函数. 将图像中的特征点映射到径向基向量(Radial basis vector, RBV)空间, 利用SNN核函数计算两个特征点集的相似度及过渡矩阵. 利用置换测试模块来增强SNN核的稳定性, 以确保输出解的可靠性. 实验证明, 基于SNN核的景象匹配算法对图象畸变、噪声干扰与信号缺失具有很强的鲁棒性, 并可保证高精度与高实时性.     

鲁棒的加权核主成分分析算法

为减弱离群点对数据处理的影响, 提出了一种鲁棒的加权核主成分分析算法。利用核函数将样本投影到核空间, 在核空间构建一个样本加权重建误差最小模型, 最大限度地提取数据中的非线性信息并降低离群点样本的干扰。在Yale人脸库和UCI数据集上的实验表明, 该方法具有很好的识别率, 尤其对离群点样本具有较好的鲁棒性。     

基于测度学习支持向量机的钢琴乐谱难度等级识别

现有钢琴乐谱难度分类主要由人工方式完成,效率不高,而自动识别乐谱难度等级的算法对类别的拟合度较低。因此,与传统将乐谱难度等级识别归结为回归问题不同,本文直接将其建模为基于支持向量机的分类问题。并结合钢琴乐谱分类主观性强、特征之间普遍存在相关性等特点,利用测度学习理论有难度等级标签乐谱的先验知识,依据特征对难度区分的贡献度,改进高斯径向基核函数,从而提出一种测度学习支持向量机分类算法——ML-SVM算法。在9类和4类难度两个乐谱数据集上,我们将ML-SVM算法与逻辑回归,基于线性核函数、多项式核函数、高斯径向基核函数的支持向量机算法以及结合主成分分析的各个支持向量机算法进行了对比,实验结果表明我们提出算法的识别正确率优于现有算法,分别为68.74%和84.67%。所提算法有效提高了基于高斯径向基核函数支持向量机算法在本应用问题中的分类性能。     

基于遗传算法的核函数可调SOM方法

自组织映射(SOM)算法是一种无导师学习方法,当学习样本分布呈多态形式,具有高度非线性时,该算法显示出较差的鲁棒性和可靠性.基于核函数的学习是通过核函数实现一个从低维输入空间到高维特征空间的映射,从而使输入空间中复杂的样本结构在特征空间中变得简单.但是针对不同的数据集,各种核函数的分类效果不同,所以核函数选择是问题依赖的.采用核函数可调的方法,基于SOM网络结构,通过学习,采用遗传算法(GA)调整系数,能得到比单个核函数分类效果更好的结果.     

基于核函数的PCA-L1算法

主成分分析方法由于使用了L2范数,因此对异常值较敏感。针对该问题,提出一种基于核函数的L1范数主成分分析方法。运用核函数将原始数据映射到核空间中得到核矩阵,再利用L1范数使距离函数达到最小。实验结果表明,该算法具有旋转不变性,对异常值和非线性问题具有稳定性,且正确识别率较高。     

基于核空间类间平均距的径向基函数—支持向量机特征选择算法

SVM-RFE特征选择算法的算法复杂度高,特征选择消耗时间过长,为了缩短特征选择的时间,针对径向基函数—支持向量机分类器提出了依据核空间类间平均距进行特征选择的算法。首先分析了径向基函数核参数与数据集核空间类间平均距之间的关系,然后提出了依据单个特征对数据集的核空间类间平均距的贡献大小进行特征重要性排序的算法,最后用该算法和SVM-RFE算法分别对8个UCI数据集进行了特征选择实验。实验结果证明了该算法的正确性、有效性,而且特征选择的时间与SVM-RFE算法相比大大减小。     

基于KPCA组合核函数SVM的网络危险因素识别

本文在传统的支持向量机（SVM）分类算法中采用核主成分分析（KPCA）对网络数据进行特征抽取,将高维输入特征转化为新的低维特征;并对SVM的核函数进行改进,采用多项式核函数和径向基核函数混合的组合核函数,具有良好的学习能力和外推能力。最后在KDDCUP1999数据集上进行实验,证明了本文方法能够有效的减少学习样本数及训练时间,在网络危险因素识别中具有更高的检测率和更强的泛化能力。     

一种改进的模糊核聚类算法

为解决经典模糊聚类算法对噪声数据敏感、样本分布不平衡和高维数据集聚类效果不理想的问题。针对此不足,可以通过Mercer核把原来的数据空间映射到特征空间,并为特征空间的每个向量分配一个动态权值,从而在经典模糊聚类算法的基础上得到特征空间内的全新的目标函数。在基于核函数的模糊聚类算法中,核参数的选择是至关重要的。因此,提出了一个简单有效地决定核参数的方法。理论分析和实验结果表明,相对于其它经典模糊聚类算法,新算法具有更好的健壮性和聚类效果。     

一种基于核函数的非线性感知器算法

为了提高经典Rosenblatt感知器算法的分类能力，该文提出一种基于核函数的非线性感知器算法，简称核感知器算法，其特点是用简单的迭代过程和核函数来实现非线性分类器的一种设计，核感知器算法能够处理原始属性空间中线性不可分问题和高维特征空间中线性可分问题。同时，文中详细分析了其算法与径向基函数神经网络、势函数方法和支持向量机等非线性算法的关系。人工和实际数据的计算结果表明：与线性感知器算法相比，核感知器算法可以有效地提高分类精度。     

基于核密度波动的异常检测算法

异常检测是数据挖掘中的一个重要研究方向,当前大多数基于密度的异常检测算法常常基于样本分布假设,敏感于近邻参数[k]并且缺乏对集体异常点的检测能力。针对这些问题,提出了一种基于核密度估计的核密度波动算法。定义了可以综合评估数据点邻域内和邻域外核密度值波动的核密度波动因子,将其作为检测指标,并制定检测规则来识别异常点,这一指标可以综合考虑数据点的局部特征和全局特征,而且有助于发现集体异常。数据集上的实验结果表明,所提算法可以取得更好的检测结果,同时对算法参数具有相当的鲁棒性。     

非线性特征提取和LSSVM在化工过程故障诊断中应用

提出利用非线性特征提取（核主成分分析（KPCA）和核独立成分分析）消除数据的不相关性,降低维数。核主成分分析利用核函数把输入数据映射到特征空间,进行线性主成分分析计算提取特征;核独立成分分析在KPCA白化空间进行线性独立成分分析（ICA）变换提取独立成分。提取的特征作为最小二乘支持向量机分类器的输入,构建融合非线性特征提取和最小二乘支持向量机的智能故障分类方法。研究了该方法应用到某石化企业润滑油生产过程的故障诊断中的有效性和可行性。     

核协方差成分分析方法及其在聚类中的应用

以降维前后密度总和与Renyi熵的差(Densities-vs-Entropy,D-vs-E)尽量靠近为准则,得到了一种新的特征降维方法,而D-vs-E是由核特征空间的协方差矩阵导出的,因此称为核协方差成分分析(Kernel Covariance Compo-nent Analysis,KCCA)。将D-vs-E发展为广义D-vs-E(generalized D-vs-E)。KCCA通过将数据投影在使D-vs-E最大的KPCA轴方向得到转换后的低维数据,但是所选取的KPCA轴不一定对应于核矩阵最大的几个特征值。与基于Renyi熵的KECA相比,KCCA是基于D-vs-E的。基于广义D-vs-E的KCCA数据转换方法应用于聚类的结果显示,它在对高斯核参数的选择上具有更强的鲁棒性。     

结合非线性频谱与核主元分析的复杂系统故障诊断方法

传统非线性频谱分析方法对复杂系统进行故障诊断时,求解出的非线性频谱数据量庞大,不便于直接用于故障检测与分类识别.本文提出了一种非线性频谱特征与核主元分析(KPCA)结合的故障诊断方法,首先通过最小二乘算法估计出前3阶Volterra时域核,由多维傅立叶变换求取出广义频率响应函数,然后利用KPCA方法对谱数据进行压缩与提取谱特征,最后利用多分类最小二乘支持向量机进行多故障检测与识别.考虑到频谱数据具有非线性的特点,KPCA中的核函数选用由多项式函数与径向基函数构成的混合核函数,兼顾了局部特性与全局特性.论文基于非线性频谱数据,给出了核主元模型建立与在线故障诊断的具体算法.对非线性模拟电路和数控机床伺服传动系统进行了仿真实验,结果表明本文方法能够大幅度降低频谱数据维数,故障识别率高,是一种实用的故障诊断方法.     

Online identification using radial basis function neural network coupled with KPCA

In this paper, we are going to propose an online radial basis function (RBF) neural network algorithm without any preprocessing step. Then a kernel principal component analysis (KPCA) is coupled with the proposed online RBF neural network algorithm. Indeed, the KPCA method is used as a preprocessing step to reduce the feature dimension which fed to the RBF neural network. Reducing memory requirements of the models makes RBF neural network training efficient and fast. These two proposed algorithms are applied, with success, for identification of a mobile robot position. The simulation results present that the used sigmoid function as a kernel, compared to other kernel functions, which gives an excellent model and a minimum mean square error.     

Kernel ICA: An alternative formulation and its application to face recognition

This paper formulates independent component analysis (ICA) in the kernel-inducing feature space and develops a two-phase kernel ICA algorithm: whitened kernel principal component analysis (KPCA) plus ICA. KPCA spheres data and makes the data structure become as linearly separable as possible by virtue of an implicit nonlinear mapping determined by kernel. ICA seeks the projection directions in the KPCA whitened space, making the distribution of the projected data as non-gaussian as possible. The experiment using a subset of FERET database indicates that the proposed kernel ICA method significantly outperform ICA, PCA and KPCA in terms of the total recognition rate.     

一种基于核主元分析的话务量特征提取方法*

针对话务量的特点,提出了一种基于核主元分析的非线性的特征提取方法,该方法采用KPCA方法提取的非线性特征反映了原始输入输出数据之间的复杂关系,精简了网络输入数据阵的维数。通过仿真结果比较表明,基于KPCA-RBFNN的话务量预测模型比PCA-RBFNN模型具有较好的非线性数据处理能力,反映了该方法的有效性。     

核函数在主成分分析中的应用

主成分分析在对线性数据进行降维时非常有效,核函数能够将线性不可分的数据映射到高维希尔伯特空间中可能可分。将核函数应用到主成分分析中成为核主成分分析。从核函数的性质、核函数的参数调整、核函数的构造等方面对核主成分分析进行应用与实现,并结合核Fisher判别分析,对样例数据进行核主成分分析,结论表明,效果良好,但执行速度较慢,需要后续改进。     

基于改进核主元和支持向量数据描述故障检测

提出基于改进核主元和支持向量数据描述(SVDD)故障检测方法,适合于复杂工业过程具有非线性和非高斯性的情况.首先,通过对核主元(KPCA)特征空间样本进行重构误差,在样本集上自动识别异常值,减少对KPCA算法的影响并增强非线性核映射.然后,利用支持向量数据描述算法处理数据非高斯信号,据此构建统计量对工业过程进行检测.最后,将所提出的改进核主元和支持向量数据描述方法应用于田纳西-伊斯曼(TE,Tennessee Eastman)过程的仿真实验,结果说明提出方法的有效性.     

基于KPCA的HVAC系统传感器故障诊断

传感器状态的好坏很大程度上影响暖通空调(HVAC)系统的运行,对其展开故障诊断十分必要。核主成分分析(KPCA)方法通过集成算子与非线性核函数计算高维特性空间的主元成分,有效捕捉过程变量中的非线性关系,将其用于传感器常见4种故障的诊断,先用Q统计量进行故障监测,再用T2贡献量百分比变化来识别故障。实验结果表明:KPCA方法具有很好的故障监测与诊断能力。     

基于KPCA和CPSO的故障检测方法

提出一种基于核主元分析(KPCA)和混沌粒子优化群(CPSO)算法的非线性故障检测方法。通过核函数完成非线性变换,将变量由非线性的输入空间转换到线性的特征空间来计算主元,构造平方预测误差统计量检测故障是否发生。为避免粒子群算法的早熟现象,利用混沌优化的搜索特性,将CPSO算法应用到KPCA核参数的优化中。变压器故障检测结果表明,与基于PCA、KPCA和 PSO-KPCA的故障检测方法相比,该方法的检测正确率较高。