小波核极限学习机分类器

分析了核极限学习机的原理,提出了一种小波核极限学习机,将小波函数做为极限学习机的核函数,证明了它是一种允许的极限学习机核。通过在双螺旋数据上的测试表明,小波核极限学习机在无训练数据分布的空间也具有分类能力,而高斯核极限学习机在没有训练数据分布的空间不具备分类能力。通过在不同的UCI数据集中的测试得出小波核极限学习机具有较高的分类性能。最后将小波核极限学习机应用到了人脸识别问题上,同样取得了优良的性能,说明小波核极限学习机具有一定的应用价值。     

小波核极限学习机在人脸识别中的应用

文章提出了一种基于小波核极限学习机(Wavelet Kernel Extreme Learning Machine,WK-ELM)的人脸识别算法。首先,使用2D盖博小波变换对人脸图片进行初步的人脸特征提取。为了从所有提取的特征中选择出与人脸识别相关的、必要的特征,使用主成分分析法(Principal Component Analysis,PCA)对经过初步处理后的图像再进行进一步处理,有效地降低了特征维数。然后使用小波核极限学习机对提取到的图像进行分类。实验证明,小波核极限学习机不仅识别性能高,而且训练速度也优于其他算法。     

TGBA优化核极限学习机的光伏阵列故障诊断

针对核极限学习机(Kernel Extreme Learning Machine,KELM)用于光伏阵列故障诊断时准确率不高的不足,提出了 一种基于 TGBA(Tent Mapping and Gaussian Perturbation Strategy Optimize Bat Algorithm)算法优化核极限学习...     

改进鲸鱼算法优化核极限学习机在水质光谱分析中的应用

为提高水质光谱分析模型的学习速度与预测精度,采用核极限学习机对水质光谱进行建模,并提出一种具有动态惯性权重的改进鲸鱼优化算法对模型进行参数优化。由于极限学习机的输入权值矩阵和偏置是随机生成的,故引入核方法以减小其输出权值矩阵的波动;将鲸鱼优化算法中的惯性权重在非线性递减的基础上引入随机因子,通过动态调整惯性权重以平衡算法的全局搜索能力与局部开发能力。与传统优化模型进行了对比实验,实验结果表明:基于该方法所建模型具有更高的预测精度,而在相同的学习迭代次数下,核极限学习机的运行时间相对于传统算法约下降50%,且改进鲸鱼优化算法能够以更快的收敛速度使模型达到全局最优。     

融合极限学习机

为提高极限学习机(Extreme Learning Machine, ELM)的分类性能,同时保留其训练速度快的优点,该文提出融合ELM的方法,详细分析了特征级融合及决策级融合两种实现方式。为实现决策级融合ELM,提出概率极限学习机(Probabilistic ELM, PELM),将传统ELM的数值型输出转化为概率型输出,使得不同特征的判决结果统一在固定范围。在此基础上,采用自适应权值的方式实现决策级融合,该方法充分考虑了分类器针对不同特征的判决准确率差异,无需先验知识及主观定义。实验证明,该文提出的融合ELM相较于传统的单一特征支持向量机(SVM)方法及ELM方法,具有更优的分类性能;在训练时间方面,优于SVM方法。     

二元裂解算子交替方向乘子法的核极限学习机

凸优化形式的核极限学习机(KELM)具有较高的分类准确率,但用迭代法训练凸优化核极限学习机要较传统核极限学习机的解线性方程法花费更长时间.针对此问题,该文提出一种2元裂解算子交替方向乘子法(BSADMM-KELM)来提高凸优化核极限学习机的训练速度.首先引入2元裂解算子,将求核极限学习机最优解的过程分裂为两个中间算子的优化过程,再通过中间算子的迭代计算而得到原问题的最优解.在22个UCI数据集上所提算法的训练时间较有效集法平均快29倍,较内点法平均快4倍,分类精度亦优于传统的核极限学习机;在大规模数据集上该文算法的训练时间优于传统核极限学习机.     

二元裂解算子交替方向乘子法的核极限学习机

凸优化形式的核极限学习机(KELM)具有较高的分类准确率,但用迭代法训练凸优化核极限学习机要较传统核极限学习机的解线性方程法花费更长时间.针对此问题,该文提出一种2元裂解算子交替方向乘子法(BSADMM-KELM)来提高凸优化核极限学习机的训练速度.首先引入2元裂解算子,将求核极限学习机最优解的过程分裂为两个中间算子的...     

一种多尺度小波核极限学习机的图像检索仿真

阐述了核极限学习机原理。在此基础上提出了一种多尺度小波核极限学习机,将多尺度小波核作为极限学习机的核函数,测试表明是其一种可实现的极限学习机核。同时在无训练数据分布的空间也具备分类能力,同等条件下高斯核极限学习机却不具备分类能力。在图像检索中应用多尺度小波核极限学习机,实验表明,相比支持向量机学习机分类算法,该分类算法可提高检索精度以及速度,具有优良的性能和一定的应用价值。     

改进极限学习机的电子音乐分类模型

针对传统模型无法准确实现电子音乐分类和识别的难题,提出改进极限学习机的电子音乐分类模型。首先对电子音乐数据进行采集,并提取其倒谱系数特征,并采用核主成分分析对特征进行筛选;然后采用遗传算法对极限学习机的参数进行选择,并用于构建电子音乐的分类器;最后采用多种类型的电子音乐进行仿真实验,改进极限学习机的电子音乐平均分类率达到了95%以上,电子音乐的错分率要远远低于当前其他电子音乐分类模型。实验结果验证了该电子音乐分类模型的可行性以及优越性。     

基于双错测度的极限学习机选择性集成方法

极限学习机(ELM)具有学习速度快、易实现和泛化能力强等优点,但单个ELM的分类性能不稳定。集成学习可以有效地提高单个ELM的分类性能,但随着数据规模和基ELM数目的增加,计算复杂度会大幅度增加,消耗大量的计算资源。针对上述问题,该文提出一种基于双错测度的极限学习机选择性集成方法(DFSEE),同时从理论和实验的角度进行了详细分析。首先,运用bootstrap 方法重复抽取训练集,获得多个训练子集,在ELM上进行独立训练,得到多个具有较大差异性的基ELM,构成基ELM池;其次,计算出每个基ELM的双错测度,将基ELM按照双错测度的大小进行升序排序;最后,采用多数投票算法,根据顺序将基ELM逐个累加集成,直至集成精度最优,即获得基ELM最优子集成,并分析了其理论基础。在10个UCI数据集上的实验结果表明,较其他方法使用了更小规模的基ELM,获得了更高的集成精度,同时表明了其有效性和显著性。     

基于M-estimator与可变遗忘因子的在线贯序超限学习机

该文针对时变离群值环境下的在线学习问题,提出一种基于M-estimator与可变遗忘因子的在线贯序超限学习机算法(VFF-M-OSELM)。VFF-M-OSELM以在线贯序超限学习机模型为基础,通过引入一种更加鲁棒的M-estimator代价函数来替代传统的最小二乘代价函数,以提高模型对于离群值的在线处理能力和鲁棒性。同时VFF-M-OSELM通过融合使用一种新的可变遗忘因子方法进一步增强了其在时变环境下的动态跟踪能力和自适应性。仿真实例验证了所提算法的有效性。     

一种基于正则优化的批次继承极限学习机算法

极限学习机(ELM)作为一种新型神经网络,具有极快的训练速度和良好的泛化性能。针对极限学习机在处理高维数据时计算复杂度高,内存需求巨大的问题,该文提出一种批次继承极限学习机(B-ELM)算法。首先将数据集均分为不同批次,采用自动编码器网络对各批次数据进行降维处理;其次引入继承因子,建立相邻批次之间的关系,同时结合正则化框架构建拉格朗日优化函数,实现批次极限学习机数学建模;最后利用MNIST, NORB和CIFAR-10数据集进行测试实验。实验结果表明,所提算法具有较高的分类精度,并且有效降低了计算复杂度和内存消耗。

     

用于表示级特征融合与分类的相关熵融合极限学习机

在极限学习机(ELM)网络结构和训练模式的基础上,该文提出了相关熵融合极限学习机(CF-ELM)。针对多数分类方法中表示级特征融合不充分的问题,该文将核映射与系数加权相结合,提出了能够有效融合表示级特征的融合极限学习机(F-ELM)。在此基础上,用相关熵损失函数替代均方误差(MSE)损失函数,推导出用于训练F-ELM各层权重矩阵的相关熵循环更新公式,以增强其分类能力与鲁棒性。为了检验方法的可行性,该文分别在数据库Caltech 101, MSRC和15 Scene上进行实验。实验结果证明,该文所提CF-ELM能够在原有基础上进一步融合表示级特征,从而提高分类正确率。

     

基于熵理论和核密度估计的最大间隔学习机

该文针对支持向量机(SVM)及其变种的不足,提出一种基于熵理论和核密度估计的最大间隔学习机MLMEK。MLMEK引入了核密度估计和熵的概念,用核密度估计表征样本数据的分布特征,用熵表征分类的不确定性。MLMEK真实反映样本数据的分布特征;同时解决两类分类问题和单类分类问题;比传统SVM具有更好的分类性能。UCI数据集上的实验验证了MLMEK的有效性。     

基于小波核主成分分析的相关向量机高光谱图像分类

相关向量机(RVM)高光谱图像分类是一种较新的高光谱图像分类方法,然而算法本身存在对于高维大样本数据训练时间过长、分类精度不高的问题。针对这些问题,该文提出一种基于新型核主成分分析的RVM分类方法。该方法首先将核函数引入到主成分分析中,然后应用小波核函数代替传统核函数,利用小波核函数的多分辨率分析特点,进一步提高核主成分分析(KPCA)非线性映射能力,最终将新型核主成分分析算法与相关向量机相结合,对高光谱图像进行分类。仿真实验结果表明,将所提出的方法应用于AVIRIS美国印第安纳州实验田高光谱数据预处理后,类内类间距离比降低20%,方差整体增幅较大,最终将处理后的数据应用于相关向量机的高光谱图像分类中,分类精度提升3%~5%。     

基于核Fisher判决分析的脸谱识别新方法

本文提出一种新的基于核Fisher判决分析(简称KFDA)的脸谱识别方法。即首先应用KFDA提取脸谱特征，然后，进行脸谱识别。利用标准的AT＆T脸谱数据库对KFDA特征提取方法和PCA、FDA以及ICA特征提取方法进行比较，最后使用线性支持向量机(简称SVM)进行分类和识别，实验结果显示基于KFDA特征提取脸谱识别方法的识别率明显优于其它三种脸谱识别方法的识别率。     

基于模糊核聚类和支持向量机的鲁棒协同推荐算法

该文针对现有推荐算法在面对托攻击时鲁棒性不高的问题,提出一种基于模糊核聚类和支持向量机的鲁棒推荐算法。首先,根据攻击概貌间高度相关的特性,利用模糊核聚类方法在高维特征空间对用户概貌进行聚类,实现攻击概貌的第1阶段检测。然后,利用支持向量机分类器对含有攻击概貌的聚类进行分类,实现攻击概貌的第2阶段检测。最后,基于攻击概貌检测结果,通过构造指示函数排除攻击概貌在推荐过程中产生的影响,并引入矩阵分解技术设计相应的鲁棒协同推荐算法。实验结果表明,与现有的基于矩阵分解模型的推荐算法相比,所提算法不但具有很好的鲁棒性,而且准确性也有提高。