多连通李群覆盖学习算法在图像分类上的应用

李群机器学习作为一种新的学习范式已被学术界广泛关注。根据李群的连通性质,将具有不同类别特征的研究对象映射到多连通李群空间,并从各个单连通李群空间上连线的同伦等价出发,运用覆盖的思想寻找对应不同类别的最优道路等价表示,从而用多连通李群的多值表示来呈现图像的类别信息,因此提出了多连通李群覆盖学习算法。在MPEG7_CE-Shape01_Part_B图像库的图像和MNIST手写体数字图像上进行了实验验证,结果表明与两种基于李群均值的学习算法相比,多连通李群覆盖学习算法具有较好的分类效果。     

多李群覆盖学习优化算法

目前,已针对李群多连通空间上的道路交叉问题提出了多李群核覆盖学习算法,降低了道路交叉情况,使得分类正确率有了显著提高。但是,核学习算法的性能依赖于核函数的选择。考虑利用李群同态映射将原始李群样本映射到目标李群空间中,使在目标李群空间中不同单连通空间上的道路的关联度最小化,同一单连通空间上的道路的关联度最大化,从而减少道路交叉问题。     

李群深层结构学习算法研究

针对数据的复杂性和语义深层关系,提出一种李群深层结构学习算法。主要包括:基于流形的深层结构分析方法、基于参数的李群半监督学习算法和基于线性的李群半监督学习算法,以及这些算法相融合的李群深层结构学习算法。该算法对连续语义间的深层关系有着重要的作用。实验结果显示,深度越深,该算法的效果越好。     

李群核学习算法研究

分析了李群流形空间的几何结构、核函数和KFDA(kernel Fisher linear discriminant analysis)的原理,推导了矩阵李群内积空间的度量形式,进一步推导出5个李群核函数,并以此设计实现了KLieDA(kernel Lie group linear discriminant analysis)算法。李群核函数是适应性更广的核函数形式,由于欧氏空间的几何结构是李群的子集,李群函数不仅适用于矩阵李群的样本集,同时也适用于常规的向量形式的样本集。实验表明,基于李群函数和李群均值理论的KLieDA算法是一种快速高效的李群样本分类器。实验部分除了KLieDA的分类,还对基于李群核的SVM(support vector machine)算法进行手写体分类,结果表明,手写体图像的区域协方差李群特征具有较好的线性分布特性。     

李群均值学习算法

首先分析李群均值的计算方法,在此基础上,进一步提出李群均值学习算法,其思想是在李群流形上寻找一个由总体样本内均值的李代数元素决定的单参数子群,这个单参数子群是原李群上的一条测地线,定义样本到测地线投影的概念,同时将李群样本向该测地线投影,并尽可能使投影后各类别间的散度与类内散度比值最大化,从而实现非线性李群空间的类别判别。实验表明,基于李群均值的学习算法和KNN、FLDA算法相比,具有较好的分类效果。     

基于核覆盖算法的煤价预测

核覆盖算法是在一般覆盖算法的基础上引入了核函数而提出的。新的算法不仅克服了传统的预测方法中存在的局限性，而且融合了SVM中的核函数法与构造性学习的覆盖算法中的优点，具有计算量小、精度高等优点。将核覆盖算法用于煤炭价格的预测中，取得了比其他方法更好的结果，也充分体现了核覆盖算法的有效性。     

基于核覆盖算法的煤价预测

核覆盖算法是在一般覆盖算法的基础上引入了核函数而提出的。新的算法不仅克服了传统的预测方法中存在的局限性,而且融合了SVM中的核函数法与构造性学习的覆盖算法中的优点,具有计算量小、精度高等优点。将核覆盖算法用于煤炭价格的预测中,取得了比其他方法更好的结果,也充分体现了核覆盖算法的有效性。     

基于交叉覆盖算法的改进算法——核平移覆盖算法

文中对前向神经网络交叉覆盖算法进行了分析,并在此基础上引入统计学习理论中的核函数,提出了两者结合的方法———核平移覆盖算法(简称KMCA)。KMCA通过Mercer核,将输入空间的样本映射到高维特征空间,然后先覆盖、后平移,以使覆盖领域局部最优,实现在核空间中分类识别。实验的结果证明了KMCA的可行性和有效性。     

基于交叉覆盖算法的改进算法--核平移覆盖算法

文中对前向神经网络交叉覆盖算法进行了分析,并在此基础上引入统计学习理论中的核函数,提出了两者结合的方法--核平移覆盖算法(简称KMCA).KMCA通过Mercer核,将输入空间的样本映射到高维特征空间,然后先覆盖、后平移,以使覆盖领域局部最优,实现在核空间中分类识别.实验的结果证明了KMCA的可行性和有效性.     

覆盖学习的道路优化算法

在之前的研究中,已经针对李群多连通空间上具有不同类别特征的研究对象,提出了多连通覆盖学习算法,成功地将覆盖学习应用到多连通李群空间.主要针对多连通覆盖学习算法中连通道路的交叉问题,考虑在李群空间上寻找一条测地曲线,使得映射后不同单连通空间上的道路的关联度最小化、同一单连通空间上的道路的关联度最大化,从而实现连通空间上类别判别性能的优化.首先回顾李群连通性质的相关知识;然后,简单介绍了多连通覆盖学习算法,并针对问题给出新的优化算法;最终,通过与经典覆盖学习算法、李群均值算法以及原始算法的比较实验,证明了该优化算法具有更好的分类性能.     

机器学习中的核覆盖算法

基于统计学习理论的支持向量机（SVM）方法在样本空间或特征空间构造最优分类超平面解决了分类器的构造问题,但其本质是二分类的,且核函数中的参数难以确定,计算复杂性高．构造性学习算法根据训练样本构造性地设计分类网络,运行效率高,便于处理多分类问题,但存在所得的分界面零乱、测试计算量大的缺点．该文将SVM中的核函数法与构造性学习的覆盖算法相融合,给出一种新的核覆盖算法．新算法克服了以上两种模型的缺点,具有运算速度快、精度高、鲁棒性强的优点．其次．文中给出风险误差上界与覆盖个数的关系．最后给出实验模     

Semi-supervised Learning Algorithm Based on Linear Lie Group for Imbalanced Multi-class Classification

Neural Processing Letters - In practical application, the data are imbalanced, it is difficult to find the balanced, rather skewed data is the common occurrence. This poses a severe challenge to...     

基于核字典学习的图像分类

航拍图像往往具有场景复杂、数据维度大的特点,对于该类图像的自动分类一直是研究的热点。针对航拍原始数据特征维度过高和数据线性不可分的问题,在字典学习和稀疏表示的基础上提出了一种结合核字典学习和线性鉴别分析的目标识别方法。首先学习核字典并通过核字典获取目标样本的稀疏表示,挖掘数据的内部结构;其次采用线性鉴别分析,加强稀疏表示的可分性;最后利用支持向量机对目标进行分类。实验结果表明,与传统基于子空间特征提取的算法和基于字典学习的算法相比,基于核字典学习与鉴别分析的算法分类性能优越。     

用于文本分类的多核SVM算法研究

根据文本分类通常包含多异类数据源的特点，提出了多核SVM学习算法。该算法将分类核矩阵的二次组合重新表述成半无限规划，并说明其可以通过重复利用SVM来实现有效求解。实验结果表明，提出的算法可以用于数百个核的结合或者是数十万个样本的结合，对于多异类数据源的文本分类具有较高的查全率和查准率。     

构造性核覆盖算法在图像识别中的应用

构造性神经网络的主要特点是：在对给定的具体数据的处理过程中,能同时给出网络的结构和参数;支持向量机就是先通过引入核函数的非线性变换,然后在这个核空间中求取最优线性分类面,其所求得的分类函数,形式上类似于一个神经网络,而构造性核覆盖算法(简称为CKCA)则是一种将神经网络中的构造性学习方法(如覆盖算法)与支持向量机(SVM)中的核函数法相结合的方法。CKCA方法具有运算量小、构造性强、直观等特点,适于处理大规模分类问题和图像识别问题。为验证CKCA算法的应用效果,利用图像质量不高的车牌字符进行了识别实验,并取得了较好的结果。