多李群核覆盖学习算法在图像分类上的应用

李群具有代数结构也具有流形几何结构。将数据映射到多李群空间,并根据李群样本点在李群流形上的轨道关系,对那些同伦的轨道加以覆盖,从而使得覆盖域呈现出类别信息。利用核函数的思想,进一步使得类别不同的覆盖域更具有可分性,同时覆盖边界更具有光滑性,因此提出了多李群核覆盖学习算法。在MNIST手写体数字图像上进行了多组实验验证,并对实验结果进行了分析,结果表明与多连通李群覆盖学习算法相比,多李群核覆盖学习算法具有较好的分类效果。     

多李群覆盖学习优化算法

目前,已针对李群多连通空间上的道路交叉问题提出了多李群核覆盖学习算法,降低了道路交叉情况,使得分类正确率有了显著提高。但是,核学习算法的性能依赖于核函数的选择。考虑利用李群同态映射将原始李群样本映射到目标李群空间中,使在目标李群空间中不同单连通空间上的道路的关联度最小化,同一单连通空间上的道路的关联度最大化,从而减少道路交叉问题。     

覆盖学习的道路优化算法

在之前的研究中,已经针对李群多连通空间上具有不同类别特征的研究对象,提出了多连通覆盖学习算法,成功地将覆盖学习应用到多连通李群空间.主要针对多连通覆盖学习算法中连通道路的交叉问题,考虑在李群空间上寻找一条测地曲线,使得映射后不同单连通空间上的道路的关联度最小化、同一单连通空间上的道路的关联度最大化,从而实现连通空间上类别判别性能的优化.首先回顾李群连通性质的相关知识;然后,简单介绍了多连通覆盖学习算法,并针对问题给出新的优化算法;最终,通过与经典覆盖学习算法、李群均值算法以及原始算法的比较实验,证明了该优化算法具有更好的分类性能.     

李群均值学习算法

首先分析李群均值的计算方法,在此基础上,进一步提出李群均值学习算法,其思想是在李群流形上寻找一个由总体样本内均值的李代数元素决定的单参数子群,这个单参数子群是原李群上的一条测地线,定义样本到测地线投影的概念,同时将李群样本向该测地线投影,并尽可能使投影后各类别间的散度与类内散度比值最大化,从而实现非线性李群空间的类别判别。实验表明,基于李群均值的学习算法和KNN、FLDA算法相比,具有较好的分类效果。     

李群机器学习十年研究进展

该文主要从3个方面介绍李群机器学习近年来的研究进展。首先,该文将解释为什么采用李群结构进行数据或特征描述,以此阐明李群机器学习与传统机器学习方法的区别,并且通过李群在人工智能领域的广泛应用来说明李群表示的普遍性。其次,该文概述了李群机器学习自提出以来的主要学习算法,着重强调最近的一些研究进展。最后,针对目前的研究现状,该文给出李群机器学习未来的一些研究方向。     

李群深层结构学习算法研究

针对数据的复杂性和语义深层关系,提出一种李群深层结构学习算法。主要包括:基于流形的深层结构分析方法、基于参数的李群半监督学习算法和基于线性的李群半监督学习算法,以及这些算法相融合的李群深层结构学习算法。该算法对连续语义间的深层关系有着重要的作用。实验结果显示,深度越深,该算法的效果越好。     

李群机器学习(LML)的学习子空间轨道生成格算法

给出了李群机器学习（LML）的学习子空间轨道生成格及相关的基本概念,包括：李群机器学习中的样例数据集,轨道生成格理论及其算法,同时也给出了实例验证分析,并与决策树学习算法C4.5作比较,在分类的正确性方面优于C4.5算法,由此进一步证明了该理论的可行性以及算法的有效性。     

基于稀疏字典的李群机器学习算法

李群机器学习理论被广泛应用于图像集分类中的数据表示和处理,并获得较优结果.由此,文中提出基于稀疏字典的李群机器学习算法.首先使用协方差矩阵对图像集建模,分析协方差矩阵构成的李群结构,应用对数映射将数据映射到线性空间中,得到数据的距离矩阵.再使用路标多维缩放对数据进行降维处理,降低运算成本.最后,使用带费舍尔判别字典学习进行分类.在YTC数据集上的实验证明文中算法具有良好的鲁棒性和准确率.     

多示例学习的示例层次覆盖算法

在多示例学习（Multi-instance learning,MIL）中,核心示例对于包类别的预测具有重要作用。若两个示例周围分布不同数量的同类示例,则这两个示例的代表程度不同。为了从包中选出最具有代表性的示例组成核心示例集,提高分类精度,本文提出多示例学习的示例层次覆盖算法（Multi-instance learning with instance_level covering algorithm,MILICA）。该算法首先利用最大Hausdorff距离和覆盖算法构建初始核心示例集,然后通过覆盖算法和反验证获得最终的核心示例集和各覆盖包含的示例数,最后使用相似函数将包转为单示例。在两类数据集和多类图像数据集上的实验证明,MILICA算法具有较好的分类性能。     

基于集成学习的覆盖算法

介绍了传统的领域覆盖算法和交叉算法,并分析它们各自存在的缺点以及造成这些缺点的原因.针对传统的领域覆盖算法存在的泛化能力不足以及交叉覆盖算法存在的正确率不高的问题,提出了一种新的改进算法--基于集成学习的覆盖算法(CABE).CABE是利用集成学习来整合交叉覆盖算法和领域覆盖算法,是通过对领域覆盖算法中的拒识样本的处理来提升算法的精度.使用UCI数据集进行实验,实验结果表明,改进的算法提高了算法分类的精度.     

机器学习中的核覆盖算法

基于统计学习理论的支持向量机（SVM）方法在样本空间或特征空间构造最优分类超平面解决了分类器的构造问题,但其本质是二分类的,且核函数中的参数难以确定,计算复杂性高．构造性学习算法根据训练样本构造性地设计分类网络,运行效率高,便于处理多分类问题,但存在所得的分界面零乱、测试计算量大的缺点．该文将SVM中的核函数法与构造性学习的覆盖算法相融合,给出一种新的核覆盖算法．新算法克服了以上两种模型的缺点,具有运算速度快、精度高、鲁棒性强的优点．其次．文中给出风险误差上界与覆盖个数的关系．最后给出实验模     

覆盖算法的概率模型

要从本质上提高覆盖算法的精度,必须在算法中引入全局的优化计算.为此,先将覆盖算法扩展成核覆盖算法(以高斯函数为核函数),再利用高斯函数的概率意义(高斯分布),为核覆盖算法建立一个有限混合概率模型,在此基础上,利用"最大似然原理"引入全局优化计算,并利用EM(expectation maximization)方法进行求解,完成对覆盖算法的全局优化计算,从而扩大覆盖方法的使用范围并提高算法的精度,且将它从确定的模型扩展成概率的模型,后者更具抗噪声干扰的能力.最后给出模拟实验,实验比较结果表明,经优化后的概率模型确实提高了算法的精度.     

佳点集遗传覆盖算法

针对覆盖算法中识别精度与泛化能力之间的一对矛盾,结合佳点集遗传算法思想,提出佳点集遗传覆盖算法。通过在覆盖种群中引入竞争,淘汰不好的覆盖,保留较优的覆盖,减少了覆盖个数和拒识样本个数,从而提高了整体覆盖种群的分类能力。与Lib-SVM、领域覆盖、交叉覆盖的对比实验证明了该算法具有良好的分类识别精度与泛化能力。