有向无环图-双支持向量机的多类分类方法

针对多分类支持向量机算法中的低效问题和样本不平衡问题,提出一种有向无环图-双支持向量机DAG-TWSVM(directed acyclic graph and twin support vector machine)的多分类方法。该算法综合了双支持向量机和有向无环图支持向量机的优势,使其不仅能够得到较好的分类精度,同时还能够大大缩减训练时间。在处理较大规模数据集多分类问题时,其时间优势更为突出。采用UCI(University of California Irvine)机器学习数据库和Statlog数据库对该算法进行验证,实验结果表明,有向无环图-双支持向量机多分类方法在训练时间上较其他多分类支持向量机大大缩短,且在样本不平衡时的分类性能要优于其他多分类支持向量机,同时解决了经典支持向量机一对一多分类算法可能存在的不可分区域问题。     

基于马氏距离的孪生多分类支持向量机

孪生支持向量机(TWSVM)的研究是近来机器学习领域的一个热点。TWSVM具有分类精度高、训练速度快等优点,但训练时没有充分利用样本的统计信息。作为TWSVM的改进算法,基于马氏距离的孪生支持向量机(TMSVM)在分类过程中考虑了各类样本的协方差信息,在许多实际问题中有着很好的应用效果。然而TMSVM的训练速度有待提高,并且仅适用于二分类问题。针对这两个问题,将最小二乘思想引入TMSVM,用等式约束取代TMSVM中的不等式约束,将二次规划问题的求解简化为求解两个线性方程组,得到基于马氏距离的最小二乘孪生支持向量机(LSTMSVM),并结合有向无环图策略(DAG)设计出基于马氏距离的最小二乘孪生多分类支持向量机。为了减少DAG结构的误差累积,构造了基于马氏距离的类间可分性度量。人工数据集和UCI数据集上的实验均表明,所提算法不仅有效,而且相对于传统多分类SVM,其分类性能有明显提高。     

多类支持向量机算法综述

传统的支持向量机是基于两类问题提出的,如何将其有效的推广至多类问题仍是一个有待研究的问题。本文中作者致力于对现有的几种较有成效的多类支持向量机做一介绍,并比较其优劣,以期对研究者以后的研究能有所启发。     

交互迭代一对一分类算法

在基于支持向量机的多分类算法中,一对一算法表现出较好的性能.然而此算法却存在不可分区域,落入该区域的样本不能有效被识别,因此影响了一对一算法的性能.为解决这个难题,提出交互迭代一对一分类算法,同时给出算法的有效性分析和计算复杂度证明.为了验证该算法解决不可分区域的能力,我们选用UCI数据集来做对比实验.实验结果显示,本文算法不但可以较成功解决不可分区域问题而且表现出比其它算法更好的性能.     

基于节点选择优化的DAG-SVM多类别分类

有向无环图支持向量机( DAG-SVM)对于N类别分类问题,会构造N ×( N-1)/2个支持向量机分类器(为每2个类构造一个支持向量机),DAG-SVM可能出现由于节点选择不佳而导致整个分类器分类结果较差的情况。为此,提出一种改进的DAG-SVM。通过为每一层建立备选节点集合进行节点选择,选取下层备选节点集合中训练分类精度最高的一个节点组合作为当前层节点的下层节点,从而优化DAG-SVM的拓扑结构。实验结果表明,与已有的DAG-SVM,1-vs-1 SVM,1-vs-a SVM方法相比,该方法的分类精度较高。     

视频监控系统中小运动目标分类算法

给出了视频监控中的一个小目标分类算法．首先，利用最大互信息获得一组可靠、独立且具辨认力的目标特征集．然后，用有向无环图的多类支持向量机进行分类．分类器的训练分为两步，首先使用场景无关的特征量训练得到基准分类器；然后再利用与场景相关和无关的特征量，进一步训练分类器，以便提高分类器的精度．实验结果证明该算法不仅能满足一定的分类精度，而且对新场景具有很好的适应能力．     

基于最优DAGSVM的服务机器人交互手势识别

针对目前服务机器人手势交互方法在输入方式自然性和识别方法可靠性方面的不足,提出采用结合人脸和人手的姿态作为输入方式,实现了一个基于最优有向无环图支持向量机(DAGSVM)的手势识别系统。系统采用分步细化特征检测过程,即先粗检肤色,然后分别利用人眼Gabor特征和人手边缘小波矩特征检测脸和手部,可克服背景中的肤色干扰,并显著提高特征提取的可靠性;综合利用脸手区域不变矩和手的位置信息组成混合特征向量,采用优化拓扑排序策略组织多个两分类支持向量机(SVM),构成最优DAGSVM多分类器,达到比普通DAGSVM更高的多分类准确率。实验验证了该方法的有效性和可靠性,并用于实现一种自然友好的人机交互方式。     

一种改进的有向无环图支持向量机

构造合理的有向无环图是有向无环图支持向量机亟需解决的一个关键问题。本文提出一种改进的有向无环图支持向量机,根据超球支持向量机获得类的最小包围球,根据该最小包围球计算类与类之间的最短距离,根据该最短距离形成最短距离矩阵,根据该最短距离矩阵来构造有向无环图。实验结果表明,该改进算法较传统有向无环图支持向量机分类精度有明显提高。     

结合归一化中心矩与DAGSVM的机器人交互手势识别

将归一化中心矩和DAGSVM相结合应用于机器人人机交互中的手势识别。归一化中心矩作为手势特征具有平移和比例不变性,同时对方向变化比较敏感,这正是机器人识别不同指向的手势时特征所需具有的特性,然后,将这个手势特征向量输入到DAGSVM分类器进行分类识别。实验结果表明,该方法能够有效地识别手势,且用于控制机器人运动效果良好。     

基于最优DAGSVM的服务机器人交互手势识别父且手亍劣识别

针对目前服务机器人手势交互方法在输入方式自然性和识别方法可靠性方面的不足,提出采用结合人脸和人手的姿态作为输入方式,实现了一个基于最优有向无环图支持向量机（DAGSVM）的手势识别系统。系统采用分步细化特征检测过程,即先粗检肤色,然后分别利用人眼Gabor特征和人手边缘小波矩特征检测脸和手部,可克服背景中的肤色干扰,并显著提高特征提取的可靠性;综合利用脸手区域不变矩和手的位置信息组成混合特征向量,采用优化拓扑排序策略组织多个两分类支持向量机（SVM）,构成最优DAGSVM多分类器,达到比普通DAGSVM更高的多分类准确率。实验验证了该方法的有效性和可靠性,并用于实现一种自然友好的人机交互方式。     

基于信息熵的最少测试费用故障诊断策略

针对大系统顺序故障诊断中的测试排序问题,介绍一种基于信息熵的最少测试费用诊断树产生算法,这种算法比传统算法计算量少,又可有效利用测试结果、测试费用和故障概率等信息,该算法适合于在线和离线诊断维修过程。给出了算法的设计过程,并以实例说明算法的有效性。     

一种高准确度多分类结构选择方法

支持向量机SVM是目前最流行的二分类算法之一。现实生活中数据集大多要求能够进行多分类,而有向无环图DAG方法是将SVM应用扩展到多分类的用得最多的方式之一,它调用分类器次数较少,执行速度快,但是由于有错误向下累积和分类偏向性等情况存在,会影响DAG分类结果的准确度。在使用DAG-SVM的时候,对于k种类别有k!种不同的备选结构,根据数据集特性选择合适的DAG结构能够有效提高结果的准确度。提出使用估计准确度的方法,从备选结构中用穷举法选择出最高准确度估计值的DAG结构,以此作为测试集的结构进行分类。实验结果表明,相较其它方法,测试数据集采用该方法选择的DAG结构后的分类准确性得到显著提高,在对类别数量不太多的数据集进行多类分类时有较好的效果。     

基于信息熵的RVM-AdaBoost组合分类器

针对AdaBoost算法不能有效提高RVM分类性能的问题,提出一种基于信息熵的RVM与AdaBoost组合分类器。依据RVM输出的后验概率来定义样本的信息熵,信息熵越高的样本越容易错分。提出使用自适应信息熵阈值对数据进行筛选,筛选出的数据使用基于AdaBoost算法的集成分类器进行分类,样本的分类结果由RVM与集成分类器组合给出。把未筛选出且分类错误的极少样本作为噪声对待,增强了组合分类器的稳定性,避免了随着AdaBoost算法迭代次数增加集成分类器出现退化的现象。使用UCI数据集从分类正确率、分类效率和稳定性三方面对提出的组合分类器进行验证,实验结果表明了此分类器的有效性。     

一种基于几何分布的新支持向量机多分类方法

二叉树支持向量机是多分类问题的一种有效方法,然而分类的效果与二叉树的结构密切相关。获得更好的分类效果和更高的效率,要使得二叉树高度尽量小而两个子类尽量易分。距离通常用来衡量两个类的分离程度,但不能反映类的分布情况。考虑到多分类中类的分布,文中定义新的分离度和相似度来衡量两个类的分离度,并且提出了一中新的基于几何分布二叉树支持向量机多分类算法,该方法使得二叉树高度尽量小而两个子类尽量易分。实验表明该方法具有较高的分类准确率和效率。     

基于信息增益的Web人物关系抽取*

针对人物关系抽取中的效率与准确性问题进行了研究,提出一种基于信息增益的轻量级Web人物社会关系提取方法。它通过计算初始关系元组的关系描述词的信息增益值进而确定元组上下文位置并据此创建相应的关系抽取模板,最后利用模板实现了Web的人物关系自动提取。针对中文语义上存在相似性的问题,引入了基于《同义词词林》与基于《知网》的人物关系描述词扩展方法。对于某一句子内包含多个人物实体且存在多种人物关系的情况,提出了一种基于模板上下文信息增益值模糊匹配的方法来抽取符合特定人物关系的人物实体。实验结果证明：该方法的平均准确率为89.92%,平均召回率为84.64%。基于信息增益的Web社交网络人物关系抽取方法能有效地完成实时语料中的关系抽取任务。     

Ectopic beats in approximate entropy and sample entropy-based HRV assessment

Approximate entropy (ApEn) and sample entropy (SampEn) are the promising techniques for extracting complex characteristics of cardiovascular variability. Ectopic beats, originating from other than the normal site, are the artefacts contributing a serious limitation to heart rate variability (HRV) analysis. The approaches like deletion and interpolation are currently in use to eliminate the bias produced by ectopic beats. In this study, normal R–R interval time series of 10 healthy and 10 acute myocardial infarction (AMI) patients were analysed by inserting artificial ectopic beats. Then the effects of ectopic beats editing by deletion, degree-zero and degree-one interpolation on ApEn and SampEn have been assessed. Ectopic beats addition (even 2%) led to reduced complexity, resulting in decreased ApEn and SampEn of both healthy and AMI patient data. This reduction has been found to be dependent on level of ectopic beats. Editing of ectopic beats by interpolation degree-one method is found to be superior to other methods.     

基于极大熵的知识迁移模糊聚类算法

针对传统的聚类算法在样本数据量不足或样本受到污染情况下的聚类性能下降问题,在经典的极大熵聚类算法（MEKTFCA）的基础上,提出了一种新的融合历史聚类中心点和历史隶属度这两种知识的基于极大熵的知识迁移模糊聚类算法。该算法通过学习由源域总结出来的有益历史聚类中心和历史隶属度知识来指导数据量不足或受污染的目标域数据的聚类任务,从而提高了聚类性能。通过一组模拟数据集和两组真实数据集构造的迁移场景上的实验,证明了该算法的有效性。     

一种基于熵的连续属性离散化算法

连续属性离散化的关键在于合理确定离散化划分点的个数和位置。为了提高无监督离散化的效率,给出一种基于熵的连续属性离散化方法。该方法利用连续属性的信息量 (熵 )的特性,通过对连续属性变量的自身划分,最小化信息熵的减少和区间数,并寻求熵的损失与适度的区间数之间的最佳平衡,以便得到优化的离散值。实验表明该算法是行之有效的。     

基于SVM的文本多类分类方法研究

支持向量机是在模式分类中表现优秀的一种分类方法。对现有的基于SVM的文本多类分类方法进行了介绍和比较．研究了分类器特征空间模式问题，在这些工作基础上，提出了并行SVM的模型。     

一种基于新定义信息熵的目标检测算法

将对图像处理有效的e指数定义的信息熵用于目标检测问题中，该信息熵克服了log对数信息熵的不足．仿真结果表明，两种不同信息熵的定义对目标的不确定性描述具有近乎相同的效果，但是指数定义与对数定义下的信息增量相比，避免了信息中无定义值和零值的产生．