基于子空间半监督学习线性判别方法的目标跟踪技术研究

文中提出一种基于半监督学习的线性判别方法用于目标跟踪。首先,根据少量的目标图像和背景图像样本,利用增量线性判别分析在子空间中找到最大化标记样本分类间隔的分类面;然后在当前帧采样,获得大量未标记的图像样本并投影到子空间中,通过半监督学习修正分类面,在这些候选目标中找到离目标最近、离背景最远的作为目标在当前帧的状态估计;最后,在分类结果中挑选置信度高的目标图像和背景图像样本加入到训练集中,删除训练集中置信度低的目标图像和背景图像样本,并更新投影子空间的基。实验结果表明,所提方法可以很好地适应目标的各种变化,并获得比基于监督学习方法更好的效果。     

基于一致性预测器的卷烟牌号的鉴别研究

目前对于卷烟牌号的鉴别多应用一些传统分类算法,这些传统算法用于归纳一个通用规则的训练样本数据较少,造成分类模型的准确度较低,且预测结果没有置信度衡量,在高风险领域的应用不足。针对传统分类算法的局限性,提出了基于转导推理的一致性预测算法。通过探索待测数据和样本序列之间的内在联系,运用Kolmogorov算法的随机性理论建立一种置信度机制,并应用随机性检测函数对置信度进行估算,这样可以很好地对烟叶和成品卷烟进行定性判别和分类。     

最小化类内距离和分类算法

支持向量机分类算法引入惩罚因子来调节过拟合和线性不可分时无解的问题,优点是可以通过调节参数取得最优解,但带来的问题是允许一部分样本错分。错分的样本在分类间隔之间失去了约束,导致两类交界处样本杂乱分布,并且增加了训练的负担。为了解决上述问题,该文根据大间隔分类思想,基于类内紧密类间松散的原则,提出一种新的分类算法,称之为最小化类内距离和(Intraclass-Distance-Sum-Minimization, IDSM)分类算法。该算法根据最小化类内距离和准则构造训练模型,通过解析法求解得到最佳的映射法则,进而利用该最佳映射法则对样本进行投影变换以达到类内间隔小类间间隔大的效果。相应地,为解决高维样本分类问题,进一步提出了该文算法的核化版本。在大量UCI数据集和Yale大学人脸数据库上的实验结果表明了该文算法的优越性。     

一种基于超盒表示的规则提取方法

提出一种从训练样本提取基于超盒表示的模糊规则的方法,用于模式分类.这种方法把模式空间划分成模糊超盒,作为模糊规则的前件,规则的后件是相应的类别名称,同时给出每一条模糊规则的置信度.模糊分类规则从训练样本通过学习算法提取.规则提取方法可以分为,对于单个训练模式进行规则前件和后件的局部在线学习,和对于全部训练模式进行循环学习.实验显示规则提取的过程,说明通过这种方法能够获得有效的模式分类规则.     

基于增量贝叶斯的双偏振气象雷达降水粒子分类方法

面对降水粒子分类过程中可能存在的样本数不足,样本质量不高的问题,提出一种基于增量贝叶斯的双偏振气象雷达降水粒子分类方法。该方法首先处理有标签的训练数据集,获取属性节点和类节点之间的条件概率表构建朴素贝叶斯分类器;接着使用朴素贝叶斯分类器分类无标签数据,判断类置信度值后将符合条件的数据追加到训练数据集中,最后修正朴素贝叶斯分类器完成增量学习,得到增量贝叶斯分类器实现降水粒子分类。增量贝叶斯分类器不仅能够增加有效的数据样本,还能够及时更新分类器从而提高其泛化性和适应性,分类结果的准确性也得到了一定的改善。     

一种增强差异性的半监督协同分类算法

半监督学习中的Tri-Training算法打破了以往算法对充分冗余视图的限制,并通过利用三个分类器处理标记置信度和样本预测问题提高了标记效率.为进一步增强协同训练过程中分类器之间的差异性以提高性能,本文在其理论基础上提出了一种增强差异性的半监督协同分类算法.该算法利用三个不同的分类器进行学习;考虑到分类模型在更新过程中,可能会因随机抽样导致性能恶化,该算法利用基于标记类别的分层抽样法来对已标记样本集进行抽样,并通过基于分类正确率的加权投票法实现了分类器的集成,提高了预测准确率.本文通过实验对所提出算法与Tri-Training算法做了性能比较,实验结果表明本文所提出的方法在分类问题上具有较好的性能,验证了该算法的有效性和可行性.     

一种新的用于分类挖掘的动态示例学习算法

给出一种能够接受特征及变化的动态示例学习分类方法。该方法改进了传统的ID基于特征值的学习方法，其局限性在于不能理解和记忆特征的变化信息，尤其没考虑特征间的动态相关。改进后的方法能学习动态特征，接受的训练示例是特征值在一定间隔内的初值和终值，从中获取特征值及其在指定间隔的跃迁，该方法尤其能够挖掘出特征间动态相关关系。通过若干应用例子测试表明，该方法适用于具有多元动态相关特征问题的分类，在信息融合领域中有独到的用处。     

一种新的量子神经网络训练算法

量子神经网络是一种借鉴量子理论中的态叠加思想而设计的单隐层前馈神经网络,其主要用于数据分类。由于采用多层激励函数神经元,并且在量子间隔训练中采用了新的目标函数,即同类输入数据的隐层节点输出方差最小,从而使量子神经网络具备了发掘不同类别数据间模糊性的能力。但由于训练时对量子神经网络权值和量子间隔使用了不同的目标函数,使迭代过程中两者不可避免的会出现相互冲突,从而导致训练迭代次数的增加和网络性能的下降。本文借鉴约束优化理论,在两个目标函数的梯度下降求解中引入了惩罚函数,提出了一种新的量子神经网络训练算法,消除了两个目标函数间的冲突。实验结果表明,本文提出的训练算法可以显著提升训练的速度和网络的性能。      

一种基于深度度量学习的视频分类方法

针对视频分类中普遍面临的类内离散度和类间相似性较大而制约分类性能的问题,该文提出一种基于深度度量学习的视频分类方法。该方法设计了一种深度网络,网络包含特征学习、基于深度度量学习的相似性度量,以及分类3个部分。其中相似性度量的工作原理为:首先,计算特征间的欧式距离作为样本之间的语义距离;其次,设计一个间隔分配函数,根据语义距离动态分配语义间隔;最后,根据样本语义间隔计算误差并反向传播,使网络能够学习到样本间语义距离的差异,自动聚焦于难分样本,以充分学习难分样本的特征。该网络在训练过程中采用多任务学习的方法,同时学习相似性度量和分类任务,以达到整体最优。在UCF101和HMDB51上的实验结果表明,与已有方法相比,提出的方法能有效提高视频分类精度。     

一种多分辨率组合的模糊神经网络分类器

提出一种多分辨率组合的分类器(MRCC)模型和相应的学习算法,发展了Simpson的模糊最小最大神经网络(FMM)方法.它克服了原始模型的几个缺点:训练结果不依赖于训练样本出现的次序,超盒扩张不受一个固定的最大尺度限制.和原始模型的超盒相比较,新模型的超盒中引入了一个参数表示超盒对于训练样本的分类正确率,称为超盒置信度.新的学习算法假设样本在一定尺度下均匀分布,从而能够在线调整超盒置信度参数.新的学习算法采用多分辨率组合的方法,消除了原始算法中选择超盒最大尺度限制参数的困难.实验表明,MRCC模型与原始FMM模型相比,分类性能更好,学习算法的自适应能力更强,建立的模糊超盒数更少,并行处理能力更强.     

A weakly supervised large margin domain adaptation method for isolated handwritten digit recognition

Learning handwriting categories fail to perform well when trained and tested on data from different databases. In this paper, we propose a novel large margin domain adaptation algorithm which is able to learn a transformation between training and test datasets in addition to adapting the parameters of classifier using a few or even no training labeled samples from target handwriting dataset. Additionally, we developed a framework of ensemble projection feature learning for datasets representation as a front end for our algorithm to utilize the abundant unlabeled samples in target domain. Experiments on different handwritten digit datasets adaptations demonstrate that the proposed large margin domain adaptation algorithm achieves superior classification accuracy comparing with the state of the art methods. Quantitative evaluation of the proposed algorithm shows that semi-supervised adaptation utilizing one sample per class of target domain set reduces the error rates by 64.72% comparing with a corresponding SVM classifier.     

Large margin nearest local mean classifier

Distance metric learning and classifier design are two highly challenging tasks in the machine learning community. In this paper we propose a new large margin nearest local mean (LMNLM) scheme to consider them jointly, which aims at improving the separability between local parts of different classes. We adopt ‘local mean vector’ as the basic classification model, and then through linear transformation, large margins between heterogeneous local parts are introduced. Moreover, by eigenvalue decomposition, we may also reduce data's dimensions. LMNLM can be formulated as a semidefinite programming (SDP) problem, so it is assured to converge globally. Experimental results show that LMNLM is a promising algorithm due to its leading to high classification accuracies and low dimensions.     

电子邮件智能分类系统的设计

互联网时代,人类的几种主要通讯方式中,电子邮件是既快捷又经济的方式.对当前人们往来的大量电子邮件,一般在电脑网络中,使用基于关键字比较之分类系统的过滤器对邮件进行分类.这种传统方式存在缺乏灵活性,不能有效地处理概括性描述复杂性问题等缺点.使用效果不甚理想.本文在传统规则分类方法的基础上引入机器学习的知识,设计了一个新的电子邮件智能分类系统,较好地解决了概括性的分类问题,并且通过实验说明了该系统的可行性.     

一种利用机器学习优化MIMO窃听信道天线选择的方法

为保障多输入多输出窃听信道系统中信息传输的保密性,提出了一种基于机器学习的天线选择方案。首先利用机器学习解决分类问题准确率高、处理大数据高效这一优势,设计了基于奇异值分解的特征值提取、基于信干噪比的标签赋值方案,建立了k最近邻分类器和逻辑回归分类器选择最优天线最大化保密性能(可达保密速率和保密中断概率)。与传统天线选择方案相比,所提方案获得了几乎一致的保密性能,并且大幅降低了系统的选择复杂度和误比特率。     

二阶环形间隔分类器

 采用二阶损失函数,提出了一种二阶环形间隔分类器,它运用超球面将两类训练样本隔开,同时最大化两类间隔.实验结果表明,不管是对平衡问题还是不平衡问题,所提出的二阶环形间隔分类方法都获得了比较好的分类效果.     

基于MapReduce技术的并行集成分类算法

由于计算机内存资源限制,分类器组合的有效性及最优性选择是机器学习领域的主要研究内容。经典的集成分类算法在处理小数据集时,拥有较高的分类准确性,但面对大量数据时,由于多基分类器学习、分类共用1台计算机资源,导致运算效率较低,这显然不适合处理当今的海量数据。针对已有集成分类算法只适合作用于小规模数据集的缺点,剖析了集成分类器的特性,采用基于聚合方式的集成分类器和云计算的MapReduce技术设计了并行集成分类算法(EMapReduce),达到并行处理大规模数据的目的。并在Amazon计算集群上模拟实验,实验结果表明该算法具有一定的高效性和可行性。     

Joint Feature Representation and Classifier Learning Based Unsupervised Domain Adaption ELM

In the problem of unsupervised domain adaption Extreme learning machine (ELM), the output layer parameters need to have both classification and domain adaptation functions, which often cannot be simultaneously fully utilized. In addition, traditional matching method based on data probability distribution cannot find the common subspace of source and target domains under large difference between domains. In order to alleviate the pressure of double functions of classifier parameters, the entire ELM learning process is mainly divided into two stages: feature representation and adaptive classifier learning, thus a joint feature representation and classifier learning based unsupervised domain adaption ELM model is proposed. In the feature representation stage, the source and target domain data are projected to their respective subspace while minimizing the difference in probability distribution between the two domains. In the adaptive classifier learning stage, the smooth manifold regularization term of target domain is used to improve the parameter adaptive ability. Experiments on six different types of datasets show that the proposed model has higher cross-domain classification accuracy.     

广义LVQ算法及其在遥感影像分类中的应用研究

在比较了学习矢量量化 (LVQ)算法和广义学习矢量量化(GLVQ)算法的基础上,建立了基于GLVQ的遥感影像分类模型。以实际土地覆盖分类为例,通过与传统统计方法和LVQ分类器比较,GLVQ分类器具有分类正确率高,收敛速度快,适应范围广等优点。     

基于不同Margin的人脸特征选择及识别方法

Margin在机器学习中具有很重要的意义,基于margin的特征选择方法就是从分类的角度对特征集各特征的权重进行分析。该文对不同的margin进行了分析,提出将sample-margin和hypothesis-margin分别作为特征选择标准对SBS特征选择方法进行改进,然后设计具有最佳超参数的SVM多项式分类器进行人脸识别。实验在FRERT人脸图像库上进行并与Relief特征选择方法进行了比较,对SVM和NN分类器的实验结果也进行了分析。实验结果显示:该文提出的人脸识别特征选择及识别方法是有效、适用的。