基于示例学习的图像人脸检测技术

描述了一种基于示例学习的方法来检测具有复杂背景的图像中正面人脸的位置。这项技术使用了图像模型聚类的方式构造了人脸模式的分布。针对每一个图像 ,计算图像局部分布与基于分布的模板之间的特征矢量差异。然后基于这个差异 ,应用一个经过训练的分类器来判断图像当前位置是否有人脸存在     

图像检索中结合文本信息的多示例原型选择及主动学习策略

针对基于区域的图像检索系统检索精度不高的问题,提出结合文本信息的多示例原型选择算法和反馈标注机制。在示例原型选择时,首先使用文本信息进行正例拓展,然后通过估计负示例分布进行最初示例选择,最后通过示例更新和分类器学习的交替优化获得真的示例原型。相关反馈采用了多策略相结合的主动学习机制,通过信息值控制主动学习策略的自动切换,使系统能够自动选择当前最适合的主动学习策略。实验结果表明,该方法有效且性能优于其他方法。     

一个基于信息论的示例学习方法

本文利用信息论中信道容量、最大似然译码准则等概念,提出一个新的示例学习方法IBLE,此方法不依赖类别先验概率,特征间为强相关,具有直观的知识表示,将它用于质谱解析,结果很好,八类化合物平均正确预测率为93.96％,高于专家水平。     

基于示例选择的目标跟踪改进算法

多示例学习是一种处理包分类问题的新型学习模式,传统基于多示例学习的目标跟踪算法在自适应获取正包时受到无益或有害示例的干扰,不能很好地提取目标的鉴别性特征.为此,设计基于核密度估计的示例选择方法,剔除训练集中的无益示例或有害示例,提高多示例学习算法的有效性,并在此基础上提出一种基于示例选择的目标跟踪改进算法,针对负示例占多数的情况建立核密度估计函数来精简正包中的示例,使用精简后的样本数据进行训练学习,最终实现对目标的实时跟踪.实验结果表明,该算法在光照变化、目标部分遮挡及形体变化等情形下都具有较好的稳健性.     

基于示例学习的特征空间变换方法

特征空间是人工智能领域中经常用的基本概念之一，人工智能领域中的许多问题可以可以通过特征空间变换的方法化简和求解。文中提出了一种基于示例学习的特征空间变换方法。     

基于弱标签的多示例迁移学习方法

作为监督学习的一种变体,多示例学习(MIL)试图从包中的示例中学习分类器。在多示例学习中,标签与包相关联,而不是与单个示例相关联。包的标签是已知的,示例的标签是未知的。MIL可以解决标记模糊问题,但要解决带有弱标签的问题并不容易。对于弱标签问题,包和示例的标签都是未知的,但它们是潜在的变量。现在有多个标签和示例,可以通过对不同标签进行加权来近似估计包和示例的标签。提出了一种新的基于迁移学习的多示例学习框架来解决弱标签的问题。首先构造了一个基于多示例方法的迁移学习模型,该模型可以将知识从源任务迁移到目标任务中,从而将弱标签问题转换为多示例学习问题。在此基础上,提出了一种求解多示例迁移学习模型的迭代框架。实验结果表明,该方法优于现有多示例学习方法。     

基于流形学习的多示例回归算法

多示例学习是一种新型机器学习框架,以往的研究主要集中在多示例分类上,最近多示例回归受到了国际机器学习界的关注．流形学习旨在获得非线性分布数据的内在结构,可以用于非线性降维．文中基于流形学习技术,提出了用于解决多示例同归问题的Mani MIL算法．该算法首先对训练包中的示例降维,利用降维结果出现坍缩的特性对多示例包进行预测．实验表明,Mani MIL算法比现有的多示例算法例如Citation-kNN等有更好的性能．     

基于主动学习的人脸标注研究

在大数据时代,图片数量非常巨大,但是具有标签的图片非常少。在学习和研究中,常常需要分类标注图片,而大部分图片都是与人脸相关的,因此人脸标注成为 了一种进行图片分类标注的有效方法,但人工标注的成本较大。针对有标签图片数量较少以及人工标注成本较大的问题,提出了在主动学习算法的基础上建立计算人脸类标签后验分布的判别模型的方法。该方法基于马尔可夫随机场和高斯过程,考虑到了样本位置、特征的客观联系,在样本之间加入了匹配约束和非匹配约束,匹配约束表示样本之间具有相同的类标签,非匹配约束表示样本之间具有不同的类标签。实验结果表明,根据判别模型得到的类标签后验分布选择样本进行人工标注,大大提高了分类器的精确度。     

多示例学习的示例层次覆盖算法

在多示例学习（Multi-instance learning,MIL）中,核心示例对于包类别的预测具有重要作用。若两个示例周围分布不同数量的同类示例,则这两个示例的代表程度不同。为了从包中选出最具有代表性的示例组成核心示例集,提高分类精度,本文提出多示例学习的示例层次覆盖算法（Multi-instance learning with instance_level covering algorithm,MILICA）。该算法首先利用最大Hausdorff距离和覆盖算法构建初始核心示例集,然后通过覆盖算法和反验证获得最终的核心示例集和各覆盖包含的示例数,最后使用相似函数将包转为单示例。在两类数据集和多类图像数据集上的实验证明,MILICA算法具有较好的分类性能。     

基于Bootstrap多神经网络的软测量方法

针对原油蒸馏过程常规软测量模型难以适应原油进料性质变化的问题,提出Bootstrap多神经网络的非线性软测量处理策略.通过Bootstrap算法复制出训练集样本空间上的多个样本子空间,训练出多神经网络模型,避免了单个神经网络易于陷入局部最优及过度训练的弱点,具有较高的准确率和泛化能力.本处理策略用于建立常压塔一线干点的软测量模型,仿真结果表明模型预测准确率和鲁棒性较好,对原油性质变化具有较好的适应性.该方法将会改进实际蒸馏过程在进料性质变化情况下的产品质量指标的软测量精度.     

基于Tri-training的主动学习算法

半监督学习和主动学习都是利用未标记数据,在少量标记数据代价下同时提高监督学习识别性能的有效方法。为此,结合主动学习方法与半监督学习的Tri-training算法,提出一种新的分类算法,通过熵优先采样算法选择主动学习的样本。针对UCI数据集和遥感数据,在不同标记训练样本比例下进行实验,结果表明,该算法在标记样本数较少的情况下能取得较好的效果。将主动学习与Tri-training算法相结合,是提高分类性能和泛化性的有效途径。     

改进的DFP神经网络学习算法

传统BP神经网络学习算法有学习速度慢、精度不高、易于陷入局部极小值、不稳定等问题,DFP神经网络学习算法是最优化理论中一类典型的拟牛顿法,具有超线性收敛速度和全局收敛性.但普通DFP算法有数值不稳定的缺陷,在处理大规模网络的学习问题时容易失效;在算法进入到饱和区域、接近最小值的时候,普通DFP算法会产生溢出错误.通过放大权值更新向量和权值导数更新向量,改进拟Hesse逆矩阵的求解,并结合线性搜索和L-M算法,改善了方法的稳定性,解决了算法失效的问题,同时保证了高效的学习速度和较高的学习精度.与目前应用最广泛的BP学习算法L-M 算法相比,改进的DFP算法具有与其相同的学习速度,计算量小,学习精度高,更适用于大残量问题.     

基于Bootstrap仿真的性能可靠性评估

性能可靠性是很多工业产品重要的质量指标.在对产品的性能可靠性进行评估的时候,经典统计方法常常面临数据不足的问题,而Bayes方法容易引起争议,为此将Bootstrap仿真方法引入到产品性能可靠性数据的统计分析中,提出了基于Bootstrap仿真的性能可靠性评估方法.Bootstrap方法又名自助法,是一种通过数字仿真扩大样本量的方法,它完全依赖于样本本身的数据,不需要任何主观假设.首先给出了利用Bootstrap方法计算性能参数的期望与方差的算法,并分析了Bootstrap方法的适用范围,最后通过一个实例说明了本方法的实用性.     

基于学习算子的自学习遗传算法设计

遗传算子是影响遗传算法优化效果的重要因素。针对目前遗传算法研究中忽视个体能动性,没有充分利用进化经验信息的不足,提出反映个体学习能力的学习算子。给出了以个体适应度的变化方向和速度为依据的学习算子设计方法及其计算过程。在此基础上与现有的改进遗传算子结合,提出一种新的改进遗传算法-自学习遗传算法,分析了自学习遗传算法与自适应遗传算法之间在原理上的区别。以一个弹道导弹射程优化问题为算例对算法进行了性能测试,结果表明,在采用相同的改进遗传算子的条件下,学习算子能够以较低的代价提高遗传算法的收敛速度,并获得更好的最终优化结果。     

一种基于嵌入式特征选择的垃圾邮件过滤模型

垃圾邮件自身的特点决定了消极学习型的文本分类算法更加适合于垃圾邮件过滤问题.但是,以k-NN为代表的消极型文本分类算法却存在着运行效率偏低等诸多缺点,不便于实际使用.为此,该文在向量余弦相似性公式的基础上,提出了一种新的"嵌入式特征选择垃圾邮件过滤模型"和基于此模型的消极学习型垃圾邮件过滤算法.与一些经典算法相比,新算法在显著降低运算开销的同时,巧妙地避免了由此而引起的信息丢失问题,因而在性能与效率两个方面都有明显提高,具有非常高的实际价值.     

Bootstrap方法在Jensen Alpha估计中的运用

詹森差别表现指数(Jensen Alpha)是使用较多的一种评价投资组合业绩的指标。进一步分析Bootstrap方法的基本原理,探讨将Bootstrap运用于Jensen Alpha估计的具体过程,从而解决了运用普通最小二乘法(OLS)估计Jensen Alpha存在的缺陷,提高了Jensen Alpha估计的稳健性,对于投资组合业绩的评价具有一定的参考意义。     

一种置信度可控的主动学习算法

主动学习时向专家查询得到的标注如果带有噪声,将会损害机器学习的性能。为减少噪声,基于多专家的主动学习算法被提出。但以往的基于多专家的主动学习都假定各专家对未标注样例进行标注的质量都相同,且采用“少数服从多数”投票法,导致标注时的置信度不可控,不能控制噪声水平。提出一种置信度可控的主动学习算法,能使最终标注的置信度控制在规定的范围,从而减少噪声,提高学习性能。在4个UCI数据集上的实验验证该方法的有效性。     

基于拟牛顿法的前向神经元网络学习算法

针对前向神经网络现有BP学习算法的不足,结合非线性最优化方法,提出一种基于拟牛顿法的神经元网络学习算法。该算法有效地改进了神经元网络的学习收敛速度,取得了比常规BP算法更好的收敛性能和学习速度。     

Bootstrap learning for accurate onset detection

Supervised learning models have been applied to create good onset detection systems for musical audio signals. However, this always requires a large set of labeled training examples, and hand-labeling is quite tedious and time consuming. In this paper, we present a bootstrap learning approach to train an accurate note onset detection model. Audio alignment techniques are first used to find the correspondence between a symbolic music representation (such as MIDI data) and an acoustic recording. This alignment provides an initial estimate of note boundaries which can be used to train an onset detector. Once trained, the detector can be used to refine the initial set of note boundaries and training can be repeated. This iterative training process eliminates the need for hand-labeled audio. Tests show that this training method can improve an onset detector initially trained on synthetic data. Major part of work was done while the first author was at Carnegie Mellon University. Editor: Gerhard Widmer