面向大数据流的半监督在线多核学习算法

在机器学习中,核函数的选择对核学习器性能有很大的影响,而通过核学习的方法可以得到有效的核函数。提出一种面向大数据流的半监督在线核学习算法,通过当前读取的大数据流片段以在线方式更新当前的核函数。算法通过大数据流的标签对核函数参数进行有监督的调整,同时以无监督的方式通过流形学习对核函数参数进行修改,以使得核函数所体现的等距面尽可能沿着数据的某种低维流形分布。算法的创新性在于能同时进行有监督和无监督的核学习,且不需要对历史数据进行再次扫描,有效降低了算法的时间复杂度,适用于在大数据和高速数据流环境下的核函数学习问题,其对无监督学习的支持有效解决了大数据流中部分标记缺失的问题。在MOA生成的人工数据集以及UCI大数据分析的基准数据集上进行算法有效性的评估,其结果表明该算法是有效的。     

基于自适应标记提取的分水岭彩图分割算法

针对分水岭算法过分割问题,提出一种基于自适应提取标记的改进算法。该算法结合极小值深度和汇水盆地尺度信息提取与物体相关的极小值标记,根据梯度图像中极值点的统计信息自适应设定标记提取的阈值。提取到的标记采用形态学极小值标定技术强制作为原始梯度图像的极小值,在修改过的梯度图像上进行分水岭分割。仿真结果表明,该算法能有效解决分水岭算法的过分割问题,具有更强的抗噪性能和边缘定位能力,且计算复杂度较小。     

主动协同半监督粗糙集分类模型

粗糙集理论是一种有监督学习模型,一般需要适量有标记的数据来训练分类器。但现实一些问题往往存在大量无标记的数据,而有标记数据由于标记代价过大较为稀少。文中结合主动学习和协同训练理论,提出一种可有效利用无标记数据提升分类性能的半监督粗糙集模型。该模型利用半监督属性约简算法提取两个差异性较大的约简构造基分类器,然后基于主动学习思想在无标记数据中选择两分类器分歧较大的样本进行人工标注,并将更新后的分类器交互协同学习。UCI数据集实验对比分析表明,该模型能明显提高分类学习性能,甚至能达到数据集的最优值。     

基于Tri-training的主动学习算法

半监督学习和主动学习都是利用未标记数据,在少量标记数据代价下同时提高监督学习识别性能的有效方法。为此,结合主动学习方法与半监督学习的Tri-training算法,提出一种新的分类算法,通过熵优先采样算法选择主动学习的样本。针对UCI数据集和遥感数据,在不同标记训练样本比例下进行实验,结果表明,该算法在标记样本数较少的情况下能取得较好的效果。将主动学习与Tri-training算法相结合,是提高分类性能和泛化性的有效途径。     

基于半监督支持向量机的交互式遗传算法

为减轻用户疲劳并将交互式遗传算法应用于复杂的优化问题中,提出一种基于半监督支持向量机的交互式遗传算法。根据标记样本和未标记样本几何特性派生出数据依赖的核函数,以此构建半监督支持向量机,再以自训练方法进行高可信未标记样本的批量选择,实现用户评价代理模型的高泛化性能。将该方法应用于基于内容的图像检索系统,结果表明其能有效加快进化收敛的速度,提高优化成功率。     

结合SSFCM与随机游走的半监督图像分割算法

针对基于颜色特征空间的半监督聚类分割算法适合分割结果包含多个颜色特征相似目标的应用场合,但对高噪声图像却无法获得理想的分割结果,而基于随机游走理论的半监督图像分割算法需要用户对目标逐一进行标记的问题,提出一种半监督图像分割算法.首先根据用户标记采用半监督模糊C均值聚类(SSFCM)算法对图像颜色特征进行建模;然后引入一个确信度函数,并根据SSFCM算法得到的隶属度数据计算确信度函数值,再将像素分为2类,分别作为随机游走图像分割算法的已标记点和未标记点;最后采用随机游走算法完成最终的分割.实验结果表明,该算法对图像中的噪声具有良好的抑制作用,且无需用户对目标逐一进行标记.     

基于结构化多视图稀疏限定的 监督特征选择算法研究

为了有效利用多视图数据信息提升监督特征选择的性能,构建了一种结构化多视 图稀疏限定,并基于该稀疏限定提出了一种监督特征选择方法,即结构化多视图监督特征选择 方法(SMSFS)。该方法在特征选择过程中能够同时考虑不同视图特征的重要性以及同一视图中 不同特征的重要性,从而有效的结合多视图数据信息,提升监督特征选择的性能。SMSFS 目标 函数是非凸的,设计了一个有效的迭代算法对目标函数进行求解。将所提结构化多视图监督特 征选择方法 SMSFS 应用到了图像标注任务,在 NUS-WIDE 和 MSRA-MM2.0 图像数据库上进 行了实验,并与其他特征选择算法进行了比较,实验结果表明该算法能够有效结合多视图数据 信息,提升特征选择性能。     

三重集约束下的自适应SSLBoost分类方法

在分类问题中,常用的高效算法有半监督学习算法、Bagging算法和Boosting算法等,当标记数据很少、数据间差异较大时,很难找到有效的规则来分类。针对此问题提出了三重集约束下的Boosting分类算法,对标记数据、伪标记数据、无标记数据进行三重约束划分;同时引入平衡函数将更新数据的近邻两点加权,确立数据空间稳定点;根据稳定点信息对分类器进行迭代,采用梯度下降法使得平衡函数收敛,得到最终的伪标记数据和分类器。经过UCI九个数据集的实验,验证了该算法更为高效、可行。     

一种半监督的多标签Boosting分类算法

针对标记数据不足的多标签分类问题,提出一种新的半监督Boosting算法,即基于函数梯度下降方法给出一种半监督Boosting多标签分类的框架,并将非标记数据的条件熵作为一个正则化项引入分类模型。实验结果表明,对于多标签分类问题,新的半监督Boosting算法的分类效果随着非标记数据数量的增加而显著提高,在各方面都优于传统的监督Boosting算法。     

基于拉普拉斯回归主动学习的大数据流分类算法

实时数据流中标记样本所占比例较小,并且存在大量的噪声数据和冗余数据,导致数据流的实时分类准确率较低。针对这种情况,提出基于拉普拉斯回归主动学习的大数据流分类算法。为分类器设计相对支持度差异函数作为分类的决策方法,通过阈值判断当前数据流的标记样本量。设计基于约束规则的半监督主动学习算法,从无标记样本集选择信息量最丰富的样本。采用拉普拉斯正则最小二乘回归模型作为半监督学习的回归模型,迭代地扩展数据流的标记样本量。仿真结果表明,该算法有效地提高了数据流的分类准确率,并且满足实时性的需求。     

一种基于SVM的相关反馈图像检索算法

相关反馈技术是近年来图像检索中的研究热点,以MPEG-7的边缘直方图作为图像特征,以支持向蕈机(SvM)为分类器,提出一种新的相关反馈算法.在每次反馈中对用户标记的相关样本进行学习,用历次返回的结果更新训练样本集,建立SVM分类器模型,并根据模型进行检索.还对不同核函数的SVM进行了对比,得出RBF核函数的SVM有较高的检索精度.使用由10000幅图像组成的图像库进行实验,结果表明,算法可有效地检索出更多的相关图像,并且在有限训练样本情况下具有良好的泛化能力.     

一种基于SVM的相关反馈图像检索算法

相关反馈技术是近年来图像检索中的研究热点,本文以MPEG-7的边缘直方图作为图像特征,以支持向量机（SVM）为分类器,提出一种新的相关反馈算法。在每次反馈中对用户标记的相关样本进行学习,用历次返回的结果更新训练样本集,建立SVM分类器模型,并根据模型进行检索。本文还对不同核函数的SVM进行了对比,得出RBF核函数的SVM有较高的检索精度。使用由10000幅图像组成的图像库进行实验,结果表明,该算法可有效地检索出更多的相关图像,并且在有限训练样本情况下具有良好的泛化能力。     

遗传反馈的多特征图像检索

基于内容的图像检索是随着数字多媒体技术的发展和普及而新兴的一门信息检索技术。针对当前该领域存在的对图像描述不准确、查询精度低以及反馈次数较多的问题,提出一种基于遗传反馈的图像检索算法。该算法以遗传算法和相关反馈为基础,利用多特征进行检索,避免在利用单一特征进行检索时所出现的不同图像具有相同单一特征（颜色、纹理和形状等）的问题,对图像进行多特征描述可以从多个角度对图像进行定义,大大减少了不同图像却具有相同特征的概率。与现有的算法相比,其具有自动调整图像特征权重、较低反馈次数和较高查询精度的特性。实验结果表明,该算法对于旋转、平移和尺度变化具有较强的鲁棒性,同时具有减少反馈次数和较高查询精度的性能。     

Neighborhood preserving regression for image retrieval

In content-based image retrieval (CBIR), relevance feedback has been proven to be a powerful tool for bridging the gap between low level visual features and high level semantic concepts. Traditionally, relevance feedback driven CBIR is often considered as a supervised learning problem where the user provided feedbacks are used to learn a distance metric or classification function. However, CBIR is intrinsically a semi-supervised learning problem in which the testing samples (images in the database) are present during the learning process. Moreover, when there are no sufficient feedbacks, these methods may suffer from the overfitting problem. In this paper, we propose a novel neighborhood preserving regression algorithm which makes efficient use of both labeled and unlabeled images. By using the unlabeled images, the geometrical structure of the image space can be incorporated into the learning system through a regularizer. Specifically, from all the functions which minimize the empirical loss on the labeled images, we select the one which best preserves the local neighborhood structure of the image space. In this way, our method can obtain a regression function which respects both semantic and geometrical structures of the image database. We present experimental evidence suggesting that our algorithm is able to use unlabeled data effectively for image retrieval.     

Statistical correlation analysis in image retrieval

A statistical correlation model for image retrieval is proposed. This model captures the semantic relationships among images in a database from simple statistics of user-provided relevance feedback information. It is applied in the post-processing of image retrieval results such that more semantically related images are returned to the user. The algorithm is easy to implement and can be efficiently integrated into an image retrieval system to help improve the retrieval performance. Preliminary experimental results on a database of 100,000 images show that the proposed model could improve image retrieval performance for both content- and text-based queries.     

一个相关反馈三维模型深度图像检索算法

基于图像的三维模型检索比形状特征和拓扑结构特征具有更易于实现且检索效果好等优点,但现有基于图像的三维模型检索方法存在一些问题,如没有考虑三维深度信息、所提特征不能全部表达三维模型信息且不能实现用户交互操作等。对此提出一种基于深度图像的三维模型相关反馈检索算法:首先提取三维模型深度图像边界方向直方图和Zernike矩特征;然后利用特征距离度量进行三维模型检索,并采用相关反馈技术实现分类器的构造和模型的标注;最后利用调整好的权值分类器进行检索和标注。实验表明,该算法实现了三维模型的相关反馈检索和标注,提高了检索的精确性,并增强了系统的实用性,为进一步进行语义检索打下基础。     

基于神经网络自学习的图像检索方法

相关反馈技术是近年来图像检索中较为活跃的研究方法之一.提出了一种基于神经网络自学习的图像检索方法,即在检索阶段利用人-机交互技术选出与检索图像相似的正例样本,然后构造出前向神经网络,进行自学习,以逐步达到提高查询效果的目的.神经网络的构造过程即是学习的过程,而且可以不断地学习.使用由9918幅图像组成的图像库进行实验,结果表明,该方法有助于用户表达查询意图和语义概念,可以通过交互式检索逐步求精地查找出更多、更准确的图像,并且具有较强的鲁棒性,可以结合各种特征表示和相似性匹配方法,交互地提高检索性能.     

基于内容的图像检索相关反馈算法的改进

基于内容的图像检索研究(Content-based Image Retrieval, CBIR)的目的是实现自动地、智能地检索图像,研究的对象是使查询者可以方便、快速、准确地从图像数据库中查找特定图像的方法和技术.本文在改进传统的相关反馈算法基础上,引入可更新的特征库,可以将用户反馈的信息逐步嵌入到这个可更新特征库中.实验结果证实了本文改进算法的有效性.     

A noisy-smoothing relevance feedback method for content-based medical image retrieval

In this paper, we address a new problem of noisy images which present in the procedure of relevance feedback for medical image retrieval. We concentrate on the noisy images, caused by the users mislabeling some irrelevant images as relevant ones, and a noisy-smoothing relevance feedback (NS-RF) method is proposed. In NS-RF, a two-step strategy is proposed to handle the noisy images. In step 1, a noisy elimination algorithm is adopted to identify and eliminate the noisy images. In step 2, to further alleviate the influence of noisy images, a fuzzy membership function is employed to estimate the relevance probabilities of retained relevant images. After noisy handling, the fuzzy support vector machine, which can take into account different relevant images with different relevance probabilities, is adopted to re-rank the images. The experimental results on the IRMA medical image collection demonstrate that the proposed method can deal with the noisy images effectively.     

图像检索中IRRL模型研究

相关反馈实现了人机交互，是图像检索中的不可缺少的部分，一般图像检索中都使用一种反馈算法。IRRL模型将机器学习中的强化学习原理应用到图像检索的相关反馈中来。它将现有的查询点优化、特征加权、贝叶斯分类器等算法作为系统学习的动作，通过不同的状态选择不同的动作，最终为不同类的图像寻找到合适的反馈算法策略，最后根据策略进行具体的图像检索。文中对IRRL模型具体算法进行了研究，并在此基础上提出了一些改进意见。