基于混合学习框架的SVM反馈算法研究

 基于支持向量机（SupportVectorMachine,SVM）理论的相关反馈技术是可有效提高图像检索性能的重要手段之一。然而,大多数SVM反馈算法普遍受到小样本问题的制约。本文综合了集成学习、半监督学习和主动学习三种方法的技术特点,提出一种混合学习框架下的SVM反馈算法。该算法在Boosting迭代过程中使用了未标记图像,以增加个体SVM之间的差异,从而获得高效的集成学习模型。同时,高效的集成学习模型更有利于寻找富有信息（most informative）图像,从而也提高了用户主动反馈的效率。实验结果及对比分析表明,混合学习策略可有效改进相关反馈的性能。     

基于有监督主题模型的排序学习算法

文档表示是排序学习的关键,目前的排序学习算法多采用词袋法表示文档与查询,该方法假设词袋中的词相互独立,忽略了词之间的关系.为了表示文档中词之间的依赖关系,本研究利用文档与查询的主题特征构建排序学习模型,我们将排序函数定义为文档与查询之间的主题关系,提出了基于有监督主题模型的排序学习算法自动学习排序函数.为了评价模型的排序精度,我们在三个标准数据集(OHSUMED,MQ2007,MQ2008)上进行了实验.实验表明基于主题的排序学习算法能够发现文档与查询之间内在的语义关联,并改善排序模型的排序精度.     

基于排序学习前向掩蔽模型的快速增量学习算法

增量学习是一种在巩固原有学习成果的基础上快速有效地获取新知识的学习模式.本文在简述增量学习的相关研究以及排序学习前向掩蔽模型(SLAM)的特点后,提出了一种基于SLAM的快速增量学习算法.该算法在原神经网络模型分类能力的基础上,实现对新增样本的快速增量学习,从而在较短的时间内提高该网络模型的分类推广能力.最后,与SLAM算法和Levenberg-Marquardt 后向传播(LMBP)算法的实验对比结果证实了该算法的有效性.     

视频检索中相关反馈算法研究

本文提出了一种基于贝叶斯学习的视频检索相关反馈算法,该算法使用概率框架描述检索问题,根据贝叶斯公式按照用户标记相关和不相关样本集来更新视频库中镜头的目标概率,实现自动相关反馈.通过增量学习,使系统的检索能力不断得到提高.对包含几千个镜头的视频库的实验表明,新算法能够显著提高检索的性能,并在有限的几次反馈后就能快速收敛于用户的查询概念.     

移动群智感知中基于协同排序的任务推荐方法

针对移动群智感知中参与者积极性不高导致的数据质量低和激励成本高的问题,本文提出了一种基于混合用户模型与列表级排序学习算法相结合的协同排序任务推荐方法.根据参与者的历史行为对其进行分析,初步过滤掉一些劣质感知用户,同时利用参与者间的相似性构建混合用户模型.利用概率矩阵分解对参与者的意愿值进行预测,并根据排序学习得到一个排序模型.根据排序模型生成任务推荐列表,作为目标参与者的优选任务列表.基于真实数据集的仿真实验结果表明,本文提出的方法有效地提高了任务分配的准确率,与此同时减少了感知用户的移动距离.     

基于隐式反馈数据的个性化游戏推荐

现有推荐系统通常采用评分、评论等显式反馈数据实现个性化推荐.然而,显式反馈数据由于在实际中难以获取或因质量问题而往往变得不可用,从而导致相关推荐算法的应用范围受到很大限制.与此相反,诸如点击行为、浏览记录等隐式反馈数据在现实中大量存在.本文提出了一种面向游戏玩家的基于隐式反馈数据的游戏推荐方法.该方法综合考虑了玩家操作次数、操作时长等隐式反馈数据及其时效性,构建了基于伪评分的玩家对游戏的偏好模型,而后通过改进了的SVD++（Singular Value Decomposition++）算法实现个性化游戏推荐.在大规模真实数据集上的实验结果表明本文提出的方法具有更高的推荐精确率和召回率.     

基于双流网络与多示例学习的异常事件检测

面对当前复杂场景下异常事件检测算法过度依赖帧级别标记,以及I3D模型耗时长、内存占用大等问题,设计了一种基于I3D的M-I3D模型并将其作为特征提取器,提出一种了基于深度时空特征和多示例学习的异常检测方法.所提方法将正常视频和异常视频作为包,并将视频片段作为多示例学习中的示例.利用M-I3D模型提取每个视频片段的特征,并将提取到的特征向量输入到三层全连接层中,进而自动学习一个深度异常排序模型,该模型可以预测异常视频片段的分数.此外,为了在训练过程中较好地定位异常,在排序损失函数中引入稀疏函数和约束性函数.结果 表明,与其他方法相比,所提算法在UCF-Crime数据集上具有更高的准确率和更好的实时性.     

一种无需ADC的变步长反馈DC-DC 转换器数控方式

数控DC-DC变换器由于其自身的特点,易于与数字系统进行单片集成.DC-DC的数字控制算法有很多种,其中比较复杂的算法(如PID)需要在片内集成ADC,增加了设计难度.较为简单的控制方案只使用单一的比较器作为反馈输入部件,但动态性能较差.本文在已有的单比较器恒定步长反馈数控Buck转换器的基础上,提出了一类变步长反馈的方案.由于仍使用单比较器或窗口比较器,它的结构简单且易于集成.它借鉴了对分搜索的思路,能根据输出电压反馈的结果动态地改变占空比的变化步长,从而明显地提高了原有恒定步长反馈数控变换器的动态性能.     

结合预测误差反馈的高光谱图像无损压缩研究

高光谱图像的海量数据给存储和实时传输带来极大困难,必须对其进行有效压缩.提出了一种结合预测误差反馈的高光谱图像无损压缩算法.根据高光谱图像相邻波段相关性强弱进行波段分组,有效降低了波段排序算法的计算量.通过研究波段排序算法的性能,采用最佳后向排序算法对各组进行波段排序.为有效去除高光谱图像相关性,采用JPEG压缩标准中的无损预测模式对各波段进行谱内预测,利用参考波段预测误差对当前波段谱内预测值进行反馈校正,可进一步提高预测精度.最后,利用JPEG-LS标准对参考波段和预测残差进行无损压缩.对AVIRIS型和OMIS-I型高光谱图像的实验结果表明,该算法可显著降低压缩后的平均比特率.     

一种融合图学习与区域显著性分析的图像检索算法

 为弥合图像低层视觉特征和高层语义之间的语义鸿沟,改善图像检索的效果,机器学习算法经常被引入到图像检索问题中.通常情况下,机器学习算法是与相关反馈机制相结合,通过用户的交互操作,标定出若干正反例图像,很自然地就可以将图像检索问题转化为模式识别中的分类问题.目前融合区域显著性分析的区域图像检索算法尚没有与机器学习算法相融合.本文结合图像区域显著性分析,并针对用户参与反馈的情况,分别提出了两种图像检索解决方案.其一,在没有用户反馈以及用户只反馈正例图像的情形下,将图像检索问题转化为直推式学习问题(Transductive Learning),改进已有的基于图的半监督学习算法,提出了融合区域显著性分析的层次化图表示(Hierarchical Graph Representation)方式,用以实现标记传播;其二,在用户同时反馈正反例图像的情形下,利用用户反馈得到的正反例图像构建相似性邻接矩阵,通过流形排序算法(Manifold-Ranking)学习出用户感兴趣的查询目标概念并用相应的特征向量集合表示,并据此查询图像库返回用户语义相关的图像集合.实验结果验证了这两种检索策略的有效性.     

A novel long-term learning algorithm for relevance feedback in content-based image retrieval

Relevance feedback has proven to be a powerful tool to bridge the semantic gap between low-level features and high-level human concepts in content-based image retrieval (CBIR). However, traditional short-term relevance feedback technologies are confined to using the current feedback record only. Log-based long-term learning captures the semantic relationships among images in a database by analyzing the historical relevance information to boost the retrieval performance effectively. In this paper, we propose an expanded-judging model to analyze the historical log data’s semantic information and to expand the feedback sample set from both positive and negative relevant information. The index table is used to facilitate the log analysis. The expanded-judging model is applied in image retrieval by combining with short-term relevance feedback algorithms. Experiments were carried out to evaluate the proposed algorithm based on the Corel image database. The promising experimental results validate the effectiveness of our proposed expanded-judging model.     

An efficient and effective region-based image retrieval framework

An image retrieval framework that integrates efficient region-based representation in terms of storage and complexity and effective on-line learning capability is proposed. The framework consists of methods for region-based image representation and comparison, indexing using modified inverted files, relevance feedback, and learning region weighting. By exploiting a vector quantization method, both compact and sparse (vector) region-based image representations are achieved. Using the compact representation, an indexing scheme similar to the inverted file technology and an image similarity measure based on Earth Mover's Distance are presented. Moreover, the vector representation facilitates a weighted query point movement algorithm and the compact representation enables a classification-based algorithm for relevance feedback. Based on users' feedback information, a region weighting strategy is also introduced to optimally weight the regions and enable the system to self-improve. Experimental results on a database of 10,000 general-purposed images demonstrate the efficiency and effectiveness of the proposed framework.     

距离决策下的模糊聚类集成模型

模糊聚类是近年来使用的一类性能较为优越的聚类算法,但该类算法对初始聚类中心敏感且对边界样本的聚类结果不够准确。为了提高聚类准确性、稳定性,该文通过联合多个模糊聚类结果,提出一种距离决策下的模糊聚类集成模型。首先,利用模糊C均值(FCM)算法对数据样本进行多次聚类,得到相应的隶属度矩阵。然后,提出一种新的距离决策方法,充分利用得到的隶属度关系构建一个累积距离矩阵。最后,将距离矩阵引入密度峰值(DP)算法中,利用改进的DP算法进行聚类集成以获取最终聚类结果。在UCI机器学习库中选择9个数据集进行测试,实验结果表明,相比经典的聚类集成模型,该文提出的聚类集成模型效果更佳。     

A unified framework for image retrieval using keyword and visual features.

In this paper, a unified image retrieval framework based on both keyword annotations and visual features is proposed. In this framework, a set of statistical models are built based on visual features of a small set of manually labeled images to represent semantic concepts and used to propagate keywords to other unlabeled images. These models are updated periodically when more images implicitly labeled by users become available through relevance feedback. In this sense, the keyword models serve the function of accumulation and memorization of knowledge learned from user-provided relevance feedback. Furthermore, two sets of effective and efficient similarity measures and relevance feedback schemes are proposed for query by keyword scenario and query by image example scenario, respectively. Keyword models are combined with visual features in these schemes. In particular, a new, entropy-based active learning strategy is introduced to improve the efficiency of relevance feedback for query by keyword. Furthermore, a new algorithm is proposed to estimate the keyword features of the search concept for query by image example. It is shown to be more appropriate than two existing relevance feedback algorithms. Experimental results demonstrate the effectiveness of the proposed framework.     

流形学习和相关反馈相融合的医学图像检索

图像检索是医学图像辅助诊断的基础,为了提高医学图像检索的正确率,提出一种流形学习和相关反馈相融合的医学图像检索算法(LLE-MF)。首先根据方块编码的思想提取颜色分量的信息熵,并利用邻域灰度共生矩阵提取纹理特征;然后采用非线性流形学习对颜色和纹理特征进行组合、降维处理,并采用欧式距离相似度量模型对图像初步进行检索,最后最小二乘支持向量机对初步检索结果进行相关反馈,并进行仿真测试。结果表明,相对于其它医学检索算法,LLE-MF不仅提高了医学图像的检索准确率,同时提高了医学图像的检索效率,可以准确地找到用户所需的图像.     

基于K-medoids聚类的贝叶斯集成算法

朴素贝叶斯分类算法由于其计算高效在生活中应用广泛。本文根据集成算法的差异性特征,聚类算法聚类点的选择方式的可变性,提出了基于K-medoids聚类技术的贝叶斯集成算法,朴素贝叶斯的泛化性能得到了提升。首先,通过样本集训练出多个朴素贝叶斯基分类器模型;然后,为了增大基分类器之间的差异性,利用K-medoids算法对基分类器在验证集上的预测结果进行聚类;最后,从每个聚类簇中选择泛化性能最佳的基分类器进行集成学习,最终结果由简单投票法得出。将该算法应用于UCI数据集,并与其他类似算法进行比较可得,本文提出的基于K-medoids聚类的贝叶斯集成算法(NBKME)提高了数据集的分类准确率。     

基于量子云模型反馈的协同精英属性均衡优势集成约简

为进一步增强进化算法在最小属性约简过程中全局求解性能,提出了一种基于量子云模型反馈的协同精英属性均衡优势集成约简算法,该算法首先设计一种基于云模型反馈的量子自适应旋转角调整策略,使量子蛙群精英在云模型定性知识和罚因子反馈指导下自适应控制属性搜索空间范围;然后构建一种有限理性区域下协同精英均衡优势属性分解框架,在动态精英演化区域内使参与属性约简的量子蛙群精英在平均权重裕度下协同化达到Nash均衡优势区域;最后量子蛙群精英采用集成化操作机制在各自均衡优势区域内协同提取属性约简子集,从而稳定取得全局最优约简特征集。实验结果表明本文算法求解全局最优属性约简集效率、精度和稳定性等具有明显优势,应用到孕龄新生儿脑MRIs电子病历分割进一步表明该算法具有较强的应用性能。     

Similarity-based online feature selection in content-based image retrieval.

Content-based image retrieval (CBIR) has been more and more important in the last decade, and the gap between high-level semantic concepts and low-level visual features hinders further performance improvement. The problem of online feature selection is critical to really bridge this gap. In this paper, we investigate online feature selection in the relevance feedback learning process to improve the retrieval performance of the region-based image retrieval system. Our contributions are mainly in three areas. 1) A novel feature selection criterion is proposed, which is based on the psychological similarity between the positive and negative training sets. 2) An effective online feature selection algorithm is implemented in a boosting manner to select the most representative features for the current query concept and combine classifiers constructed over the selected features to retrieve images. 3) To apply the proposed feature selection method in region-based image retrieval systems, we propose a novel region-based representation to describe images in a uniform feature space with real-valued fuzzy features. Our system is suitable for online relevance feedback learning in CBIR by meeting the three requirements: learning with small size training set, the intrinsic asymmetry property of training samples, and the fast response requirement. Extensive experiments, including comparisons with many state-of-the-arts, show the effectiveness of our algorithm in improving the retrieval performance and saving the processing time.