多标签AdaBoost算法的改进算法

针对多标签AdaBoost系列算法,以尽量减小算法的学习错误率为目的,提出了对其进行改进的两种思路。基于改进思路构造出了改进的多标签AdaBoost算法。一种思路是修改算法的样本分布调整策略,破坏现有AdaBoost算法中样本分布的均匀性,以确保增加每一个弱分类器都能降低学习错误的上界估计,从而实现对多标签AdaBoost算法的改进。另一种思路是训练弱分类器时兼顾后续待学习的弱分类器对学习错误的影响,克服现有算法在训练弱分类器时只考虑当前的弱分类器对学习错误的影响,而完全忽略后续待学习的弱分类器对学习错误的影响这一现象,从而改进多标签AdaBoost算法。理论上,对于改进多标签AdaBoost算法,增加每一个弱分类器都能进一步降低学习错误。理论分析和实验结果均表明了提出的改进算法有改进效果。     

面向目标的带先验概率的AdaBoost算法

针对集成学习算法研究中多个分类器的最佳组合问题,改进了传统的AdaBoost集成学习算法.用于组合的各个分类器通常是基于样本集通过一定的训练得到,样本集中不同类目标的比率可以反映分类目标的先验概率.使用该参数给出了新的组合参数和投票表决阈值计算公式,巧妙的利用样本权值并将其加入到样本属性上进行训练学习,采用新的策略来选择基分类器,给出了面向目标的带先验概率的AdaBoost算法(GWPP AdaBoost算法)和分类器的最佳组合.依据UCI实验数据对传统的AdaBoost算法、Bagging算法、GWPP AdaBoost算法的错误率和性能进行了比较分析,验证了GWPP AdaBoost的有效性.     

分类器动态组合及基于分类器组合的集成学习算法

针对目前基于分类器静态组合的集成学习算法难于推广的问题,根据组合分类器分类错误最小化原则,研究了组合系数随分类器输出变化而变化的分类器动态组合理论,包括组合系数的选取、组合分类器分类错误率的估计等.证明了在分类器相互独立时,一些动态组合分类器等价于Bayes统计推断.提出了基于分类器组合的通用集成学习算法,并把AdaBoost、Real AdaBoost、Gentle AdaBoost算法推广到了多分类问题.证明了按照集成学习算法得到的分类器,其动态组合的有效性可不依赖于分类器的独立性,这支撑了基于分类器相互独立假设来研究分类器组合的有用性.最后,通过UCI数据实验验证了动态组合的有效性.     

基于改进的AdaBoost和支持向量机的行人检测

针对AdaBoost算法在训练样本和特征较多时训练时间过长的问题,提出了一种改进的AdaBoot算法与支持向量机组合的分类器.对多重分类器的输出结果以非线性的方式组合,采用交替的方式轮流对不同的特征进行学习,将多重分类器处理完后的结果作为另一种输入样本,再以一个分类器做一次分类.实验表明该算法用于行人检测可行、性能稳定.     

一种改进的AdaBoost人脸检测算法

针对 AdaBoost算法忽略弱分类器之间的相关性导致强分类器的集成性能降低的缺陷,提出一种改进的 AdaBoost人脸检测算法。通过加入差异性度量进行相关性判定,并根据判定值剔除相似特征,以有效增加分类器的多样性。实验结果表明,相同条件下,改进的算法提高了人脸检测率,降低了错误检测数。     

AdaBoost算法的推广——一组集成学习算法

针对AdaBoost算法只适合于不稳定学习算法这一不足,基于增加新分类器总是希望降低集成分类器训练错误率这一思想,提出了利用样本权值来调整样本类中心的方法,使AdaBoost算法可以与一些稳定的学习算法结合成新的集成学习算法,如动态调整样本属性中心的集成学习算法、基于加权距离度量分类的集成学习算法和动态组合样本属性的集成学习算法,大大拓展了AdaBoost算法适用范围。针对AdaBoost算法的组合系数和样本权值调整策略是间接实现降低训练错误率目标,提出了直接面向目标的集成学习算法。在UCI数据上的实验与分析表明,提出的AdaBoost推广算法不仅有效,而且部分算法比AdaBoost算法效果更好。     

基于肤色和改进AdaBoost算法的人脸检测

提出了一种基于肤色和改进AdaBoost算法的人脸检测方法。从被检图像中分割出肤色区域从而得到包含一系列人脸静态特征的候选人脸区域。针对传统AdaBoost算法在训练过程中的过增益现象提出了一种新的权重更新方法,同时在训练过程中构建级联分类器。通过级联分类器对候选人脸区域进行扫描来准确定位人脸。大量的实验结果表明,所提出的方法在人脸检测上取得了较好的效果。     

AdaBoost人脸检测定点型优化算法

提出一种AdaBoost人脸检测的定点型优化算法,该算法以AdaBoost人脸检测原型算法为基础,分析了Cascade瀑布式级联分类器中弱分类器与强分类器分类计算的特点,有效分解了弱分类器与强分类器的计算过程,从而现实了强分类器与弱分类器相关模型参数有效分离标定。优化算法进一步利用图像积分图及弱分类器计算特点,完成对弱分类器计算过程及相关模型参数的定点型转化;同时,利用强分类器浮点的计算精度要求,完成强分类器计算过程及相关模型参数的定点型转化。该定点型AdaBoost人脸检测方法计算精度逼近原浮点型算法计算精度,保持了较高的人脸检测正确率,并利于后期的SIMD并行计算方法优化,同时,也利于算法在定点型嵌入式设备上的移植与优化。     

基于Adaboost.MK和SM-SVDD的变压器故障诊断方法

为了解决变压器故障诊断过程中单分类器诊断精确度不足的问题,引入一种基于改进AdaBoost算法和二次映射支持向量描述的变压器故障诊断方法。该方法训练若干个多分类二次映射支持向量描述分类器,得到弱分类器,采用改进AdaBoost算法将这些弱分类器进行集成构成一个强分类器,并在迭代训练过程中通过改变训练样本的权重,使集成多分类模型聚焦于一些难以分类的样本,从而提高分类精度。实际案例分析表明所提方法能够提高变压器故障诊断精度     

基于标签相关性的多标签分类AdaBoost算法

在多标签分类问题中,标签之间往往是相关的,为了提高分类性能,利用标签之间的相关性,提出AdaBoost.MLR算法和标签相关性分析方法。AdaBoost.MLR算法采用余弦相似度来计算标签相关性矩阵,利用标签相关性矩阵对原始标签矩阵进行补全转换为模糊标签矩阵,将标签空间划分为标签集、标签相关集和标签无关集,结合标签之间的相关性和弱分类器的分类情况,对样本权重进行调整。AdaBoost.MLR算法也能解决多类别分类问题,在其标签相关性的计算中,根据已经训练的弱分类器得到的临时强分类器的分类结果,构造标签相似性矩阵。实验结果表明,文中提出的算法在实验数据集上优于现有的算法,尤其在标签相关性复杂的数据集上分类性能有显著提升。     

XML文档分类的IL-AdaBoost算法

提出一种XML文档分类算法——IL-AdaBoost。算法以XML频繁变化子结构为特征构建决策树桩,作为boosting算法的弱分类器,并改进了AdaBoost算法;利用泊松过程模拟新增XML文档的生成,反映XML文档随时间增加的特性,更新样本分布,实现增量学习。利用采样改善基本分类器的差异性,提高集成学习效果。     

基于适应加权非对称AdaBoost HMM的三维模型分类算法

针对三维模型的分类问题,提出了一种适应性加权非对称AdaBoost隐马尔克夫模型（HMM）分类算法.算法中提出了由三维模型表面的绝对法向量表示的两种新特征,将经过归一化和姿态调整的三维模型划分为若干部分,各部分对应HMM的一个状态,对各部分提取特征并用主成分分析（PCA）降维,对模型的4种特征对应的弱分类器使用非对称AdaBoost算法进行boosting. HMM的结构及参数初始值由模型姿势调整的可能形式及观测顺序确定,训练过程中参数用期望最大化方法计算,最后使用加权相似度计算对三维模型分类.分析及试验结果表明,与基于分布函数的分类算法相比,该算法明显提高了正确率.适应性加权后,分类正确率可进一步提高.     

结合场景运动模式的有向加权AdaBoost目标检测

针对现有检测算法对场景先验信息和群体运动规律考虑甚少这一局限性,提出一种结合场景运动模式的有向加权AdaBoost目标检测算法.该算法首先建立了一种基于速率加权方向直方图矩阵的场景运动模式模型,并在此基础上通过稀疏光流投票方法获取场景的运动模式信息.同时,针对该模型提出一种有向加权AdaBoost检测算法,通过建立多个有向AdaBoost分类过程,并利用局部区域的运动模式对分类过程加权,最终实现运动目标检测.通过交叉验证分类实验和视频检测实验验证,该算法在相同假阳性率条件下的查准率较传统AdaBoost检测器的高出约10%,充分验证了算法的有效性和优越性.     

基于LBP和CCS-AdaBoost的多视角人脸检测

为了解决多视角人脸检测中多视角导致的人脸结构不同的问题和人脸与非人脸之间的误分类风险不同的问题,检测特征使用局部二值模式（LBP）及统计直方图,人脸非人脸分类器使用可控风险敏感AdaBoost（CCS-AdaBoost）.LBP及统计直方图能够描述多视角的人脸结构|CCS-AdaBoost能够在降低总体的误分类风险的同时最小化分类错误率.实验中,LBP特征的性能在正面人脸检测上比Haar-like特征更好.CCS-AdaBoost分类器在一定条件下也比普通AdaBoost分类器有更好的性能,并且弥补了风险敏感AdaBoost分类器（CS-AdaBoost）对靠近分类边界的样本分类不好的缺陷.最终的多视角人脸检测器在CMU-Profile测试集上获得了满意的结果.该算法实现了鲁棒的多视角人脸检测方法,在相同虚警率下获得比其他人脸检测方法更好的结果,能够有效地解决多视角人脸检测中的2个问题.     

基于AdaBoost的脑机接口分类算法研究

依据AdaBoost思想对BP神经网络、线性判别式以及支撑向量机三种传统分类器进行强化训练形成强分类器。在传统训练的基础上,根据分类器的映射特点选择相应的预处理方法和权值分布函数,降低分类器对数据特点的依赖性,提高AdaBoost的训练效果。对基于左右手运动想象的实际脑电数据进行模式分类,发现采用该思想训练的强分类器能不同程度地提高分类效果。该算法具有一定的推广意义,也证实了AdaBoost算法在脑机接口技术开发中的应用潜力。