用于阿尔茨海默症分类的模糊逻辑特征选择和异质集成学习方法

阿尔茨海默症(AD)分类有助于在AD早期阶段及时采取针对性的治疗和干预措施,对降低老年群体的AD发病率和延缓AD疾病进展具有重要意义.该文提出一种改进的高斯模糊逻辑特征选择方法,首先采用互信息量和方差齐性分析两种方法给出特征重要性评分并分别进行归一化,然后使用改进的高斯模糊逻辑方法对其加权得到最终的特征重要性评分,最后依据特征重要性评分选取特征.该文还使用逻辑回归、随机森林、LightGBM、支持向量机和深度前馈网络作为初级分类器,多项式朴素贝叶斯分类器作为次级分类器,构建异质集成分类器,利用选取的特征进行AD分类.在TADPOLE数据集上进行实验,实验结果证实了所提特征选择方法是有效的,且采用所提特征选择方法,基于多项式朴素贝叶斯的异质集成分类器在AD分类上的性能要优于传统分类器.     

基于鲸鱼优化算法的贝叶斯分类器研究与应用

朴素贝叶斯分类器的条件独立性这一假设称为“朴素贝叶斯假设”,其限制了朴素贝叶斯分类的适用范围和分类准确率,为了解决问题,本文提出用改进的鲸鱼优化算法来优化朴素贝叶斯分类器,并对算法进行应用研究。改进的鲸鱼优化算法使用禁忌搜索机制来跳出算法寻优时候易陷入局部最优的误区。为了削弱朴素贝叶斯分类器独立性假设,通过改进的鲸鱼优化算法自动搜索分类器的属性全局性权值,从而提升了加权贝叶斯分类器的运算的准确率。试验证明,相比较传统的朴素贝叶斯分类算法,本文优化后的加权贝叶斯分类算法具有更精准的分类结果。最后提出将改进后的属性加权贝叶斯分类器应用到“移动云”建设的方案。     

一种联合特征值信息的全极化SAR图像监督分类方法

基于H/平面的分类器对于具有相似散射类型的地物的分类能力很差,为此该文直接使用特征值特征来进行分类。首先提取特征值特征,并使用一种自适应调整高斯分量个数的高斯混合模型对特征值分布进行较为准确地拟合,然后采用朴素贝叶斯分类器进行初步分类。针对可能存在特征值分布较为相近导致错分的问题,计算每两类地物的特征值分布的相似度,将相似度大于给定阈值的类别对组成相似性表,对于这些相似对再用基于Wishart距离的K近邻分类器进行细分。综合分析机载和星载SAR数据上的实验结果,表明这种方法能够克服基于H/的非监督分类方法对于特征值利用的一些不足,且与基于SVM的分类方法效果相当。      

基于K-medoids聚类的贝叶斯集成算法

朴素贝叶斯分类算法由于其计算高效在生活中应用广泛。本文根据集成算法的差异性特征,聚类算法聚类点的选择方式的可变性,提出了基于K-medoids聚类技术的贝叶斯集成算法,朴素贝叶斯的泛化性能得到了提升。首先,通过样本集训练出多个朴素贝叶斯基分类器模型;然后,为了增大基分类器之间的差异性,利用K-medoids算法对基分类器在验证集上的预测结果进行聚类;最后,从每个聚类簇中选择泛化性能最佳的基分类器进行集成学习,最终结果由简单投票法得出。将该算法应用于UCI数据集,并与其他类似算法进行比较可得,本文提出的基于K-medoids聚类的贝叶斯集成算法(NBKME)提高了数据集的分类准确率。     

一种面向机械领域文本分类器的设计

提出了一种面向机械领域的文本分类器.特征选择采用基于文档频率的特征提取法和灰色关联度计算相结合的方法,有效降低了特征维数,削弱了特征词之间的关联,为采用贝叶斯分类创造了条件.分类阶段引进了基于类别区分度的加权因子对朴素贝叶斯分类器进行优化.实验证明,该分类器能够有效地提高机械领域文本分类的召回率和正确率,具有较好的使用效果.     

一种基于遗传算法的数据抽样方法

朴素贝叶斯分类器是一种基于独立假设的贝叶斯定理的简单概率分类器,依靠精确的自然概率模型,在有监督学习的样本集中能获取得非常好的分类效果。本文以朴素贝叶斯分类器为基础,提出一种最优保存简单遗传算法为搜索方法,随机抽样分类测试作为适应性函数来设计实现实例选择算法。实验表明,该抽样方法在不降低朴素贝叶斯分类器精度的前提下明显降低计算代价,对部分数据集还可有效地提高分类器的分类精度。     

半监督条件下基于朴素贝叶斯和Choi-Williams时频分布能量积累的雷达信号识别

针对非合作电子侦察雷达信号识别中先验信息残缺的问题,该文提出一种基于Choi-Williams时频分布(CWD)的改进半监督朴素贝叶斯的识别算法(ISNB)。首先对CWD进行降噪预处理,然后通过计算降噪后CWD不同时间下各频率采样值的积累量,从而得到CWD的能量积累量这一新特征;针对传统的半监督朴素贝叶斯(SNB)在更新训练样本集过程中会产生迭代错误的不足,通过在无标签样本集生成的置信度列表中选取置信度高的样本添加到有标签样本集中,再利用预测后的分类结果对分类器参数进行改进,进而构建改进的SNB分类器,有效解决了传统SNB算法分类精度低且分类性能不稳定的缺点。理论分析和仿真结果表明,所提方法相比于传统SNB算法均提高了3%左右;在相同信噪比下,相比于传统的主成分分析加支持向量机法,该算法具有更高的分类识别率和更好的分类性能。     

半监督条件下基于朴素贝叶斯和Choi-Williams时频分布能量积累的雷达信号识别

针对非合作电子侦察雷达信号识别中先验信息残缺的问题,该文提出一种基于Choi-Williams时频分布(CWD)的改进半监督朴素贝叶斯的识别算法(ISNB).首先对CWD进行降噪预处理,然后通过计算降噪后CWD不同时间下各频率采样值的积累量,从而得到CWD的能量积累量这一新特征;针对传统的半监督朴素贝叶斯(SNB)在更新训练样本集过程中会产生迭代错误的不足,通过在无标签样本集生成的置信度列表中选取置信度高的样本添加到有标签样本集中,再利用预测后的分类结果对分类器参数进行改进,进而构建改进的SNB分类器,有效解决了传统SNB算法分类精度低且分类性能不稳定的缺点.理论分析和仿真结果表明,所提方法相比于传统SNB算法均提高了3％左右;在相同信噪比下,相比于传统的主成分分析加支持向量机法,该算法具有更高的分类识别率和更好的分类性能.     

一种基于树增强朴素贝叶斯的分类器学习方法

树增强朴素贝叶斯(TAN)结构强制每个属性结点必须拥有类别父结点和一个属性父结点,也没有考虑到各个属性与类别之间的相关性差异,导致分类准确率较差。为了改进TAN的分类准确率,该文首先扩展TAN结构,允许属性结点没有父结点或只有一个属性父结点;提出一种利用可分解的评分函数构建树形贝叶斯分类模型的学习方法,采用低阶条件独立性(CI)测试初步剔除无效属性,再结合改进的贝叶斯信息标准(BIC)评分函数利用贪婪搜索获得每个属性结点的父结点,从而建立分类模型。对比朴素贝叶斯(NB)和TAN,构建的分类器在多个分类指标上表现更好,说明该方法具有一定的优越性。     

基于不同Margin的人脸特征选择及识别方法

Margin在机器学习中具有很重要的意义,基于margin的特征选择方法就是从分类的角度对特征集各特征的权重进行分析。该文对不同的margin进行了分析,提出将sample-margin和hypothesis-margin分别作为特征选择标准对SBS特征选择方法进行改进,然后设计具有最佳超参数的SVM多项式分类器进行人脸识别。实验在FRERT人脸图像库上进行并与Relief特征选择方法进行了比较,对SVM和NN分类器的实验结果也进行了分析。实验结果显示:该文提出的人脸识别特征选择及识别方法是有效、适用的。     

基于增量贝叶斯的双偏振气象雷达降水粒子分类方法

面对降水粒子分类过程中可能存在的样本数不足,样本质量不高的问题,提出一种基于增量贝叶斯的双偏振气象雷达降水粒子分类方法。该方法首先处理有标签的训练数据集,获取属性节点和类节点之间的条件概率表构建朴素贝叶斯分类器;接着使用朴素贝叶斯分类器分类无标签数据,判断类置信度值后将符合条件的数据追加到训练数据集中,最后修正朴素贝叶斯分类器完成增量学习,得到增量贝叶斯分类器实现降水粒子分类。增量贝叶斯分类器不仅能够增加有效的数据样本,还能够及时更新分类器从而提高其泛化性和适应性,分类结果的准确性也得到了一定的改善。     

一种集成式Beta过程最大间隔一类分类方法

一类分类是一种将目标类样本和其他所有的非目标类样本区分开的分类方法.传统的一类分类方法针对所有训练样本建立一个分类器,忽视了数据的内在结构,在样本分布复杂时,其分类性能会严重下降.为了提升复杂分布情况下的分类性能,该文提出一种集成式Beta过程最大间隔一类方法.该方法利用Dirichlet过程混合模型(DPM)对训练样本聚类,同时在每一个聚类学习一个Beta过程最大间隔一类分类器.通过多个分类器的集成,可以构造出一个描述能力更强的分类器,提升复杂分布下的分类效果.DPM聚类模型和Beta过程最大间隔一类分类器在同一个贝叶斯框架下联合优化,保证了每一个聚类样本的可分性.此外,在Beta过程最大间隔一类分类器中,加入了服从Beta过程先验分布的特征选择因子,从而可以降低特征冗余度以及提升分类效果.基于仿真数据、公共数据集和实测SAR图像数据的实验结果证明了所提方法的有效性.     

一种集成式Beta过程最大间隔一类分类方法

一类分类是一种将目标类样本和其他所有的非目标类样本区分开的分类方法。传统的一类分类方法针对所有训练样本建立一个分类器,忽视了数据的内在结构,在样本分布复杂时,其分类性能会严重下降。为了提升复杂分布情况下的分类性能,该文提出一种集成式Beta过程最大间隔一类方法。该方法利用Dirichlet过程混合模型(DPM)对训练样本聚类,同时在每一个聚类学习一个Beta过程最大间隔一类分类器。通过多个分类器的集成,可以构造出一个描述能力更强的分类器,提升复杂分布下的分类效果。DPM聚类模型和Beta过程最大间隔一类分类器在同一个贝叶斯框架下联合优化,保证了每一个聚类样本的可分性。此外,在Beta过程最大间隔一类分类器中,加入了服从Beta过程先验分布的特征选择因子,从而可以降低特征冗余度以及提升分类效果。基于仿真数据、公共数据集和实测SAR图像数据的实验结果证明了所提方法的有效性。     

基于多目标微粒群优化的异质数据特征选择

环境和测量仪器精度的影响,使得采样数据的不同特征具有不同的质量.对这类异质数据进行特征选择,需要同时考虑特征子集确定分类器的准确度和可靠性,从而增加了特征选择的难度.本文研究异质数据的特征选择问题,提出一种基于多目标微粒群优化的特征选择方法.该方法首先以特征选择的概率为决策变量,将具有离散变量的特征选择问题,转化为连续变量多目标优化问题;然后,采用微粒群优化求解时,基于高斯采样,产生微粒的全局引导者,以提高Pareto解集的分布性;最后,依据储备集中元素更新的速度,确定需要扰动的微粒,以帮助微粒群跳出局部最优.将所提方法应用于多个典型数据集分类问题,实验结果表明了所提方法的有效性.     

一种分层多算法集成的微博情感分类方法

目前主观信息情感分类常用的方法主要有基于知识工程和基于统计两类,其中基于统计的机器学习方法在效率上优于基于知识的方法,但单一的机器学习算法有各自的优缺点,难以胜任复杂的分类任务。本文将微博情感判别任务分层,在不同层次选择合适的机器学习算法,提出了一种多算法集成的微博细粒度情感分类方法。首先采用朴素贝叶斯(NB)分类器对微博进行有无情绪分类,然后采用AdaBoost集成算法对KNN进行集成训练出多个分类器,对有情绪微博基于训练出的多个分类器通过线性组合模型进行情感判别。实验结果表明,在文本分类任务中合理集成不同机器学习算法,较单一机器学习算法和基于情感词典的方法能够提高分类性能。     

一种基于模糊逻辑的贝叶斯最优学习器

针对变压器故障信息中存在有不完整、不确定及模糊性的知识,提出一种基于模糊逻辑和贝叶斯最优分类器结合的模糊贝叶斯分类器。该方法首先利用观察信息的模糊隶属度函数建立贝叶斯最优分类器中假设的后验概率,进而计算各类故障信息分类的结果并进行加权平均后得到最佳的诊断结果。应用和研究表明该方法能解决贝叶斯分类器中模糊信息获取的“瓶颈”难题,具有很强的学习能力,是一种有效的变压器绝缘故障诊断方法。     

结合朴素贝叶斯和欧氏距离的二类非均衡数据集成方法

随着数据挖掘技术的发展,传统集成方法中的集成规则,例如 Max rule, Min rule, Product rule, 以及 Sum rule,已经不能满足现实中对于二类非均衡数据分类正确率的需要。因此本文提出了基于朴素贝叶斯和欧氏距离的二类非均衡数据集成方法。该集成方法是以朴素贝叶斯为基分类器,其集成规则通过引入测试数据与训练数据之间的欧式距离以及训练数据中多数类与少数类之间的关系,在空间距离上加强了最终的分类结果与原始训练数据之间的关联性。实验结果表明,该集成方法在处理二类非均衡数据时,Area Under roc Curve(AUC)值与现存的集成方法相比显著提高,从而具有更好的分类性能。因此,本文方法在处理二类非均衡数据时具有明显优势。      

基于贝叶斯分类器的图像隐写分析

集成分类器是目前用于图像隐写分析的主流分类器。为提高集成分类器的检测精度,针对集成分类器基分类器组合方法过于简单,无法体现基分类器之间的内在联系,不能从整体上对结果进行判定的缺点,依据图像特征在集成分类器分类超平面上的投影值服从多维正态分布这一特性,提出了一种基于贝叶斯分类器的图像隐写分析算法。首先基于随机森林算法生成若干基分类器,然后计算类条件概率密度函数与先验概率并训练贝叶斯分类器,最后使用经过训练的贝叶斯分类器代替简单投票方法进行分类判决。算法的检测错误率比以往算法平均降低了1.6%,ROC曲线比简单投票方法更接近于左上角,即具有更高的检测率,AUC值平均增长约2.12%,并且训练时间仅有少量提高,最大提高约2.610s。可以有效提高集成分类器的检测精度。     

基于改进仿射传播聚类和高斯凸函数证据理论的分类器集成方法

多分类器集成的目的是通过集成多个弱分类器来产生一个强分类器,已成为信息融合领域最重要的研究课题之一。对于单源分类器集成来说,待集成分类器数目、精度和多样性之间存在冲突,如何对它们进行合理均衡,从而进一步提高分类精度仍是当前有待解决的问题之一。为此,本文提出一种基于改进仿射传播聚类和高斯凸函数证据理论的分类器集成方法,首先采用Bagging算法训练一些分类器,然后利用仿射传播聚类算法对分类器进行选择,之后利用高斯凸函数证据理论方法对选中的分类器进行集成。     

利用多特征融合和集成学习的极化SAR图像分类

该文提出了一种利用多特征融合和集成学习的极化SAR图像监督分类算法。该算法首先提取极化SAR图像的多重特征,包括EPFS特征,Hoekman分解特征,Huynen分解特征,H/alpha/A分解特征以及扩展四分量分解特征。为保证集成学习中基本分类器的差异性与准确性,算法从5组特征集中每次随机选取两组不同的特征进行串联融合,作为SVM分类器的输入。最后,利用随机森林学习算法将所有基本分类器的预测概率集成输出最终分类结果。像素级和区域级的分类实验表明了该文算法的有效性。