基于Multi-Agent的乳腺钼靶图像肿块分类方法

钼靶摄影是目前使用最广泛的乳腺癌早期诊断技术,恶性肿块是钼靶图像中乳腺癌变的一种重要表现。本文提出了一种基于Multi-Agent(多智能体)的多分类器融合乳腺肿块分类方法。首先将单分类器的结果作为初状态输入到各Agent(智能体),接着通过引入决策共现矩阵,利用分类器之间的决策相关信息,在Agent之间进行信息交流,指导各个Agent向不同类别溯源,从而通过Agent之间的信息交互改变溯源概率,最终达到群体决策,得到决策类别。良性恶性肿块在形状和边缘上的差异较大,本文主要使用肿块的边缘特征和形状特征,并提出了两个新的边缘特征。实验采用了美国南佛罗里达大学的DDSM数据库作为实验数据,从中随机挑选了64个恶性肿块和64个良性肿块。实验结果表明,Multi-Agent融合算法的分类精度达94.87%优于传统的融合算法和经典的单分类器算法,其稳定性能也较融合算法及大多数单分类器的效果要好(略低于BP算法)。同时,实验结果也表明所提出的特征在表征肿块的良性恶性时起到了较好的作用。     

基于类别信息的分类器集成方法Cagging

提出一种基于类别信息的分类器集成方法Cagging.基于类别信息重复选择样本生成基本分类器的训练集,增强了基本分类器之间的差异性;利用基本分类器对不同模式类的分类能力为每个基本分类器设置一组权重.使用权重对各分类器输出结果进行加权决策,较好地利用了各个基本分类器之间的差异性.在人脸图像库ORL上的实验验证了Cagging的有效性.此外,Cagging方法的基本分类器生成方式适合于通过增量学习生成集成分类器,扩展Cagging设计了基于增量学习的分类器集成方法Cagging-Ⅰ,实验验证了它的有效性.     

基于Borda规则的分类器组合方法及其在手写字符识别中的应用

提出了一种基于Borda规则的分类器组合方法。该方法将分类器组合问题看成多目标多人决策问题，是一种基于类别排序的方法。在标准手写数字数据集上对该算法进行了实验研究，证实该算法的识别率较单个分类器有明显提高，具有深入研究的价值。     

双色红外图像目标多特征决策级融合识别算法

针对双色红外成像系统中的自动目标识别问题,提出了一种采用多特征多分类器决策级融合的目标识别算法。该算法首先提取目标的形状特征和面貌特征;接着基于各种不同特征设计多个分类器对目标进行分类;然后采用所设计的多分类器决策级融合策略对多个分类器的目标分类结果进行融合处理;最后采用所提出的决策规则对多分类器融合分类结果进行处理得到最终的目标识别结果。该算法充分利用了目标在多传感器图像中的多种分类特征信息,在较大程度上提高了系统的目标识别效率和精确性。实验结果证实了该算法的有效性。     

二叉树型多分类器融合的轴承故障诊断方法

多分类器融合能有效集成多种分类算法的优势,实现优势互补,提高智能诊断模型的稳健性和诊断精度。但在利用多数投票法构建多分类器融合决策系统时,要求成员分类器数目多于要识别的设备状态数,否则会出现无法融合的情况。针对此问题,提出了一种基于二叉树的多分类器融合算法,利用二叉树将多类分类问题转化为多个二值分类问题,从而各个节点上的成员分类器个数只要大于2即可,有效避免了成员分类器数目不足的问题。实验结果表明,相比单一分类器的诊断方法,该方法能有效地实现滚动轴承故障智能诊断,并具有对各神经网络初始值不敏感、识别率高且稳定等优势。     

基于遗传算法的多扰动多K近邻分类器系统

为改善维数灾难对K近邻分类器的影响,提出一种基于遗传算法(GA)的多扰动的K近邻融合算法,简称GA-MKNNC算法。目标扰动将所识别的问题划分成多个子分类问题进行单独识别。针对不同子分类问题,数据扰动选取相关的数据,特征扰动确定相关的特征,参数扰动明确相关参数值。数据扰动由Bagging算法确定。特征扰动和参数扰动通过GA学习得到。多个子分类问题的决策通过最大融合得到最终决策。实验结果表明,该算法的性能优于K近邻分类器及多数融合算法,且选用的子分类器数目少于FASBIR算法。     

粒子群优化多分类器融合模型

为改进多分类器系统的性能，提出一个多分类器融合模型，该模型将和规则与多数投票作为特例纳入其体系中,用粒子群算法对融合模型进行优化得到PSO优化模型．在UCI标准数据集上对模型进行了实验研究．实验结果显示，同多数投票等6种融合方法中的最好结果相比，PSO优化模型使4个数据集上的错误率分别降低了91．44％、53．19％、5．76％、2．03％．实验中还发现，将性能较差的分类器从分类器集合中剔除能够进一步提高分类性能．     

基于FCM的两级集成分类器算法

基于模糊聚类的思想提出了一种新的两级集成分类器算法.将数据集用Fuzzy C-Means算法进行聚类,得到每个实例对应于每个类别的模糊隶属度.一级集成根据Bagging算法获得成员分类器,分类器个数为数据集类别数且每个成员分类器对应一个类别标号,这些成员分类器的采样方式是通过其对应类别的模糊隶属度为每个实例加权后进行随机重采样.二级集成是将一级集成产生的针对类别的成员分类器通过动态加权多数投票法来组合,学习到最终的分类结果.该算法称为EWFuzzyBagging,实验结果表明,该算法与Bagging和AdaBoost相比具有更好的健壮性.     

基于Local约简的序贯三支分类器

序贯三支决策是三支决策理论近年发展起来的一种新型决策方法。传统的序贯三支决策方法鲜有针对序贯信息粒的构建和其在分类学习中的应用的研究。针对这两个问题,研究了Local约简与Global约简之间的内在序贯性,并以此构建了具有约简特性的序贯信息粒。在此基础上设计了一种序贯三支分类器。实验结果表明,该序贯三支分类器不仅能很好地在合适信息粒上进行分类,而且较传统的分类算法提高了数据集的分类精度。     

多决策模板分类器融合

针对多类分类问题提出了一种新的度量层分类器融合方法,为每个模式类设置多个决策模板,每个决策模板针对一种容易发生的分类错误,从而能够有效地降低错误率;此外,采用模糊系统表示Meta层样本与各个决策模板之间的关系,能够比较准确地计算样本属于各个模式类的总分类置信度。从公用数据仓库中选取了三个较大规模数据集对新方法进行测试,并且与k-近邻规则、投票法、朴素贝叶斯法、线性规则、模板匹配法等常用的分类器融合方法进行了比较。大量实验结果表明,对于类别数在3~15之间的分类问题,该方法具有较好的综合性能。     

基于聚类欠采样的集成分类算法

不平衡数据常出现在各应用领域中,传统分类器往往关注于多数类样本而导致样本分类效果不理想。针对此问题,提出一种基于聚类欠采样的集成分类算法(ClusterUndersampling-AdaCost, CU-AdaCost)。该算法通过计算样本间维度加权后的欧氏距离得出各簇的样本中心位置,根据簇心邻域范围选择出信息特征较强的多数类样本,形成新的训练集;并将训练集放在引入代价敏感调整函数的集成算法中,使得模型更加关注于少数类别。通过对6组UCI数据集进行对比实验,结果表明,该算法在欠采样过程中抽取的样本具有较强的代表性,能够有效提高模型对少数类别的分类性能。     

A class decomposition approach for GA-based classifiers

Genetic algorithm (GA) has been used as a conventional method for classifiers to evolve solutions adaptively for classification problems. In this paper, a new approach using class decomposition is proposed to improve the performance of GA-based classifiers. A classification problem is fully partitioned into several class modules in the output domain and each module is responsible for solving a fraction of the original problem. These modules are trained in parallel and independently and the results obtained are integrated and evolved further for a final solution. A scheme based on Fisher's linear discriminant (FLD) computation is used to estimate the difficulty of separating two classes. Based on the FLD information derived, different integration approaches are proposed and their performance is compared. The experiment results on a benchmark data set show that class decomposition can achieve higher classification rate than the normal GA and FLD-based integration improves the classification accuracy further.     

基于欠采样和代价敏感的不平衡数据分类算法

针对不平衡数据集中的少数类在传统分类器上预测精度低的问题,提出了一种基于欠采样和代价敏感的不平衡数据分类算法——USCBoost。首先在AdaBoost算法每次迭代训练基分类器之前对多数类样本按权重由大到小进行排序,根据样本权重选取与少数类样本数量相当的多数类样本;之后将采样后的多数类样本权重归一化并与少数类样本组成临时训练集训练基分类器;其次在权重更新阶段,赋予少数类更高的误分代价,使得少数类样本权重增加更快,并且多数类样本权重增加更慢。在10组UCI数据集上,将USCBoost与AdaBoost、AdaCost、RUSBoost进行对比实验。实验结果表明USCBoost在F1-measure和G-mean准则下分别在6组和9组数据集获得了最高的评价指标。可见所提算法在不平衡数据上具有更好的分类性能。     

基于方形邻域和随机数组的哈里斯鹰优化算法

针对哈里斯鹰优化算法探索能力和开发能力不平衡的问题,通过设置一种多子群方形邻域拓扑结构引导各子群内的个体可以纵横双向随机觅食.为了避免局部最优,通过设置固定置换概率,加强各个子群个体的信息交流,使子群内个体依照随机数组与其他子群的相应个体进行置换.在子群内部,基于历史进化信息进行HHO算法中的算子选择,以更好地利用现有问题领域的信息.利用可变维度基准函数与各种智能优化算法及其改进方法进行跨文献对比,结果表明改进方法在收敛精度、寻优能力上明显高于原始算法和对比文献,且具有较好的鲁棒性,适合推广至实际的优化问题之中.     

混合模式搜索的分布式memetic差分进化算法

针对差分进化（DE）算法存在的早熟收敛与搜索停滞的问题,提出memetic分布式差分进化（DDE）算法。将memetic算法的思想融入到差分进化算法中,采用分布式的种群结构以及memetic算法中的混合策略,前者将初始种群分为多个子种群,子种群间根据冯·诺依曼拓扑结构周期性地实现信息交流,后者将差分进化算法作为进化的主要框架,模式搜索作为辅助手段,从而平衡算法的探索与开发能力。所提算法充分利用了模式搜索和差分进化算法的优势,建立了有效的搜索机制,增强了算法摆脱局部最优的能力,能够满足搜索过程对种群多样性及收敛速度的需求。将所提算法与几种先进的差分进化算法相比较,对标准测试函数进行优化的实验结果显示：所提算法在解的质量和收敛性能方面,均优于其他几种相比较的先进的差分进化算法。     

Farsi/Arabic handwritten digit recognition based on ensemble of SVD classifiers and reliable multi-phase PSO combination rule

The problem of handwritten digit recognition has long been an open problem in the field of pattern classification and of great importance in industry. The heart of the problem lies within the ability to design an efficient algorithm that can recognize digits written and submitted by users via a tablet, scanner, and other digital devices. From an engineering point of view, it is desirable to achieve a good performance within limited resources. To this end, we have developed a new approach for handwritten digit recognition that uses a small number of patterns for training phase. To improve the overall performance achieved in classification task, the literature suggests combining the decision of multiple classifiers rather than using the output of the best classifier in the ensemble; so, in this new approach, an ensemble of classifiers is used for the recognition of handwritten digit. The classifiers used in proposed system are based on singular value decomposition (SVD) algorithm. The experimental results and the literature show that the SVD algorithm is suitable for solving sparse matrices such as handwritten digit. The decisions obtained by SVD classifiers are combined by a novel proposed combination rule which we named reliable multi-phase particle swarm optimization. We call the method “Reliable” because we have introduced a novel reliability parameter which is applied to tackle the problem of PSO being trapped in local minima. In comparison with previous methods, one of the significant advantages of the proposed method is that it is not sensitive to the size of training set. Unlike other methods, the proposed method uses just 15 % of the dataset as a training set, while other methods usually use (60–75) % of the whole dataset as the training set. To evaluate the proposed method, we tested our algorithm on Farsi/Arabic handwritten digit dataset. What makes the recognition of the handwritten Farsi/Arabic digits more challenging is that some of the digits can be legally written in different shapes. Therefore, 6000 hard samples (600 samples per class) are chosen by K-nearest neighbor algorithm from the HODA dataset which is a standard Farsi/Arabic digit dataset. Experimental results have shown that the proposed method is fast, accurate, and robust against the local minima of PSO. Finally, the proposed method is compared with state of the art methods and some ensemble classifier based on MLP, RBF, and ANFIS with various combination rules.     

基于信息交流策略的连续域蚁群优化算法

连续域蚁群优化算法（ACOR）在求解优化问题时,全局寻优能力弱,寻优结果精度低。受自然界中优秀的个体之间相互交流和结合可以产生较优的后代的启发,提出了一种基于信息交流策略的连续域蚁群优化算法（ICACO）。ICACO算法在对解的更新过程中选取一部分较优解利用信息交流策略进行处理得到候选解,并采用贪婪方式接受能够改善解的质量的候选解。通过标准测试函数对所提算法进行测试,实验结果表明ICACO算法能够有效地提高ACOR算法寻优结果的精度并加快收敛速度。该算法与相关改进的连续域蚁群算法及其他智能优化算法相比全局搜索能力更高,效果更好。     

结合主动学习与置信度投票的集成自训练方法

基于集成学习的自训练算法是一种半监督算法,不少学者通过集成分类器类别投票或平均置信度的方法选择可靠样本。基于置信度的投票策略倾向选择置信度高的样本或置信度低但投票却一致的样本进行标记,后者这种情形可能会误标记靠近决策边界的样本,而采用异构集成分类器也可能会导致各基分类器对高置信度样本的类别标记不同,从而无法将其有效加入到有标记样本集。提出了结合主动学习与置信度投票策略的集成自训练算法用来解决上述问题。该算法合理调整了投票策略,选择置信度高且投票一致的无标记样本加以标注,同时利用主动学习对投票不一致而置信度较低的样本进行人工标注,以弥补集成自训练学习只关注置信度高的样本,而忽略了置信度低的样本的有用信息的缺陷。在UCI数据集上的对比实验验证了该算法的有效性。     

SVM based adaptive learning method for text classification from positive and unlabeled documents

Automatic text classification is one of the most important tools in Information Retrieval. This paper presents a novel text classifier using positive and unlabeled examples. The primary challenge of this problem as compared with the classical text classification problem is that no labeled negative documents are available in the training example set. Firstly, we identify many more reliable negative documents by an improved 1-DNF algorithm with a very low error rate. Secondly, we build a set of classifiers by iteratively applying the SVM algorithm on a training data set, which is augmented during iteration. Thirdly, different from previous PU-oriented text classification works, we adopt the weighted vote of all classifiers generated in the iteration steps to construct the final classifier instead of choosing one of the classifiers as the final classifier. Finally, we discuss an approach to evaluate the weighted vote of all classifiers generated in the iteration steps to construct the final classifier based on PSO (Particle Swarm Optimization), which can discover the best combination of the weights. In addition, we built a focused crawler based on link-contexts guided by different classifiers to evaluate our method. Several comprehensive experiments have been conducted using the Reuters data set and thousands of web pages. Experimental results show that our method increases the performance (F₁-measure) compared with PEBL, and a focused web crawler guided by our PSO-based classifier outperforms other several classifiers both in harvest rate and target recall.