一种基于差异演化变异的粒子群优化算法

为了保持粒子种群的多样性而避免发生“早熟”的问题,提出一种基于差异演化变异的粒子群优化算法（PSO）,该方法通过粒子聚集性判断如果粒子群中的粒子过于聚集,则使用差异演化算法对PSO算法中各个粒子的自身历史最佳位置进行变异,以实现保持粒子群种群多样性的目的。对4种常用函数的优化问题进行测试并进行比较,结果表明：所改进的粒子群优化算法比标准粒子群优化算法更容易找到全局最优解,优化效率和优化性能明显提高。     

基于距离的k最优粒子群优化算法

传统的粒子群优化算法（Particle Swarm Optimization,PSO）只考虑了最优粒子对整个进化过程的引导作用且在一次迭代中所有粒子采用相同的惯性权值。为了体现各粒子相对于已知最优解的差异,提出了一种基于距离度量的自适应（k,l）PSO算法。（k,l）PSO算法采用轮盘赌策略在k个最优的粒子中选择一个粒子作为全局最优粒子参与粒子的速度更新,同时,根据粒子间的平均距离l确定粒子与选中的最优粒子的距离,自适应调整粒子的惯性权值。通过基准测试函数对算法进行了实验,实验验证了（k,l）PSO算法的有效性。     

一种带逆反的粒子群算法

粒子群算法（PSO）是一种典型的基于群体智能的优化算法，但其在速度较小时，容易陷入局部最优解；本文提出一种带逆反的粒子群算法（PSORTP），并对其全局收敛性进行了理论分析，证明该算法能够以概率1收敛于全局最优解，最后以典型的函数优化问题的仿真实验及与经典方法的PSO的对比，验证了PSORTP的有效性。     

一种基于量子行为的改进粒子群算法

研究粒子群优化算法（PSO）的收敛速度,以提高该算法性能是PSO的一个重要而且有意义的研究。Jun Sun 等人通过对PSO系统下的单个个体在量子多维空间的运动及其收敛性的分析,提出了具有函数形式的粒子群算法（Quantum Delta-Potential-Well-based PSO）。在此基础上进行了改进,用粒子的速度来产生一个随机数引导粒子向最优解快速靠拢,并对速度的处理采取了新的策略。仿真结果表明：该改进算法对收敛速度有非常好的改善,而且稳定性也较好。     

一种新的双予群PSO算法

提出一种新的双子群粒子群优化（PSO）算法。充分利用搜索域内的有效信息,通过2组搜索方向相反的主、辅子群之间的相互协同,扩大搜索范围。在不增加粒子群规模的前提下,提高解高维最优化问题的精度,降低粒子群优化算法陷入局部最优点的风险。3种典型函数的仿真结果及与2种经典PSO算法的比较结果验证了该算法的有效性。     

基于自适应扰动的粒子群优化算法

为了避免粒子群优化算法（PSO）早熟收敛,提出了一种自适应扰动的PSO算法（ADPSO）,以帮助停滞的粒子跳出局部最优。为了验证算法的有效性,实验测试了九个多峰函数,包括四个旋转函数。仿真结果表明,该算法优于其他五种PSO算法。     

交叉反向学习和同粒社会学习的粒子群优化算法

针对社会学习粒子群优化（SLPSO）算法存在的优化效率低、收敛速度慢等问题,提出了一种改进的SLPSO算法,即基于交叉反向学习和同粒社会学习的PSO算法（CPPSO）。首先,将最优解随机纵向交叉与一般反向学习以及随机反向学习构建交叉反向学习;然后,以此交叉反向学习策略更新种群中的最优粒子位置,增强探索能力,并克服SLPSO中最优粒子无更新导致效率低下的缺点;最后,对于非最优粒子,与SLPSO采用基于维的社会学习不同,均采用新型基于粒子的社会学习机制,在提高全局搜索能力同时,更提高开采能力和搜索效率。在一组不同维基准函数上优化的实验结果表明,CPPSO的优化性能、搜索效率和普适性大幅度领先于SLPSO和其他先进的PSO改进算法,如交叉搜索PSO （CSPSO）算法、自我调节的PSO （SRPSO）算法、异构综合学习的PSO （HCLPSO）算法和反向学习和局部学习能力的PSO （RLPSO）算法。     

一种自适应指导的文化粒子群算法

针对文化粒子群算法中影响函数对群体空间的全局变异操作,易导致粒子群算法结构失效及不易收敛的缺点,将群体适应度方差引入到群体空间,提出一种自适应指导的文化粒子群算法。算法通过计算群体适应度方差判断群体空间状态,当算法陷入局部最优时,自适应地利用影响函数对群体空间进行变异更新,从而有效发挥了文化粒子群算法“双演化双促进”机制。将该算法与基本粒子群算法（PSO）、文化粒子群算法（CPSO）和自适应变异粒子群算法（AMPSO）进行比较,实验结果证明该算法不仅具有较好的全局收敛性,算法收敛速度和稳定性也都有显著提高。     

基于多目标骨架粒子群优化的特征选择算法

针对在分类问题中,数据之间存在大量的冗余特征,不仅影响分类的准确性,而且会降低分类算法执行速度的问题,提出了一种基于多目标骨架粒子群优化（BPSO）的特征选择算法,以获取在特征子集个数与分类精确度之间折中的最优策略。为了提高多目标骨架粒子群优化算法的效率,首先使用了一个外部存档,用来引导粒子的更新方向;然后通过变异算子,改善粒子的搜索空间;最后,将多目标骨架粒子群算法应用到特征选择问题中,并利用K近邻（KNN）分类器的分类性能和特征子集的个数作为特征子集的评价标准,对UCI数据集以及基因表达数据集的12个数据集进行实验。实验结果表明,所提算法选择的特征子集具有较好的分类性能,最小分类错误率最大可以降低7.4%,并且分类算法的执行时间最多能缩短12 s,能够有效提高算法的分类性能与执行速度。     

一种用于高光谱遥感影像分类的改进多类支持向量机

将支持向量机(SVM)用于高光谱遥感影像分类的研究,采用决策边界特征提取(DBFE)算法对高光谱影像进行维数约简,以径向基函数(RBF)作为SVM模型的核函数,把混沌优化搜索技术引入到PSO算法中,以基本PSO算法为主体流程,对种群中最好的粒子进行给定步数的混沌优化搜索,以改进基本PSO算法进化后期收敛速度慢、易陷入局部极小值的缺陷。利用改进的混合粒子群优化算法(PSO)来实现SVM模型参数的自动选择,继而构建了一种参数最优的粒子群优化支持向量机(PSO-SVM)多类分类模型。选用220波段的AVIRIS高光谱遥感影像进行了分类试验。结果表明,与采用基于留一法(LOO)网格搜索策略的传统SVM相比,改进后的PSO-SVM算法可以提高分类精度约8.8%。该方法对于小样本、非均衡条件下的遥感影像数据分类非常有效。     

多标记数据特征提取方法的核改进

针对多标记数据特征提取方法中输出核函数没有准确刻画标记间的相关性的问题,在充分度量标记间相关性的基础上,提出了两种新的输出核函数构造方法。第一种方法首先将多标记数据转化为单标记数据,并使用标记集合来刻画标记间的相关性;然后从损失函数的角度出发定义新的输出核函数。第二种方法是利用互信息来度量标记间的两两相关性,在此基础上进一步构造新的输出核函数。3个多标记数据集上2种分类器的实验结果表明,与原有核函数对应的多标记特征提取方法相比,基于损失函数的输出核函数对应的特征提取方法性能最好,5个评价指标的性能平均提高了10%左右, 尤其在Yeast数据集上,Coverage指标下降幅度达到了30%左右;基于互信息的输出核函数次之,性能平均提高了5%左右。实验结果表明,基于新的输出核函数的特征提取方法能够更加有效地提取特征,并进一步简化分类器的学习过程,提高分类器的泛化性能。     

一种基于各向异性高斯核核惩罚的PCA特征提取算法

提出了一种基于各向异性高斯核核惩罚的主成分分析的特征提取算法.该算法不同于传统的核主成分分析算法.在非线性数据降维中,传统的核主成分分析算法忽略了原始数据的无量纲化.此外,传统的核函数在各维度上主要由一个相同的核宽参数控制,该方法无法准确反映各维度不同特征的重要性,从而导致降维过程中准确率低下.为了解决上述问题,首先针对现原始数据的无量纲化问题,提出了一种均值化算法,使得原始数据的总方差贡献率有明显的提高.其次,引入了各向异性高斯核函数,该核函数每个维度拥有不同的核宽参数,各核宽参数能够准确地反映所在维度数据特征的重要性.再次,基于各向异性高斯核函数建立了核主成分分析的特征惩罚目标函数,以便用较少的特征表示原始数据,并反映每个主成分信息的重要性.最后,为了寻求最佳特征,引入梯度下降算法来更新特征惩罚目标函数中的核宽度和控制特征提取算法的迭代过程.为了验证所提出算法的有效性,各算法在UCI公开数据集上和KDDCUP99数据集上进行了比较.实验结果表明,所提基于各向异性高斯核核惩罚的主成分分析的特征提取算法比传统的主成分分析算法在9种公开的UCI公开数据集上准确率平均提高了4.49%.在KDDCUP99数据集上,所提基于各向异性高斯核核惩罚的主成分分析的特征提取算法比传统的主成分分析算法准确率提高了8%.     

基于距离和径向基核函数的加权KPCA分析

针对利用核主成分分析方法处理非线性问题存在对干扰点的敏感性和特征空间中的主成分缺乏明确的物理意义等缺点,提出了一种改进的模糊KPCA(Improved Fuzzy Kernel Principal Component Analysis,IFKPCA)算法,对每个样本点进行加权处理,并利用基于距离的特征核函数和径向基核函数,把特征空间中的重构误差和输入空间的误差对应起来。用算法对2个无干扰和有干扰的数据集进行了仿真实验。同时,对药物代谢的数据进行主成分提取。结果表明,IFKPCA弱化了干扰点对样本分布的影响,表现出较好的鲁棒性;基于距离的特征核函数对样本分布具有较大的依赖性,而径向基核函数对样本分布具有良好的鲁棒性,对药物代谢的应用结果也进一步表明了IFKPCA的有效性和可行性。     

基于改进结构保持数据降维方法的故障诊断研究

传统基于核主成分分析(Kernel principal component analysis, KPCA)的数据降维方法在提取有效特征信息时只考虑全局结构保持而未考虑样本间的局部近邻结构保持问题, 本文提出一种改进全局结构保持算法的特征提取与降维方法.改进的特征提取与降维方法将流形学习中核局部保持投影(Kernel locality preserving projection, KLPP)的思想融入核主成分分析的目标函数中, 使样本投影后的特征空间不仅保持原始样本空间的整体结构, 还保持样本空间相似的局部近邻结构, 包含更丰富的特征信息.上述方法通过同时进行的正交化处理可避免局部子空间结构发生失真, 并能够直观显示出低维结果, 将低维数据输入最近邻分类器, 以识别率和聚类分析结果作为衡量指标, 同时将所提方法应用于故障诊断中.使用AVL Boost软件模拟的柴油机故障数据和田纳西(Tennessee Eastman, TE)化工数据仿真, 验证了所提方法的有效性.     

Improvement of the kernel minimum squared error model for fast feature extraction

The kernel minimum squared error (KMSE) expresses the feature extractor as a linear combination of all the training samples in the high-dimensional kernel space. To extract a feature from a sample, KMSE should calculate as many kernel functions as the training samples. Thus, the computational efficiency of the KMSE-based feature extraction procedure is inversely proportional to the size of the training sample set. In this paper, we propose an efficient kernel minimum squared error (EKMSE) model for two-class classification. The proposed EKMSE expresses each feature extractor as a linear combination of nodes, which are a small portion of the training samples. To extract a feature from a sample, EKMSE only needs to calculate as many kernel functions as the nodes. As the nodes are commonly much fewer than the training samples, EKMSE is much faster than KMSE in feature extraction. The EKMSE can achieve the same training accuracy as the standard KMSE. Also, EKMSE avoids the overfitting problem. We implement the EKMSE model using two algorithms. Experimental results show the feasibility of the EKMSE model.     

基于多核Fisher判别分析的人脸特征提取

核Fisher判别分析法是一种有效的非线性判别分析法。传统的核Fisher判别分析仅选用单个核函数,在人脸特征提取方面仍显不足。鉴于此,提出多核Fisher判别分析法,即通过将多个单核Fisher判别得到的投影进行加权组合得到加权投影,以加权投影为依据进行特征提取和分类。实验表明,在进行人脸特征提取和分类时,多核Fisher判别分析法优于单核Fisher判别分析法。     

基于Gabor小波与支持向量机对储粮害虫分类识别

将Gabor小波与支持向量机有机结合起来,对储粮害虫进行分类识别。首先对原始图像进行不同尺度和不同方向的Gabor滤波,获得原始图像特征,然后将遗传算法与支持向量机相结合来自动优选支持向量机模型参数,减少了以往应用中需反复实验来确定其参数的人工工作量。实验结果表明该方法识别率高,识别速度快,容错性好,而且能够正确识别有噪声的储粮害虫图像。为储粮害虫的快速鉴定和分类研究提供了可靠和科学的信息。     

基于一种小波核优化学习的KSPP子空间故障特征提取*

针对电子系统故障诊断中有效特征提取困难,核属性约简方法中核函数与核参数选择繁琐等问题,提出了一种基于自优化小波核稀疏保持投影的子空间特征提取方法。通过对核极化准则的改进,使得新准则不仅可以处理多类别信息,而且可以保留同一类别数据间的局部结构特征。以墨西哥帽小波核函数为对象,基于改进的核评估准则构建优化目标函数,并采用粒子群优化算法进行核参数选择。将优化的小波核作为核稀疏保持投影的核函数,最终实现了在核子空间中对有效特征的提取。实验结果表明,相比于其它流形的子空间特征提取方法,提出的方法有效提升了分类精度,具有良好的泛化性能。     

基于KL散度的支持向量机方法及应用研究

针对ICA提取的说话人语音特征,导出以库尔贝克—莱布勒（KL）散度作为距离测度的KL核函数用来设计支持向量机,实现了一个高分辨率的ICA/SVM说话人确认系统.说话人确认的仿真实验结果表明,使用ICA特征基函数系数比直接使用语音数据训练SVM得到的分类间隔大,支持向量少,而且使用KL核函数的ICA/SVM系统确认的等差率也低于其它传统SVM方法,证明了基于KL散度的支持向量机方法在实现分类和判决上具有高效性能.     

改进FCM和LFP相结合的白细胞图像分类

研究白细胞图像分类识别中有效的图像分割与特征提取方法,以提高白细胞图像的正确识别率.由于某些白细胞(粒细胞)中颗粒的存在,严重影响细胞核与细胞质区域的正确分割,通过将空间信息与核函数融入模糊C-均值聚类(FCM)算法,提出一种改进的FCM算法.应用该算法对白细胞图像进行分割,并采用数学形态学方法对分割后的图像进行处理,获得了很好的分割效果,解决了粒细胞的质核分割难题.对于细胞的纹理特征提取,通过对局部二值模式(LBP)中阈值参数的模糊化,建立了基于局部模糊模式(LFP)的纹理特征提取算法.运用本文方法进行图像分割和纹理提取,以支持向量机作为分类器,对CellAtlas的100幅白细胞图像进行了分类识别的实验,结果表明白细胞的正确识别率达到93％.