解决高维优化问题的差分进化算法

针对高维优化问题难以解决并且优化耗费时间长的问题,提出了一种解决高维优化问题的差分进化算法。将协同进化思想引入到差分进化领域,采用一种由状态观测器和随机分组策略组成的协同进化方案。其中,状态观测器根据搜索状态反馈信息适时地调用随机分组策略重新分组;随机分组策略将高维优化问题分解为若干较低维的子问题,而后分别进化。该方案有效地增强了算法解决高维优化问题的搜索速度和搜索能力。经典型的实例测试,并与其他一流差分进化算法比较,实验结果表明:所提算法能有效地求解不同类型的高维优化问题,在搜索速度方面有明显提升,尤其对可分解的高维优化问题极具竞争力。     

解决高维优化问题的差分进化算法

针对高维优化问题难以解决并且优化耗费时间长的问题,提出了一种解决高维优化问题的差分进化算法。将协同进化思想引入到差分进化领域,采用一种由状态观测器和随机分组策略组成的协同进化方案。其中,状态观测器根据搜索状态反馈信息适时地调用随机分组策略重新分组;随机分组策略将高维优化问题分解为若干较低维的子问题,而后分别进化。该方案有效地增强了算法解决高维优化问题的搜索速度和搜索能力。经典型的实例测试,并与其他一流差分进化算法比较,实验结果表明:所提算法能有效地求解不同类型的高维优化问题,在搜索速度方面有明显提升,尤其对可分解的高维优化问题极具竞争力。     

基于多因子粒子群的高维数据特征选择算法

特征选择是机器学习和数据挖掘领域中一项重要的数据预处理技术,它旨在最大化分类任务的精度和最小化最优子集特征个数。运用粒子群算法在高维数据集中寻找最优子集面临着陷入局部最优和计算代价昂贵的问题,导致分类精度下降。针对此问题,提出了基于多因子粒子群算法的高维数据特征选择算法。引入了进化多任务的算法框架,提出了一种两任务模型生成的策略,通过任务间的知识迁移加强种群交流,提高种群多样性以改善易陷入局部最优的缺陷;设计了基于稀疏表示的初始化策略,在算法初始阶段设计具有稀疏表示的初始解,降低了种群在趋向最优解集时的计算开销。在6个公开医学高维数据集上的实验结果表明,所提算法能够有效实现分类任务且得到较好的精度。     

基于精英种群策略的协同差分进化算法

针对差分进化算法在处理函数优化时存在的过早收敛和易陷入局部最优的问题,提出了一种基于精英种群策略的协同差分进化算法。在优化过程中,首先对种群进行适应度值评估和排序,提取前N个优秀个体组成精英种群,其余个体随机分为3个等大的子种群,每个子种群采取不同的进化策略,以此来保证种群的多样性;然后每隔一定代数,根据新的适应度值更新精英种群和其余3个子种群,这样可以有效地避免算法陷入局部最优;最后,将所提出的算法与4个先进的差分进化算法在CEC2014的30个标准测试函数上进行对比实验。实验结果表明,所提出的算法能够有效提高收敛速度,具有较高的收敛精度和较好的优化性能。     

基于多策略协同进化差分算法的社区居民负荷优化调度

针对需求响应下负荷调度的问题,为提供满足居民利益的响应方案,并提高电网运行稳定性,综合考虑电价、激励型需求响应机制与居民用电需求,以用电成本和社区负荷方差最小化为目标,建立了多用户负荷调度高维目标优化模型。结合模型特征提出一种基于多策略的合作协同进化差分进化算法,设计了基于居民用电特征的混合编码与种群初始化策略,以提高解的质量;引入合作协同进化思想将问题变量分解,依据高维目标分组与聚合对种群进行划分,避免陷入局优;各子种群进化时采取双差分模式协同策略,并构建知识迁移个体实现种群间信息交互,最后经贪婪与随机选择结合的种群合并策略保留完整优秀解至外部档案,以提高Pareto最优集的收敛性与分布性。算例仿真表明所提方法可降低社区居民用电成本18%左右、负荷波动方差30%以上;随着居民数量增加,算法的收敛性与多样性与同领域其他算法相比优势更为明显。     

双精英协同进化遗传算法

针对传统遗传算法早熟收敛和收敛速度慢的问题,提出一种双精英协同进化遗传算法(double elite coevolutionary genetic algorithm,简称DECGA).该算法借鉴了精英策略和协同进化的思想,选择两个相异的、高适应度的个体(精英个体)作为进化操作的核心,两个精英个体分别按照不同的评价函数来选择个体,组成各自的进化子种群.两个子种群分别采用不同的进化策略,以平衡算法的勘探和搜索能力.理论分析证明,该算法具有全局收敛性.通过对测试函数的实验,其结果表明,该算法能搜索到几乎所有测试函数的最优解,同时能够有效地保持种群的多样性.与已有算法相比,该算法在收敛速度和搜索全局最优解上都有了较大的改进和提高.     

基于向量角分解的高维多目标进化算法

选择是进化的主要驱动力,也是多目标进化算法的关键特征,然而,在处理高维多目标问题时,随着目标维数的增加种群的收敛性和分布性的冲突加剧,传统多目标进化算法中的选择算子已难以有效地维持种群的收敛性与分布性之间的平衡.针对该问题,提出一种基于向量角分解的高维多目标进化算法.首先,将个体本身作为参考向量,利用目标向量之间的夹角作为个体的相似度测度估计种群分布性,以减轻算法预先指定权重向量的负担;然后,利用成绩标量函数作为个体的收敛性测度,该收敛测度在引导种群走向Pareto最优前沿方面发挥着重要作用;最后,提出一种基于向量角分解的精英选择策略,其在环境选择过程中利用向量角信息将目标空间动态分解,并利用成绩标量函数从分布性较好的区域中挑选较好的个体进入下一代,能够动态地平衡种群的收敛性和分布性.对比实验结果表明,所提出算法具有较强的竞争力,其在保持种群分布性的同时具有足够的选择压力,能够有效地引导高维目标空间的搜索.     

动态环境下基于预测机制的多种群进化算法

提出一种动态环境下基于预测机制的多种群进化算法,将预测机制引入到动态进化算法的研究中,对算法所得的某些信息进行记忆,根据记忆序列构建预测模型,当环境发生变化时能够通过预测模型对动态环境进行预先判断.算法采用自组织侦查的多种群策略,多个子种群对搜索子空间进行局部搜索,主种群用于确定新的搜索子空间.在子种群的自适应调整、子种群间的拥挤操作等方面进行了改进,根据子种群所跟踪的最优解位置信息构建预测模型,当环境发生变化时通过预测及子种群的进化实现对动态环境的自适应跟踪.以移动峰问题为测试对象,实验结果表明新算法具有良好的处理动态问题的能力.     

融合微粒群的多种群协同进化免疫算法

提出一种融合微粒群的多种群协同免疫优势克隆选择算法(PMCICA).该算法将生态学中的协同进化思想引入人工免疫算法中,各子种群内部通过免疫优势克隆选择操作加快了种群收敛速度;所有子种群共享经过改进微粒群优化的高层优良库,实现了整个种群信息共享与协同进化.针对旅行商问题(TSP)的多个实验结果表明,该算法在收敛速度与最优解等方面均取得了较好的效果.     

基于种群特征反馈的布谷鸟搜索算法

布谷鸟搜索(CS) 算法是一种新型的生物启发式算法. 为了提高算法对不同优化问题的适应能力, 根据反馈控制原理提出一种基于种群特征反馈的布谷鸟搜索(SFFCS) 算法, 将年龄结构、变异成功率等种群特征作为反馈信息引入算法框架, 动态调节算法参数, 同时引入双进化策略机制和策略选择概率, 加强算法对局部搜索和全局搜索的平衡能力. 对标准测试函数和电力系统最优潮流问题进行数值实验, 实验结果表明, SFFCS 算法具有较好的收敛性能和适应能力, 验证了所提出算法的有效性和工程应用价值.

     

森林优化特征选择算法的增强与扩展

特征选择作为一种重要的数据预处理方法，不但能解决维数灾难问题，还能提高算法的泛化能力.各种各样的方法已被应用于解决特征选择问题，其中，基于演化计算的特征选择算法近年来获得了更多的关注并取得了一些成功.近期研究结果表明，森林优化特征选择算法具有更好的分类性能及维度缩减能力.然而，初始化阶段的随机性、全局播种阶段的人为参数设定，影响了该算法的准确率和维度缩减能力；同时，算法本身存在着高维数据处理能力不足的本质缺陷.从信息增益率的角度给出了一种初始化策略，在全局播种阶段，借用模拟退火控温函数的思想自动生成参数，并结合维度缩减率给出了适应度函数；同时，针对形成的优质森林采取贪心算法，形成一种特征选择算法EFSFOA（enhanced feature selection using forest optimization algorithm）.此外，在面对高维数据的处理时，采用集成特征选择的方案形成了一个适用于EFSFOA的集成特征选择框架，使其能够有效处理高维数据特征选择问题.通过设计对比实验，验证了EFSFOA与FSFOA相比在分类准确率和维度缩减率上均有明显的提高，高维数据处理能力更是提高到了100 000维.将EFSFOA与近年来提出的比较高效的基于演化计算的特征选择方法进行对比，EFSFOA仍具有很强的竞争力.     

基于标准序列浮动前向特征选择的改进算法研究

信息技术的高速发展促进了信息领域内涵的根本性变革,信息特征的表述方法和内涵不断扩充,高维特征大幅涌现;这些高维特征中可能存在许多不相关和冗余特征,造成了维度灾难,这对基于特征空间聚散特性的分类识别算法提出了更高的要求,需要利用特征选择算法,降低特征向量维数并消除数据噪音的干扰;针对高维特征向量引入的维度灾难等问题,围绕目标分类识别的具体应用,基于标准的序列浮动前向特征选择算法,完成交叉验证重复次数优化,提出了改进的特征选择算法;通过仿真实验表明,基于Bayesian分类器开展识别时,改进算法能够在确保分类识别正确率的前提下,有效提升特征选择的计算速度,并维持一个相对更为收敛且稳定的置信区间,具备良好的准确度。     

A multi-objective feature selection method based on bacterial foraging optimization

Feature selection plays an important role in data preprocessing. The aim of feature selection is to recognize and remove redundant or irrelevant features. The key issue is to use as few features as possible to achieve the lowest classification error rate. This paper formulates feature selection as a multi-objective problem. In order to address feature selection problem, this paper uses the multi-objective bacterial foraging optimization algorithm to select the feature subsets and k-nearest neighbor algorithm as the evaluation algorithm. The wheel roulette mechanism is further introduced to remove duplicated features. Four information exchange mechanisms are integrated into the bacteria-inspired algorithm to avoid the individuals getting trapped into the local optima so as to achieve better results in solving high-dimensional feature selection problem. On six small datasets and ten high-dimensional datasets, comparative experiments with different conventional wrapper methods and several evolutionary algorithms demonstrate the superiority of the proposed bacteria-inspired based feature selection method.

     

基于文化基因算法和最小二乘支持向量机的安全数据特征处理方法

随着各类生物智能演化算法的日益成熟,基于演化技术及其混合算法的特征选择方法不断涌现。针对高维小样本安全数据的特征选择问题,将文化基因算法(Memetic Algorithm,MA)与最小二乘支持向量机(Least Squares Support Vector Machine,LS-SVM)进行结合,设计了一种封装式(Wrapper)特征选择方法(MA-LSSVM)。该方法利用最小二乘支持向量机易于求解的特点来构造分类器,以分类的准确率作为文化基因算法寻优过程中适应度函数的主要成分。实验表明,MA-LSSVM可以较高效地、稳定地获取对分类贡献较大的特征,降低了数据维度,提高了分类效率。     

基于邻域差分和协方差信息的单目标进化算法

复杂的单目标优化问题是进化计算领域的一个研究热点问题.已有差分进化和协方差进化被认为是处理该问题的较有效的方法,其中差分信息类似于梯度可以有效的指导算法朝着最优解方向搜索,而协方差则是基于统计的方式来生成较优的子代种群.本文引入了协方差信息对差分算子进行改进,提出了一种基于邻域差分和协方差信息的进化算法（DEA/NC）来处理复杂的单目标优化问题.算法对现有差分算子中通常采用的随机选点或结合当前最优解进行差分的方式进行了分析,当随机选择的差分个体间的差异较大时,差分信息不能作为一种局部的梯度信息来指导算法的搜索;而结合最优解的差分信息又会使得种群朝着当前最优解的方向搜索,导致种群快速的陷入局部最优.基于此,本文采用了邻域差分的方式来提高差分算子的有效性,同时避免种群的多样性丢失.另外,引入了协方差来度量个体变量间的相关度,并利用相关度来优化差分算子.最后,算法对cec2014中的单目标优化问题进行了测试,并将实验结果与已有的较好的差分进化算法进行了比较,实验结果表明了本算法的有效性.     

基于最大联合条件互信息的特征选择

在高维数据如图像数据、基因数据、文本数据等的分析过程中,当样本存在冗余特征时会大大增加问题分析复杂难度,因此在数据分析前从中剔除冗余特征尤为重要。基于互信息（MI）的特征选择方法能够有效地降低数据维数,提高分析结果精度,但是,现有方法在特征选择过程中评判特征是否冗余的标准单一,无法合理排除冗余特征,最终影响分析结果。为此,提出一种基于最大联合条件互信息的特征选择方法（MCJMI）。MCJMI选择特征时考虑整体联合互信息与条件互信息两个因素,两个因素融合增强特征选择约束。在平均预测精度方面,MCJMI与信息增益（IG）、最小冗余度最大相关性（mRMR）特征选择相比提升了6个百分点;与联合互信息（JMI）、最大化联合互信息（JMIM）相比提升了2个百分点;与LW向前搜索方法（SFS-LW）相比提升了1个百分点。在稳定性方面,MCJMI稳定性达到了0.92,优于JMI、JMIM、SFS-LW方法。实验结果表明MCJMI能够有效地提高特征选择的准确率与稳定性。     

基于混合蛙跳算法的高维生物医学数据特征选择方法

针对高维生物医学数据包含大量无关或弱相关特征,影响疾病诊断效率的现状,提出了一种基于改进混合蛙跳算法的高维生物医学数据特征选择方法。该方法将混沌记忆权重因子和平衡分组策略引入基本混合蛙跳算法,在强化算法多样性的同时,维持了算法全局和局部寻优之间的平衡,降低了算法陷入局部最优的可能,进一步提高了混合蛙跳算法特征选择方法在特征空间的探索能力。实验结果表明:与改进遗传算法、粒子群优化算法特征选择方法比较,改进混合蛙跳算法特征选择方法在高维生物医学数据特征子集识别、分类精度方面取得了更好的效果。     

A hybrid algorithm for feature subset selection in high-dimensional datasets using FICA and IWSSr algorithm

Feature subset selection is a substantial problem in the field of data classification tasks. The purpose of feature subset selection is a mechanism to find efficient subset retrieved from original datasets to increase both efficiency and accuracy rate and reduce the costs of data classification. Working on high-dimensional datasets with a very large number of predictive attributes while the number of instances is presented in a low volume needs to be employed techniques to select an optimal feature subset. In this paper, a hybrid method is proposed for efficient subset selection in high-dimensional datasets. The proposed algorithm runs filter-wrapper algorithms in two phases. The symmetrical uncertainty (SU) criterion is exploited to weight features in filter phase for discriminating the classes. In wrapper phase, both FICA (fuzzy imperialist competitive algorithm) and IWSSr (Incremental Wrapper Subset Selection with replacement) in weighted feature space are executed to find relevant attributes. The new scheme is successfully applied on 10 standard high-dimensional datasets, especially within the field of biosciences and medicine, where the number of features compared to the number of samples is large, inducing a severe curse of dimensionality problem. The comparison between the results of our method and other algorithms confirms that our method has the most accuracy rate and it is also able to achieve to the efficient compact subset.