全局与局部模型交替辅助的差分进化算法

为求解实际复杂工程应用中的高维计算费时优化问题,提出一种全局与局部代理模型交替辅助的差分进化算法。利用历史样本训练全局和局部代理模型,通过交替搜索全局和局部代理模型得到模型最优解并对其进行真实目标函数评价,实现探索和开采的平衡以减少真实目标函数的计算次数,同时通过针对性地选择个体进行真实目标函数计算,辅助算法快速找到目标函数的较优解。在15个低维测试问题和14个高维测试问题上的实验结果表明,在有限的计算资源情况下,该算法在12个低维测试问题上相较于最优重启策略代理辅助的社会学习粒子群优化算法、基于主动学习的代理模型辅助的粒子群优化算法等表现更好,在7个高维测试问题上相较于高斯过程辅助的进化算法、代理模型辅助的分层粒子群优化算法、求解高维费时问题的代理辅助的多种群优化算法等能找到目标函数的更优解。     

基于改进集成学习分类的代理辅助进化算法

当使用代理辅助进化算法求解昂贵高维多目标优化问题时,代理模型通常用于近似昂贵的适应度函数.然而,随着目标数的增加,近似误差将逐渐累积,计算量也会急剧增加.对此,提出一种基于改进集成学习分类的代理辅助进化算法,使用一种改进的装袋集成学习分类器作为代理模型.首先,从被昂贵的适应度评价的个体中选择一组分类边界,将所有个体分成两类;其次,利用这些带有分类标签的个体训练分类器,以对候选个体的类别进行预测;最后,选择有前途的个体进行昂贵适应度评价.实验结果表明,算法中所提出的代理模型可有效提高基于分类的代理辅助进化算法求解昂贵高维多目标优化问题的能力,且与目前流行的代理辅助进化算法相比,基于改进集成学习分类的代理辅助进化算法更具竞争力.     

模型辅助的计算费时进化高维多目标优化

代理模型能够辅助进化算法在计算资源有限的情况下加快找到问题的最优解集, 因此建立高效的代理模型辅助多目标进化搜索逐渐受到了重视. 然而随着目标数量的增加, 对每个目标分别建立高斯过程模型时个体整体估值的不确定度会随之增加. 因此通过对模型最优解集的搜索探索原问题潜在的非支配解集, 并基于个体的收敛性, 种群的多样性和估值的不确定度, 提出了一种新的期望提高计算方法, 用于辅助从潜在的非支配解集中选择使用真实目标函数计算的个体, 从而更新代理模型, 能够在有限的计算资源下更有效地辅助优化算法找到好的非支配解集. 在7个DTLZ 基准测试问题上的实验对比结果表明, 该算法在求解计算费时高维多目标优化问题上是有效的, 且具有较强的竞争力.     

基于估值不确定度排序顺序均值采样的昂贵高维多目标进化算法

模型管理,特别是训练样本的选择和填充采样准则,是影响昂贵多目标优化算法求解性能的重要因素.为此,选择样本库中具有较好目标函数值的若干个体作为样本训练目标函数的代理模型,使用基于参考向量的进化算法搜索模型的最优解集,并提出一种基于个体目标函数估值不确定度排序顺序均值的采样策略,从该最优解集中选择两个个体进行真实的目标函数评价.为了验证算法的有效性,将所提出算法在DTLZ和WFG多目标优化测试问题和两个实际工程优化问题上进行测试,并与其他5种优秀的同类型算法进行结果对比.实验结果表明,所提出算法在求解昂贵高维多目标优化问题上是有效的.     

动态Kriging优化算法求解昂贵约束优化问题

针对昂贵单目标约束优化中真实模型计算费时且现有算法收敛速度慢的问题,提出了动态Krging优化算法以提高计算效率.该算法首先将所有约束条件转换为一个约束函数,然后采用拉丁超立方体采样(LHS)法进行采样,分别建立真实模型目标函数和约束函数的Kriging代理模型,同时结合真实模型对代理模型估计进行误差矫正,采用非支配个体选择、保留和替换机制不断更新样本库和Kriging代理模型.最后将进化最优种群代入真实模型计算其最优值.通过13个标准函数测试表明该算法具有较高的精确度和稳健性,明显减少了真实模型的评价次数.     

基于多点加点准则的代理模型辅助社会学习微粒群算法

代理模型辅助的进化算法目前已广泛用于解决计算代价高的复杂优化问题.然而,大多数现有的代理辅助进化算法只适用于低维问题且仍然需要数千次昂贵的真实适应值评价来获得较优解.为此,提出一种基于多点加点准则的代理模型辅助的社会学习微粒群算法,用于解决高维问题并使用更少的评价次数.该算法选用高斯过程构造代理模型,以社会学习微粒群算法(SLPSO)作为优化器,提出一种基于相似度的多点加点规则(SMIC),用于选取需要使用原函数进行实际计算的候选解.在仿真实验中将该方法与现有研究成果进行比较,通过对50维sim100维的基准函数的测试,验证了所提出算法在有限的适应值计算次数下拥有更好的寻优性能,尤其是在高维优化问题上拥有更显著的优势.     

基于多目标数据生成的昂贵多目标进化算法

昂贵多目标优化问题是一类需要同时优化多个相互冲突且评估计算成本十分昂贵的目标的复杂优化问题,需要算法在计算资源受限的情况下尽可能找到目标值好且多样性好的一系列非支配解.进化计算方法是求解多目标优化问题的有效手段,但在求解昂贵多目标优化问题时仍面临多样性和收敛性这两个方面的挑战,即难以找到多样性好且收敛到全局最优的一系列解.针对上述挑战,本文提出了新型的基于多目标数据生成的昂贵多目标进化算法.本文的贡献点和创新点主要有以下三个方面.首先,本文提出并证明了非支配解生成定理,并基于此提出了多目标数据生成方法,以更有效地搜索到更多非支配解,提高算法的多样性.其次,本文提出了多种群多代理框架,使用多个代理模型替代评估成本昂贵的真实目标函数,并协同演化多个种群对多个代理模型进行协同求解,从而提高算法的收敛性.再次,基于上述提出的方法和框架,本文提出了基于多目标数据生成的昂贵多目标进化算法,以对昂贵多目标优化问题进行求解.为了验证算法性能,本文在两个著名测试集的共16个问题上进行了丰富的大量测试实验,并与现有的五个前沿算法进行对比.实验结果表明,本文提出的算法能在大部分问题上取得比所有对比算法都更好...     

异构集成代理辅助多目标粒子群优化算法

针对代理辅助进化算法在减少昂贵适应度评估时难以通过少量样本点构造高质量代理模型的问题,提出异构集成代理辅助多目标粒子群优化算法。该方法通过使用加权平均法将Kriging模型和径向基函数网络模型组合成高精度的异构集成模型,达到增强算法处理不确定性信息能力的目的。基于集成学习的两种代理模型分别应用于全局搜索和局部搜索,在多目标粒子群优化算法框架基础上,新提出的方法为每个目标函数自适应地构造了异构集成模型,利用其模型的非支配解来指导粒子群的更新,得出目标函数的最优解集。实验结果表明,所提方法提高了代理模型的搜索能力,减少了评估次数,并且随着搜索维度的增加,其计算复杂性也具有更好的可扩展性。     

基于剪枝堆栈泛化的离线数据驱动进化优化

现实世界中存在很多目标函数的计算非常昂贵, 甚至目标函数难以建模的复杂优化问题. 常规优化方法在解决此类问题时要么无从入手, 要么效率低下. 离线数据驱动的进化优化方法不需对真实目标函数进行评估, 跳出了传统优化方法的固铚, 极大推动了昂贵优化问题和不可建模优化问题的求解. 但离线数据驱动进化优化的效果严重依赖于所采用代理模型的质量. 为提升离线数据驱动进化优化的性能, 提出了一个基于剪枝堆栈泛化(Stacked generalization, SG)代理模型构建方法. 具体而言, 一方面基于异构的基学习器建立初级模型池, 再采用学习方式对各初级模型进行组合, 以提升代理模型的通用性和准确率. 另一方面基于等级保护指标对初级模型进行剪枝, 在提高初级模型集成效率的同时进一步提升最终代理模型的准确率, 并更好地指导种群的搜索. 为验证所提方法的有效性, 与7个最新的离线数据驱动的进化优化算法在12个基准测试问题上进行对比, 实验结果表明所提出的方法具有明显的优势.     

面向多目标优化的多样性代理辅助进化算法

代理辅助进化算法（SAEA）是目前解决昂贵优化问题的一种有效途径.提出一种基于多样性的代理辅助进化算法（DSAEA）来解决昂贵多目标优化问题.DSAEA采用Kriging模型近似每个目标来代替原目标函数进行评估,加速了进化算法的优化过程.其引入参考向量把问题分解为多个子问题,根据解与参考向量之间的角度大小建立它们的相关性,然后计算出最小相关解集.在此基础上,候选解生成算子和选择算子会趋向于保留多样性的解.另外,训练集A在每次迭代后会进行更新,根据多样性删除价值不大的样本以减少建模时间.实验部分对DSAEA与目前流行的代理辅助进化算法在大规模2目标和3目标优化问题上进行对比实验.每个算法在不同的测试问题上分别独立运行30次,并计算和统计反向迭代距离（IGD）、超体积（HV）和运行时间,最后使用秩和检验分析实验结果.结果表明：DSAEA在多数实验测试问题上表现更好,因此具有有效性和可行性.     

Handling expensive multi-objective optimization problems with a cluster-based neighborhood regression model

This paper gives attention to multi-objective optimization in scenarios where objective function evaluation is expensive, that is, expensive multi-objective optimization. We firstly propose a cluster-based neighborhood regression model, which incorporates the linear regression technique to predict the descent direction and generate new potential offspring. Combining this model with the classical decomposition-based multi-objective optimization framework, we propose an efficient and effective algorithm for tackling computationally expensive multi-objective optimization problems. As opposed to the conventional approach of replacing the original time-consuming objective functions with the approximated ones obtained by surrogate model, the proposed algorithm incorporates the proposed regression model to serve as an operator producing higher-quality offspring so that the algorithm requires fewer iterations to reach a given solution quality. The proposed algorithm is compared with several state-of-the-art surrogate-assisted algorithms on a variety of well-known benchmark problems. Empirical results demonstrate that the proposed algorithm outperforms or is competitive with other peer algorithms, and has the ability to keep a good trade-off between solution quality and running time within a fairly small number of function evaluations. In particular, our proposed algorithm shows obvious superiority in terms of the computational time used for the algorithm components, and can obtain acceptable solutions for expensive problems with high efficiency.     

SO-MI: A surrogate model algorithm for computationally expensive nonlinear mixed-integer black-box global optimization problems

This paper introduces a surrogate model based algorithm for computationally expensive mixed-integer black-box global optimization problems with both binary and non-binary integer variables that may have computationally expensive constraints. The goal is to find accurate solutions with relatively few function evaluations. A radial basis function surrogate model (response surface) is used to select candidates for integer and continuous decision variable points at which the computationally expensive objective and constraint functions are to be evaluated. In every iteration multiple new points are selected based on different methods, and the function evaluations are done in parallel. The algorithm converges to the global optimum almost surely. The performance of this new algorithm, SO-MI, is compared to a branch and bound algorithm for nonlinear problems, a genetic algorithm, and the NOMAD (Nonsmooth Optimization by Mesh Adaptive Direct Search) algorithm for mixed-integer problems on 16 test problems from the literature (constrained, unconstrained, unimodal and multimodal problems), as well as on two application problems arising from structural optimization, and three application problems from optimal reliability design. The numerical experiments show that SO-MI reaches significantly better results than the other algorithms when the number of function evaluations is very restricted (200–300 evaluations).     

序的分类预测在进化算法中的应用

昂贵优化问题的求解往往伴随着计算成本灾难,为了减少目标函数的真实评估次数,将序预测方法用于进化算法中候选解的选取.通过分类预测直接得到候选解的相对优劣关系,避免了对目标函数建立精确代理模型的需求,并且设计了序样本集约简方法,以降低序样本集的冗余性,提高序预测模型的训练效率.接下来,将序预测与遗传算法相结合.序预测辅助遗传算法在昂贵优化测试函数上的仿真实验表明,序预测方法可有效降低求解昂贵优化问题时的计算成本.     

Memetic algorithm using multi-surrogates for computationally expensive optimization problems

In this paper, we present a multi-surrogates assisted memetic algorithm for solving optimization problems with computationally expensive fitness functions. The essential backbone of our framework is an evolutionary algorithm coupled with a local search solver that employs multi-surrogate in the spirit of Lamarckian learning. Inspired by the notion of ‘blessing and curse of uncertainty’ in approximation models, we combine regression and exact interpolating surrogate models in the evolutionary search. Empirical results are presented for a series of commonly used benchmark problems to demonstrate that the proposed framework converges to good solution quality more efficiently than the standard genetic algorithm, memetic algorithm and surrogate-assisted memetic algorithms.     

混合个体选择机制的多目标进化算法

在多目标进化算法中,如何从后代候选集中选择最优解,显著地影响优化过程.当前,最优解的选择方式主要是基于实际目标值或者代理模型估计目标值.然而,这些选择方式往往是非常耗时或者存在精度差等问题,特别是对于一些实际的复杂优化问题.最近,一些研究人员开始利用有监督分类辅助后代选择,但是这些工作难以准备准确的正例和负例样本,或者存在耗时的参数调整等问题.为了解决这些问题,提出了一种新颖的融合分类与代理的混合个体选择机制,用于从后代候选集中选择最优解.在每一代优化中,首先利用分类器选择优良解;然后设计了一个轻量级的代理模型用于估计优良解的目标值;最后利用这些目标值对优良解进行排序,并选择最优解作为后代解.基于典型的多目标进化算法MOEA/D,利用混合个体选择机制设计了新的算法框架MOEA/D-CS.与当前流行的基于分解多目标进化算法比较,实验结果表明,所提出的算法取得了最好的性能.     

Single- and multiobjective evolutionary optimization assisted by Gaussian random field metamodels

This paper presents and analyzes in detail an efficient search method based on evolutionary algorithms (EA) assisted by local Gaussian random field metamodels (GRFM). It is created for the use in optimization problems with one (or many) computationally expensive evaluation function(s). The role of GRFM is to predict objective function values for new candidate solutions by exploiting information recorded during previous evaluations. Moreover, GRFM are able to provide estimates of the confidence of their predictions. Predictions and their confidence intervals predicted by GRFM are used by the metamodel assisted EA. It selects the promising members in each generation and carries out exact, costly evaluations only for them. The extensive use of the uncertainty information of predictions for screening the candidate solutions makes it possible to significantly reduce the computational cost of singleand multiobjective EA. This is adequately demonstrated in this paper by means of mathematical test cases and a multipoint airfoil design in aerodynamics.