贝叶斯优化算法的发展综述

介绍了贝叶斯优化算法,并针对不同的优化问题,结合经典优化方法提出的层次BOA算法、多目标层次BOA算法以及递进BOA算法,对贝叶斯优化算法的算法设计、理论分析和应用研究做了全面的总结.深入地探讨了贝叶斯优化算法计算量大,难以建立精确概率模型及扩展应用领域等问题.     

一种环境辨识记忆动态贝叶斯优化算法

为了使贝叶斯优化算法（BOA）具有动态优化能力,提出了基于环境辨识的记忆策略（EIMS）。该策略利用概率模型对优良解的描述能力,简化了记忆管理过程并减少了记忆所占内存空间。设计了最优个体+采用平均的环境辨识算法。实验结果表明,通过对历史信息的记忆和利用,EIMS能够使BOA有效求解动态优化问题,算法的性能在循环、循环+噪声以及随机动态环境下均显著优于重启式BOA。     

实数编码量子进化算法

为求解复杂函数优化问题,基于量子计算的相关概念和原理,提出一种实数编码量子进化算法.首先构造了由自变量向量的一个分量和量子比特的一对概率幅为等位基因的三倍体染色体,增加了解的多样性;然后利用量子旋转门和依据量子比特概率幅满足归一化条件设计的互补双变异算子进化染色体,实现局部搜索和全局搜索的平衡.标准函数仿真表明,该算法适合求解复杂函数优化问题,具有收敛速度快、全局搜索能力强和稳定性好的优点.     

贝叶斯博弈多目标进化算法及其收敛性分析

多目标进化算法（MOEAs）主要依靠非支配解排序推动种群搜索Pareto前沿,在种群迭代搜索前期具有较好的全局寻优性能,但进化后期易出现收敛停滞现象,影响算法对于复杂优化问题的全局寻优能力。由此提出了一种基于静态贝叶斯博弈策略的多目标进化算法（SBG-MOEA）,将每个优化目标模拟为一个博弈参与者,以多次迭代中优化目标Pareto优化收敛程度映射为博弈收益,通过损益纳什均衡博弈机制驱动种群的Pareto寻优,理论分析证明了该方法具有全局收敛特性。基准测试函数的优化实验表明,与NSGA-II等经典算法相比,贝叶斯博弈策略有助于增强进化种群全局搜索能力。     

一种实数编码量子进化算法及其收敛性

基于量子计算理论和进化理论,提出一种新的量子进化算法--基于实数编码的量子进化算法(RQEA).不同于传统进化算法的单点编码和量子进化算法的量子比特编码,该算法以实数矩形区域表示基因,一条染色体携带多个个体信息,利用量子态叠加和相干机理,通过叠加、变异及自学习来完成进化过程,理论分析证明了算法具有全局收敛性,实验结果表明,该算法在函数优化上具有优异的性能.     

一种改进的实数编码混合遗传算法

为解决简单遗传算法的不成熟收敛和收敛速度慢的问题,针对实数编码遗传算法提出了初始种群的网格分布法,单步遗传操作后的最优个体保留策略,以及改进的动态交叉和自适应变异概率等,并应用上代最优个体替换当代最差个体的种群进化方法和近亲交叉回避机制等措施对其进行了综合改进。算例表明,该改进算法能有效实现全局优化,提高进化效率,对求解复杂的优化问题具有广泛的适应性。     

一种多目标优化的多概率模型分布估计算法

提出了一种用于多目标优化的多概率模型分布估计算法,该算法在进化的每一代中使用多个概率模型来引导多目标优化问题柏拉图(Pareto)最优域的搜索.分布估计算法使用概率模型引导算法最优解的搜索,而使用多个概率模型可以保持所得多目标优化问题最优解集的多样性.该算法具有很强的寻优能力,所得结果可以很好地覆盖Pareto前沿.实验通过优化一组测试函数来评价该算法的性能,并与其它多目标优化算法进行了比较,结果表明该算法相比于其它同类算法可以更好地解决多目标优化问题.     

一种改进快速稳定的多目标优化算法

多目标优化问题属于高维的搜索空间,用一些传统方法来优化这些问题会导致较高的时间复杂性.为了解决该问题,使用了粒子群优化算法(PSO),同时将ε-dominance的概念应用到PSO中.该方法在实验过程中取得了良好的效果.其运算速度快,而且最终优化的点数可以得到控制.     

一种改进的实数编码遗传算法

针对实数编码在进行数值优化时固有的过早收敛、停滞现象和弱的爬山能力等缺点,通过设计不同的交叉、变异算子,提出了一种改进的实数编码的遗传算法。数值实验显示,该算法在函数优化问题上取得了较满意的效果。     

一种改进的实数编码遗传算法

遗传算法的一个显著特点是它交替在编码空间和解空间中工作,它在编码空间对染色体进行遗传运算,而在解空间对解进行评估和选择。因此,如何将问题的解转换为编码表达的染色体是遗传算法的关键问题。近十年来,针对特殊问题,提出了各种非0-1串的编码方法。实数编码方法是用于解决复杂的约束优化问题的首选方法。     

基于贝叶斯优化算法的多机协同空战决策仿真

多机协同空战是未来空空作战的重要形式,空战智能决策是空战研究的核心内容之一.根据多机协同的特点和空战智能决策的要求,首先构造多机协同空战的自主优势矩阵,并在此基础上依据多人冲突理论分别对和红蓝双方以及本机编队进行权重分配,由此得到多机协同空战的整体优势矩阵.然后给出了贝叶斯优化算法并应用此算法对该模型进行了优化分析,实现了多机协同空战的空战智能决策.仿真实例证明贝叶斯优化算法收敛速度快,能够收敛到全局最优解,能有效地解决多机协同空战中的空战决策问题.     

一种混沌贝叶斯优化算法

为了减少贝叶斯优化算法的计算量,该文提出了一种混沌贝叶斯优化算法。用混沌随机序列产生贝叶斯优化算法的初始群体,利用混沌随机性、遍历性和对初始条件的敏感性的特点,提供给贝叶斯网络变量空间丰富的信息,有利于建立接近最优的贝叶斯网络。为增加群体的多样性同时减少贝叶斯网络的建立次数,采用混沌搜索方法对贝叶斯网络产生的新解进行变异寻优,以此为基础再建立贝叶斯网络。实验结果表明,与贝叶斯优化算法相比,混沌贝叶斯优化算法能有效减少计算量。     

基于变异的Bayesian优化算法

将变异算子与Bayesian优化算法相结合,提出了一种基于变异的Bayesian优化算法。在算法中设计了一个种群多样性函数,通过此函数引入变异算子,目的是利用变异算子的邻域搜索能力,保持种群多样性,将贝叶斯概率模型提取的全局信息与变异算子的局部信息联系起来,避免陷入局部最优。仿真研究表明基于变异的Bayesian优化算法的寻优能力比Bayesian优化算法更强。     

贝叶斯优化方法和应用综述

设计类问题在科学研究和工业领域无处不在.作为一种十分有效的全局优化算法,近年来,贝叶斯优化方法在设计类问题上被广泛应用.通过设计恰当的概率代理模型和采集函数,贝叶斯优化框架只需经过少数次目标函数评估即可获得理想解,非常适用于求解目标函数表达式未知、非凸、多峰和评估代价高昂的复杂优化问题.从方法论和应用领域两方面深入分析、讨论和展望了贝叶斯优化的研究现状、面临的问题和应用领域,期望为相关领域的研究者提供有益的借鉴和参考.     

基于保留策略的Bayesian网优化算法

提出了一种基于保留策略的Bayesian网优化算法。算法中通过学习Bayesian网络自动获取进化过程中各基因之间的依赖关系及分布描述,以便更好地指导算法的进化,并利用保留的父辈中间群体扩充学习数据集规模,解决了Bayesian网学习可靠性与较大群体规模之间的矛盾。实验表明,算法能够在有效收敛的前提下降低对群体规模的要求,具有较高的学习效率。     

基于贝叶斯优化算法的脸面特征向量子集选择

1 引言近年来,人脸识别作为图像分析和理解最成功的应用之一,受到研究人员广泛的关注。脸部特征抽取选择是人脸识别关键问题之一。现有的脸面特征抽取主要有两类,一类是基于局部几何特征的系统,一类是基于整体模版匹配的系统。在基于局部几何特征的系统中,通过检测眼睛,鼻子,嘴等面部特征和它们之间的相互关系(距离,面积,角度)来描述脸面。这种方法可以有效降低数据量,但是目前脸面特征的检测和测量技术还不能满足这种方法的要求。基于整体模     

Exploiting Bivariate Dependencies to Speedup Structure Learning in Bayesian Optimization Algorithm

Bayesian optimization algorithm (BOA) is one of the successful and widely used estimation of distribution algorithms (EDAs) which have been employed to solve different optimization problems. In EDAs, a model is learned from the selected population that encodes interactions among problem variables. New individuals are generated by sampling the model and incorporated into the population. Different probabilistic models have been used in EDAs to learn interactions. Bayesian network (BN) is a well-known graphical model which is used in BOA. Learning a proper model in EDAs and particularly in BOA is distinguished as a computationally expensive task. Different methods have been proposed in the literature to improve the complexity of model building in EDAs. This paper employs bivariate dependencies to learn accurate BNs in BOA efficiently. The proposed approach extracts the bivariate dependencies using an appropriate pairwise interaction-detection metric. Due to the static structure of the underlying problems, these dependencies are used in each generation of BOA to learn an accurate network. By using this approach, the computational cost of model building is reduced dramatically. Various optimization problems are selected to be solved by the algorithm. The experimental results show that the proposed approach successfully finds the optimum in problems with different types of interactions efficiently. Significant speedups are observed in the model building procedure as well.     

On the Scalability of Real-Coded Bayesian Optimization Algorithm

Estimation of distribution algorithms (EDAs) are major tools in evolutionary optimization. They have the ability to uncover the hidden regularities of problems and then exploit them for effective search. Real-coded Bayesian optimization algorithm (rBOA) which brings the power of discrete BOA to bear upon the continuous domain has been regarded as a milestone in the field of numerical optimization. It has been empirically observed that the rBOA solves, with subquadratic scaleup behavior, numerical optimization problems of bounded difficulty. This underlines the scalability of rBOA (at least) in practice. However, there is no firm theoretical basis for this scalability. The aim of this paper is to carry out a theoretical analysis of the scalability of rBOA in the context of additively decomposable problems with real-valued variables. The scalability is measured by the growth of the number of fitness function evaluations (in order to reach the optimum) with the size of the problem. The total number of evaluations is computed by multiplying the population size for learning a correct probabilistic model (i.e., population complexity) and the number of generations before convergence, (i.e., convergence time complexity). Experimental results support the scalability model of rBOA. The rBOA shows a subquadratic (in problem size) scalability for uniformly scaled decomposable problems.     

蚁群遗传算法的多目标优化

为了求解带有约束条件的多目标函数优化问题,提出基于连续空间优化的多目标蚁群遗传算法。针对多目标优化问题的特点,定义连续空间中利用信息量指导遗传搜索策略和信息更新方法,将信息量指导遗传搜索、优秀决策引入、决策集更新、改变算法终止条件等方式相结合,有效地加速了搜索的收敛速度,控制了Pareto最优决策集的数量,扩大了决策的分布范围,维持了决策的多样性。数值实验说明该算法能够快速找到一组分布广泛的Pareto最优决策。     

一种区域转移实数遗传算法

在讨论实数遗传算法基本遗传算子及参数选择的基础上，针对算法能快速找到较好解的特点及恰当的搜索范围能保证算法找到满意解的现象，将区域划分与转移思想应用到算法结构改进中，设计了一种改进的实数遗传算法。文中对新算法进行了细致描述，并与类似方法进行了比较。最后对多个实验函数进行寻优，优化实验结果证明，新方法在寻找复杂问题的全局解、提高搜索精度方面比基本实数遗传算法有较大的改进。文章最后对新算法的优缺点进行了总结。