量子群智能优化算法综述

随着科学技术的不断发展,最优化理论及其衍生出的算法已经广泛应用于人们的日常工作与生活当中,现实世界中的很多问题都可以被描述为组合优化问题。群智能优化算法这些年来被证明在解决组合优化问题方面效果显著,将当下处于研究热点的量子计算概念引入群智能优化算法形成的量子群智能优化算法,为更好地解决组合优化问题提出了一个新的研究方向。在过去的二十多年里,许多量子群智能优化算法被不断开发出来,同时在此基础上进行了大量改进与应用。综述了量子蚁群算法、量子粒子群算法、量子人工鱼群算法、量子人工蜂群算法、量子布谷鸟搜索算法、量子混合蛙跳算法、量子萤火虫算法、量子蝙蝠算法等量子群智能优化算法,并对量子群智能优化算法面临的问题以及未来研究方向进行了深入探讨。     

求解工程约束问题的新型智能优化算法及展望

为了研究新型智能优化算法的性能和应用前景,选择了近几年提出的6种仿生智能优化算法:哈里斯鹰优化(HHO)算法、平衡优化(EO)算法、海洋捕食者算法(MPA)、政治优化(PO)算法、黏液霉菌算法(SMA)和堆阵优化(HBO)算法,对其性能和在不同带约束的工程优化问题上的应用进行对比分析.首先,对6种优化算法的基本原理进行...     

一种基于教与学的混合灰狼优化算法

针对灰狼优化算法(GWO)存在收敛精度不高、易陷入局部最优的不足,提出一种基于教与学的混合灰狼优化算法(HGWO).首先,采用佳点集理论进行种群初始化,提高初始种群的遍历性;其次,提出一种非线性控制参数策略,在迭代前期增加全局搜索能力,避免算法陷入局部最优,在迭代后期增加局部开发能力,提高收敛精度;最后,结合教与学算法(TLBO)和粒子群优化算法,修改原位置更新公式以优化算法搜索方式,从而提升算法的收敛性能.为验证HGWO算法的有效性,选取9种标准测试函数,将HGWO算法、GWO算法以及其他群体智能优化算法和其他改进GWO算法进行仿真实验.实验结果表明,所提出的HGWO算法性能优于GWO算法和其他群体智能优化算法,且在改进算法中具有一定优势.     

智能优化算法的应用研究

优化问题广泛存在于各个领域,对该问题的求解问题从没停止过.自从优化问题提出以来,人们提出了各种各样的智能优化算法.文中简要介绍了遗传算法、蚁群算法、模拟退火算法3种智能优化算法,并简述其优缺点及应用研究的使用情况.     

径向基神经网络的一种自适应混合学习算法

为设计具有良好逼近性能的径向基神经网络,提出一种两层结构的自适应混合学习算法.内层迭代过程综合了梯度下降法和智能优化方法的优点,采用基于衰减梯度信息的智能优化方法,对具有固定结构的网络进行参数训练;外层迭代根据内层迭代的效果,利用最优停止规则自适应地动态调节网络隐含层节点数,使算法以较大概率收敛至全局最优.设计了网络结构修正算子,实现对最终结果的进一步简化.最后,文章给出算法实现的具体步骤,并通过仿真实例验证了算法有效性和可行性.     

可扩展机器学习的并行与分布式优化算法综述

机器学习问题通常会转换成一个目标函数去求解,优化算法是求解目标函数中参数的重要工具.在大数据环境下,需要设计并行与分布式的优化算法,通过多核计算和分布式计算技术来加速训练过程.近年来,该领域涌现了大量研究工作,部分算法也在各机器学习平台得到广泛应用.本文针对梯度下降算法、二阶优化算法、邻近梯度算法、坐标下降算法、交替方向乘子算法五类最常见的优化方法展开研究,每一类算法分别从单机并行和分布式并行来分析相关研究成果,并从模型特性、输入数据特性、算法评价、并行计算模型等角度对每个算法进行详细对比.随后对有代表性的可扩展机器学习平台中优化算法的实现和应用情况进行对比分析.同时对本文中介绍的所有优化算法进行多层次分类,方便用户根据目标函数类型选择合适的优化算法,也可以通过该多层次分类图交叉探索如何将优化算法应用到新的目标函数类型.最后分析了现有优化算法存在的问题,提出可能的解决思路,并对未来研究方向进行展望.     

面向机器学习的分布式并行计算关键技术及应用

当前机器学习等算法的计算、迭代过程日趋复杂, 充足的算力是保障人工智能应用落地效果的关键。本文首先提出一种适应倾斜数据的分布式异构环境下的任务时空调度算法,有效提升机器学习模型训练等任务的平均效率;其次,提出分布式异构环境下高效的资源管理系统与节能调度算法,实现分布式异构环境下基于动态预测的跨域计算资源迁移及电压/频率的动态调节,节省了系统的整体能耗;然后构建了适应于机器学习/深度学习算法迭代的分布式异构优化环境,提出了面向机器学习/图迭代算法的分布式并行优化基本方法。最后,本文研发了面向领域应用的智能分析系统,并在制造、交通、教育、医疗等领域推广应用,解决了在高效数据采集、存储、清洗、融合与智能分析等过程中普遍存在的性能瓶颈问题。     

蚁群算法的研究及应用进展

蚁群算法是优化领域新出现的一种启发式仿生类并行智能进化系统,该算法采用分布式计算和正反馈机制,易于和其他算法结合,目前已得到了广泛的应用。本文在介绍基本蚁群算法的基础上,介绍了蚁群算法目前的一些研究情况,然后例举了蚁群算法的一些应用,最后对蚁群算法今后的研究方向作了分析和展望。     

基于并行Kleinman 迭代算法的Markov 跳变系统优化??∞ 控制

基于Kleinman 迭代算法的框架, 提出两种数值迭代算法, 用于解决连续时间Markov 跳变系统的优化??_∞ 控制器设计问题. 首先, 给出“ 直接并行Kleinman 迭代算法”, 并从正实算子的收敛性证明该算法的收敛性; 然后, 基于直接并行Kleinman 迭代算法, 提出一种更加广义的迭代算法结构, 即“ 广义并行Kleinman 迭代算法”, 并论述其包含的4 种情形; 最后, 通过数值示例验证了所提出算法的有效性.

     

PSO算法在MAV群并行仿真试验中的应用研究

利用MAV群执行搜索任务具有安全、快速、高效等优点,无论在军用还是民用方面都将发挥不可替代的作用.考虑到MAV群的续航能力和提高搜索效率的需要,在执行搜索任务的时候首先确定一条"最短"路径至关重要.寻找最短路径问题已经有许多成熟的方法,研究的是采用粒子群优化算法求解最短路径的问题.与其他求解TSP问题的方法相比,粒子群优化算法具有概念简单、鲁棒性好、智能背景深刻等优点;尤其重要的是它天生具有并行计算的潜质,适于并行化后应用到并行仿真中去.实现了PSO算法的并行化,并验证了运行结果的正确性.     

求解非线性方程组的智能优化算法综述

非线性方程组的求解是优化领域的一个重要研究课题.近年来,利用智能优化算法求解非线性方程组已成为一个重要方向.首先介绍非线性方程组的定义;其次,根据智能优化算法求解非线性方程组问题的基本框架,从转化方法和智能优化算法两方面入手,对求解非线性方程组的算法的研究进展进行归纳总结;再次,对非线性方程组的测试函数及评价指标进行描述,对比了5个具有代表性算法的性能,分析了目前利用智能优化算法求解非线性方程组亟待解决的问题;最后,指出值得进一步研究的方向.     

并行数据操作算法和查询优化技术

本文是并行数据库的查询处理并行化技术和物理设计方法”一文的续篇，继续综述并行数据库系统的另外两个重要研究领域：并行数据操作算法和并行数据库查询优化技术．最后，作为并行数据库系统研究与进展情况综述的结尾，本文将探讨并行数据库系统今后的研究方向和问题．     

归一化实数编码的多维并行遗传算法

给出了归一化多维实数编码的基本定义,并在此基础上提出了基于归一化实数编码的多维并行遗传算法;对归一化实数编码多维并行交叉算子、多维并行变异算子进行了详细的研究;提出了多维优化问题归一化实数编码长度计算公式;对遗传算法的控制参数确定进行了阐述;对归一化实数编码的多维并行遗传算法适应度函数的确定方法进行了研究.实验表明,归一化实数编码多维并行遗传算法可以大大提高多维优化问题的收敛速度,从而进一步提高算法的性能,这些特点对于计算复杂的非线性多维优化问题具有重要的意义.     

整数规划问题智能求解算法综述*

为了对大规模整数规划问题的求解方法提供参考,对基于智能算法求解整数规划问题的研究进行了分析和评述。鉴于现有算法的缺陷与不足,讨论了应用智能算法求解整数规划问题未来可能的研究方向。     

智能仿生算法在移动机器人路径规划优化中的应用综述

随着移动机器人应用领域的扩大和工作环境的复杂化,传统路径规划算法因其自身局限性变得难以满足人们的要求。近年来,智能仿生算法因其群集智慧和生物择优特性而被广泛应用于移动机器人路径规划优化中。首先,按照智能仿生算法仿生机制的来源,对应用于路径规划优化中的智能仿生算法进行了分类。然后,按照不同的类别,系统的叙述了各种新型智能仿生算法在路径规划优化中取得的最新研究成果,总结了路径规划优化过程中存在的问题以及解决方案,并对算法在路径规划优化中的性能进行了比较分析。最后对智能仿生算法在路径规划优化中的研究方向进行了探讨。     

基于GPU的现代并行优化算法

针对现代优化算法在处理相对复杂问题中所面临的求解时间复杂度较高的问题,引入基于GPU的并行处理解决方法。首先从宏观角度阐释了基于计算统一设备架构CUDA的并行编程模型,然后在GPU环境下给出了基于CUDA架构的5种典型现代优化算法(模拟退火算法、禁忌搜索算法、遗传算法、粒子群算法以及人工神经网络)的并行实现过程。通过对比分析在不同环境下测试的实验案例统计结果,指出基于GPU的单指令多线程并行优化策略的优势及其未来发展趋势。     

基于梯度估计的多智能体系统有限时间分布式优化

现有多智能体系统分布式优化算法大多具有渐近收敛速度,且要求系统的网络拓扑图为无向图或有向平衡图,在实际应用中具有一定的保守性.本文研究了具有强连通拓扑的多智能体系统有限时间分布式优化问题.首先,基于非光滑分析和Lyapunov稳定性理论设计了一个有限时间分布式梯度估计器.然后,基于该梯度估计器提出了一种适用于强连通有向图的有限时间分布式优化算法,实现了多智能体系统中智能体的状态在有限时间内一致收敛到全局最优状态值.与现有的有限时间分布式优化算法相比,新提出的有限时间优化算法适用于具有强连通拓扑的多智能体系统,放宽了系统对网络拓扑结构的要求.此外,本文基于Nussbaum函数方法对上述优化算法进行了拓展解决了含有未知高频增益符号的多智能体系统分布式优化问题.最后,通过仿真实例对提出的分布式优化算法的有效性进行了验证.     

Optimizing layer‐based scheduling algorithms for parallel tasks with dependencies

Programming with parallel tasks leads to task graphs with dependencies representing a parallel program. Scheduling algorithms are employed to find an efficient execution order of the parallel tasks. A large variety of scheduling algorithms exist, including layer‐based scheduling algorithms for homogeneous target platforms that build consecutive layers of independent parallel tasks and schedule each layer separately. Although these scheduling algorithms provide good results in terms of scheduling algorithm runtime and schedule execution time, the resulting schedules leave room for optimization. This article proposes an optimization for arbitrary layer‐based scheduling algorithms, which is called Move‐blocks algorithm. Given a layer‐based schedule of the parallel tasks, this algorithm moves blocks of parallel tasks into preceding layers in order to reduce the overall execution time of a task‐based application. Suitable blocks of parallel tasks are identified by the algorithm Find‐blocks, which is employed together with the Move‐blocks algorithm. The algorithm Move‐blocks is applied to four well‐known scheduling algorithms. A detailed evaluation for a wide range of test cases is given. Copyright © 2010 John Wiley & Sons, Ltd.     

目标跟踪算法的并行优化

目标跟踪是计算机视觉领域一个重要的研究方向,近年来学者提出了众多优秀的目标跟踪算法,但许多算法的低实时性制约了其在应用场景中的有效性。针对这些算法,提出了一个通用的跟踪模型,并针对此模型提出了一个可行的并行优化方案。之后使用SCM算法验证了所提出的并行优化方案。在四核CPU的环境下,并行后的SCM算法相比于未并行的算法取得了3.48倍的并行加速比,并且比原算法Matlab+C程序的运行速度快了约30倍,这说明了所提出的并行优化方案的有效性。     

基于Petri网建模的并行粒子群算法

粒子群优化算法,起源于鸟群行为的研究,是一种基于群智能的进化计算技术,通过粒子之间的协作与竞争以实现对多维复杂空间的高效搜索。提出了基于Petri网的并行粒子群算法,并采用经典测试函数验证算法的有效性。测试结果表明,算法能很好地控制粒子群优化过程中的早熟问题,并能够较好地得到群落全局最优解。