基于无约束优化的最小二乘支撑向量机

为了解决最小二乘支撑向量机（LSSVM）优化问题需要耗费大量时间的问题,提出了利用牛顿优化法来解决LSSVM优化问题的方法（称为Newton-LSSVM）。首先把LSSVM优化问题转化为无约束化优化问题的形式,然后再采用牛顿优化法来迭代求解。实验结果表明,该方法在大幅度减少LSSVM算法的训练时间开销的同时,能够获得与采用传统优化方式求解LSSVM优化问题一样的泛化能力。     

一种优化计算slater投票获胜者的Picat方法

slater投票规则是基于锦标赛的投票规则,主要是通过构造无环锦标赛,找到与原锦标赛差异最小的一个,从中选出获胜者。针对求解难度为NP难的slater投票算法,提出了一种基于相似候选项集的优化求解slater问题的Picat方法。相比于非优化求解slater问题的方法,该方法缩小了slater算法的解空间,有效地减少了求解slater获胜者的计算量,提高了计算速度。实验结果表明,优化求解slater问题的Picat方法的计算速度优于非优化的Picat方法;当候选项人数少于20时,求解slater问题的回答集程序（ASP）方法的计算速度和计算能力优于优化的Picat方法,但当候选项人数超过30时,优化的Picat方法（用可满足问题求解器）的计算速度和计算能力优于ASP方法。     

基于编码转换的离散演化算法设计与应用

为了利用演化算法求解离散域上的组合优化问题,借鉴遗传算法（GA）、二进制粒子群优化（BPSO）和二进制差分演化（HBDE）中的映射方法,提出了一种基于映射变换思想设计离散演化算法的实用方法——编码转换法（ETM）,并利用一个简单有效的编码转化函数给出了求解组合优化问题的离散演化算法一般算法框架A-DisEA.为了说明ETM的实用性与有效性,首先基于A-DisEA给出了一个离散粒子群优化算法（DisPSO）,然后分别利用BPSO、HBDE和DisPSO等求解集合联盟背包问题和折扣{0-1}背包问题,通过对计算结果的比较表明：BPSO、HBDE和DisPSO的求解性能均优于GA,这不仅说明基于ETM的离散演化算法在求解KP问题方面具有良好的性能,同时也说明利用ETM方法设计离散演化算法是一种简单且有效的实用方法.     

智能优化算法求解TSP问题

TSP（旅行商）问题代表组合优化问题,具有很强的工程背景和实际应用价值,但至今尚未找到非常有效的求解方法．为此,讨论了最近研究比较热门的使用各种智能优化算法（蚁群算法、遗传算法、模拟退火算法、禁忌搜索算法、Hopfield神经网络、粒子群优化算法、免疫算法等）求解TSP问题的研究进展,指出了各种方法的优缺点和改进策略．最后总结并提出了智能优化算法求解TSP问题的未来研究方向和建议．     

遗传算法在一类组合优化中的应用

文章研究了一类组合优化问题如：多路旅行商问题（MTSP）及分配问题。其实质为排序优化,提出了基于GA求解排序优化的求解策略,解释了实现该算法的一些关键问题,计算机模拟结果表明了该方法的有效性。     

一种求解整数规划与混合整数规划非线性罚函数方法

证明了任何一个变量有界的整数规划问题（IP）和混合整数规划问题（MIP）都可以转化为一个等价的非整数（或连续化）规划问题（NIP），并给出一个用非线性精确罚函数法来求解该等价NIP的方法，从而达到求解IP或MIP的目的，数值实验表明了算法的可行性。该方法可广泛用于各应用领域里IP和MIP的求解，特别是为非线性IP和MIP问题提供了一条通用 的求解途径，对解决许多实际优化问题具有重要意义。     

混合伊藤算法求解多尺度着色旅行商问题

着色旅行商问题（CTSP）是多旅行商问题（MTSP）与旅行商问题（TSP）的一种扩展,主要应用于含重复区域的多机工程系统（MES）等工程问题。CTSP是NP完全问题,尽管相关研究尝试采用遗传算法（GA）、模拟退火（SA）等方法求解该问题,但它们求解的问题尺度有限,且速度和求解质量上不尽人意。基于此,尝试采用一种基于均匀设计（UD）融合蚁群（ACO）算法和伊藤算法（IT?）的混合伊藤算法（UDHIT?）来求解该问题。UDHIT?采用UD来选择合适的参数组合,借助ACO的概率图模型来产生可行解,并利用伊藤算法的漂移和波动算子进行优化。实验的结果表明,UDHIT?求解多尺度CTSP的最优解和平均解比传统GA、ACO和IT?有所改善。     

混合伊藤算法求解多尺度着色旅行商问题

着色旅行商问题（CTSP）是多旅行商问题（MTSP）与旅行商问题（TSP）的一种扩展,主要应用于含重复区域的多机工程系统（MES）等工程问题。CTSP是NP完全问题,尽管相关研究尝试采用遗传算法（GA）、模拟退火（SA）等方法求解该问题,但它们求解的问题尺度有限,且速度和求解质量上不尽人意。基于此,尝试采用一种基于均匀设计（UD）融合蚁群（ACO）算法和伊藤算法（IT?）的混合伊藤算法（UDHIT?）来求解该问题。UDHIT?采用UD来选择合适的参数组合,借助ACO的概率图模型来产生可行解,并利用伊藤算法的漂移和波动算子进行优化。实验的结果表明,UDHIT?求解多尺度CTSP的最优解和平均解比传统GA、ACO和IT?有所改善。     

基于基因表达式编程的TSP问题求解

利用遗传算法求解组合优化问题时,需要特有的遗传算子,才能在候选解空间中有效搜索和进化。基因表达式编程（GEP）是进化计算家族的新成员。旅游商问题（TSP）是典型的组合优化问题,得到了广泛的研究,它的研究成果将对求解NP类问题产生重要影响。基于基因表达式编程（GEP）来解决TSP问题,引入适用组合优化的遗传算子：逆串,基因串的删/插等,最后进行了实验,展示GEP解决TSP问题的方法。实验表明GEP能有效解决TSP问题,设计的系统是强壮健康,其求解速度快且解的质量好。     

利用双重结构编码PSO求解动态背包问题

时变背包问题（TVKP）是一种典型的动态组合优化问题,由于其中某些量的动态变化,导致此问题非常难以求解。基于双重结构编码微粒群算法（DPSO）与贪心修正策略（GCOS）相结合,给出了一种求解TVKP 的新方法,通过对2个大规模TVKP实例的仿真计算表明：该方法比原对偶遗传算法适应环境变化能力和跟踪最优解的能力更强,非常适于求解TVKP问题。     

Evolutionary Algorithms for Minimax Problems in Robust Design

Many robust design problems can be described by minimax optimization problems. Classical techniques for solving these problems have typically been limited to a discrete form of the problem. More recently, evolutionary algorithms, particularly coevolutionary optimization techniques, have been applied to minimax problems. A new method of solving minimax optimization problems using evolutionary algorithms is proposed. The performance of this algorithm is shown to compare favorably with the existing methods on test problems. The performance of the algorithm is demonstrated on a robust pole placement problem and a ship engineering plant design problem.     

一类非线性极大极小问题的极大熵社会认知算法

针对一类非线性极大极小问题目标函数非光滑的特点给求解带来的困难,利用社会认知算法并结合极大熵函数法给出了此类问题的一种新的有效算法。首先利用极大熵函数将原问题转化为一个光滑无约束优化问题,然后利用社会认知算法对其进行求解。该算法是基于社会认知理论,通过一系列的学习代理来模拟人类的社会性以及智能性从而完成对目标的优化。数值结果表明,该算法收敛快,数值稳定性好,是求解非线性极大极小问题的一种有效算法。     

Solution of minimax problems using equivalent differentiable functions

A method is proposed for the solution of minimax optimization problems in which the individual functions involved are convex. The method consists of solving a problem with an objective function which is the sum of high powers or strong exponentials of the separate components of the original objective function. The resulting objective function, which is equivalent at the limit to the minimax one, is shown to be smooth as well as convex. Any efficient nonlinear programming method can be utilized for solving the equivalent problem. A number of examples are discussed.     

Linearization method for solving quantile optimization problems with loss function depending on a vector of small random parameters

We propose a method for solving quantile optimization problems with a loss function that depends on a vector of small random parameters. This method is based on using a model linearized with respect to the random vector instead of the original nonlinear loss function. We show that in first approximation, the quantile optimization problem reduces to a minimax problem where the uncertainty set is a kernel of a probability measure.     

Practical application of a penalty function approach to constrained minimax optimization

A practical, penalty function approach to solving constrained minimax problems is applied here. In essence, this approach reformulates the constrained minimax problem as an unconstrained minimax problem. A recently proposed optimization algorithm called grazor search is used to solve the reformulated unconstrained minimax problem. The proposed approach can handle inequality constraints-parameter constraints in particular. A practical transmission-line filter example with parameter constraints illustrates the results.     

A new non-monotone SQP algorithm for the minimax problem

In this paper, a new sequential quadratic programming (SQP) algorithm is proposed to solve the minimax problem which uses the idea of nonmonotonicity. The problem is transformed into an equivalent inequality constrained nonlinear optimization problem. In order to prevent the scaling problem, we do some modifications to the minimization problem. By the non-monotone SQP method, the new algorithm is globally convergent without using a penalty function. Furthermore, it is shown that the proposed method does not suffer from the Maratos effect, so the locally superlinear convergence is achieved. Numerical results suggest that our algorithm for solving the minmax problem is efficient and robust.     

一类非线性极小极大问题的改进粒子群算法

针对一类非线性极小极大问题目标函数非光滑的特点给求解带来的困难,利用改进的粒子群算法并结合极大熵函数法给出了此类问题的一种新的有效算法。首先利用极大熵函数将无约束和有约束极小极大问题转化为一个光滑函数的无约束最优化问题,将此光滑函数作为粒子群算法的适应值函数;然后用数学中的外推方法给出一个新的粒子位置更新公式,并应用这个改进的粒子群算法来优化此问题。数值结果表明,该算法收敛快﹑数值稳定性好,是求解非线性极小极大问题的一种有效算法。     

一类半无穷优化问题的求解方法

§１．引言 在工程设计中,多输入多输出控制系统设计、宽通带放大器的设计、机器人手臂路径规划、形位误差评、机构综合等许多问题 ［１－４］,常常可转化为如下不可微优化问题,我们称这类问题为半无穷极大极小问题．其中ｍ和ｍ０分别是不含参数和含参数的约束个数．集ＹｉＲｌｉ（ｉ＝１,２,…,ｍｏ）都是紧集, ： ｉ＝１,２,…,ｍｏ,都是连续函数． 问题（ＳＩＭＭＰ）是一个很一般的模型,当集ＹＯ为单点集时,它是文献［１］中讨论的控制设计问题的模型．如果进一步假设ｍ＝０,ｍ０＝１,则得文献［２］中研究的半无穷优化…     

Synthesis of fault-tolerant feedforward neural networks usingminimax optimization

In this paper we examine a technique by which fault tolerance can be embedded into a feedforward network leading to a network tolerant to the loss of a node and its associated weights. The fault tolerance problem for a feedforward network is formulated as a constrained minimax optimization problem. Two different methods are used to solve it. In the first method, the constrained minimax optimization problem is converted to a sequence of unconstrained least-squares optimization problems, whose solutions converge to the solution of the original minimax problem. An efficient gradient-based minimization technique, specially tailored for nonlinear least-squares optimization, is then applied to perform the unconstrained minimization at each step of the sequence. Several modifications are made to the basic algorithm to improve its speed of convergence. In the second method a different approach is used to convert the problem to a single unconstrained minimization problem whose solution very nearly equals that of the original minimax problem. Networks synthesized using these methods, though not always fault tolerant, exhibit an acceptable degree of partial fault tolerance.     

Minimax method in optimizing energy consumption in real-time embedded systems

The main principles of the minimax method designed for solving energy consumption optimization problems in real-time embedded systems are presented. Results of comparing ways to minimize energy consumption in systems with on-line minimax and off-line DVS/DFS scheduling are given. In terms of energy consumption minimization, the minimax method is shown to ensure optimal division of the task into two subtasks. This method can be applied both to systems with tasks arbitrarily distributed in time and to periodic multitasking systems with rigid timing constraints.