一个新线搜索下DY共轭梯度法的收敛性

对无约束优化问题,传统的Wolfe线搜索需要限制参数σ≤1/2,它对保证一些共轭梯度法的收敛性是不可以改进的.广义的Wolfe线搜索也需要一些特殊的取法,才能保证一些算法的收敛性.因此,针对这一限制,把参数的范围扩展至0<σ<1,而且对广义的Wolfe线搜索进行修改.然后证明了在这种新的线搜索条件下,DY共轭梯度法在扩大的参数O<σ<1下的全局收敛性.     

修正HS共轭梯度法的全局收敛性

针对PRP方法对一般的非凸函数在强Wolfe线性搜索条件下不收敛这一不足,给出了一种新的共轭梯度算法.在强Wolfe线性搜索下,所给公式满足充分下降条件,并在适当条件下证明了算法的全局收敛性.     

超记忆梯度算法的全局收敛性

对无约束优化算法进行了研究。描述了最速下降算法、牛顿法、非线性FR共轭梯度法、非线性PRP共轭梯度法、非线性DY共轭梯度法等求解大规模无约束优化问题的有效算法以及精确线搜索、Wolfe线搜索、Armijo线搜索的搜索条件;着重研究了计算更为有效的适合求解无约束优化问题的超记忆梯度算法;在一类Wolfe型非精确线搜索条件下给出了一类超记忆梯度算法,并且在较弱的条件下证明了算法的全局收敛性,为求解大规模无约束优化问题以及各种算法的比较提供了参考。     

Wolfe线搜索下的全局收敛修正HS共轭梯度法

为解决大规模无约束优化问题,基于Wolfe线搜索技术,提出新的修正HS共轭梯度法。在水平集有界和梯度Lipschitz连续的条件下,证明新算法具有全局收敛性。数值实验证实此算法有效可行。     

Wolfe搜索下广义共轭梯度法及其全局收敛性

指出了文献[10]中两类共轭梯度法的错误证明,提出了Wolfe搜索下一类以DY公式为上界的广义共轭梯度法,该算法在每一步不依赖于任何搜索自行产生充分下降方向,在适当的条件下证明了算法的全局收敛性.     

Wolfe线搜索下一类新的共轭梯度法

共轭梯度法是一类解决无约束优化问题的有效方法,尤其适用于大规模优化问题的求解。提出一族包含DY方法的新的共轭梯度法,并证明了该算法在Wolfe线搜索条件下具有全局收敛性,数值结果表明该算法是有效的。     

Wolfe线搜索下的一类新的共轭梯度法

给出了解无约束最优化问题的共轭梯度法的一个新的迭代参数,得到一种新的共轭梯度法,并在Wolfe线搜索下,证明了算法的全局收敛性。     

一种新的Wolfe线搜索技术及全局收敛性

共轭梯度法是求解无约束优化问题的一种重要的方法,尤其适用于大规模优化问题的求解.通过应用计算βk的新公式求得一种新的共轭梯度法,在非精确线性搜索的Wolfe准则下证明新的共轭梯度法的全局收敛性,并且数值实验表明了这种线搜索下算法的有效性.     

求解无约束优化问题的下降谱共轭梯度法

提出一种新的谱共轭梯度法,在Wolfe线搜索下算法具有下降性和全局收敛性。实验结果表明:该方法具有较好的数值表现,适合于求解非线性无约束优化问题。     

两类修正的HS共轭梯度法

给出了两类求解无约束最优化问题修正的HS共轭梯度法.在Wolfe线搜索下,无需给定下降条件即可得到算法的全局收敛性.数值试验证明了该方法的有效性和稳定性.     

线搜索(LS)共轭梯度法非单调算法的全局收敛性

非单调线搜索技巧在非线性优化中得到成功的应用与扩展,非单调线搜索下的共轭梯度法则可以提高大规模非线性优化问题的收敛速度。对LS共轭梯度法做了某些变型,在非单调线搜索下,该方法保证每次迭带都会产生下降的方向,在较弱的条件下得到算法全局收敛性。     

广义Wolfe线搜索下共轭梯度法的全局收敛性

共轭梯度法是求解大规模约束问题的有效算法,不同的参数选取构成不同的共轭梯度法.通过研究一个新的求解无约束最优化问题的共轭梯度法,证明该公式在广义Wolfe线搜索下是具有充分下降性,并且是全局收敛的.     

一类非线性共轭梯度法的全局收敛性

研究求解无约束最优化问题的共轭梯度法,提出了一种新的共轭梯度类型公式,从而影响了算法产生的搜索方向,进一步影响了算法的效果,得到一类新共轭梯度法,证明了在Grippo-Lucidi线搜索下新共轭梯度法的全局收敛性.     

复共轭梯度法的结构

从复问题本身出发,对实值复变函数的优化问题引入了最优复搜索的概念,得到了最优复搜索的条件.给出并证明了二次优化问题的复共轭方向法与复共轭梯度法,并藉此给出了一般实值复变函数优化问题的复共轭梯度法.对复问题的直接推导与证明明晰了复共轭梯度法的数学结构.复共轭梯度法可以理解为是在实共轭梯度法中直接将实转置改为共轭转置得到的.     

Subspace Minimization Conjugate Gradient Method Based on CubicRegularization Model for Unconstrained Optimization

基于三次正则模型的子空间极小化共轭梯度法

赵婷 ,刘红卫

（西安电子科技大学 数学与统计学院, 西安 710126）

共轭梯度法是求解无约束优化问题的一类主要方法,伴随着越来越多大规模问题的出现,子空间技术变得尤为重要,并且这种技术被广泛应用于最优化领域,本文通过在子空间上极小化当前迭代点处的三次正则化近似模型或者目标函数的二次近似模型来求解迭代方向,其中在三次正则模型中运用一种特殊的范数,结合非单调线搜索策略提出一个基于三次正则模型的子空间极小化共轭梯度算法。在一定条件下,证明搜索方向的两个重要性质,并给出算法的收敛性证明。数值结果表明本文所提算法具有良好的数值性能。

关键词：三次正则模型;共轭梯度法;子空间技术;无约束优化

     

无约束最优化新的共轭梯度算法

提出了一族计算βk的新公式,证明了此公式在共轭梯度算法中的全局收敛性。     

Armijo型线搜索下的新共轭梯度法的全局收敛性

共轭梯度法是解决无约束非线性最优化问题的重要的方法之一.基于FR方法好的收敛性并考虑到dk的下降性,提出了一类新的共轭梯度法,并在两种Armijo型搜索下,研究了新方法的全局收敛性.数据实验表明新方法是有效的.     

在Wolfe步长搜索下的一类新的共轭梯度算法

研究利用共轭梯度法求解无约束最优化问题。为了保证共轭梯度方向是目标函数的充分下降方向,对共轭梯度算法中的共轭梯度方向参数确定了一个取值范围并与Wolfe步长搜索相结合,提出了新的共轭梯度算法,使算法具有更好的收敛速度,特别是在求解大规模无约束最优化问题时,此算法只需要较小的存储。