一类非线性共轭梯度法的全局收敛性

研究求解无约束最优化问题的共轭梯度法,提出了一种新的共轭梯度类型公式,从而影响了算法产生的搜索方向,进一步影响了算法的效果,得到一类新共轭梯度法,证明了在Grippo-Lucidi线搜索下新共轭梯度法的全局收敛性.     

复共轭梯度法的结构

从复问题本身出发,对实值复变函数的优化问题引入了最优复搜索的概念,得到了最优复搜索的条件.给出并证明了二次优化问题的复共轭方向法与复共轭梯度法,并藉此给出了一般实值复变函数优化问题的复共轭梯度法.对复问题的直接推导与证明明晰了复共轭梯度法的数学结构.复共轭梯度法可以理解为是在实共轭梯度法中直接将实转置改为共轭转置得到的.     

新Armijo线搜索下的PRP共轭梯度法及其收敛性分析

优化算法研究,主要工作是给迭代点寻求可接受且有效的步长及可行的下降方向.在求解大规模无约束优化问题时,共轭梯度法被广泛应用.其中, Polak-Ribiere-Polyak方法 (简称:PRP方法)是众多共轭梯度法中数值表现相对较好的,但它在许多线搜索下并不具备全局收敛性,如何发挥PRP方法数值优良,而克服其收敛性差,是学者们致力探索的热点课题.本文提出新的PRP参数公式,并对Armijo线搜索方法进行修正,建立了新Armijo线搜索下的PRP共轭梯度算法,证明算法满足充分下降条件,并证明算法在适当条件下具有全局收敛性.     

一种新的Wolfe线搜索技术及全局收敛性

共轭梯度法是求解无约束优化问题的一种重要的方法,尤其适用于大规模优化问题的求解.通过应用计算βk的新公式求得一种新的共轭梯度法,在非精确线性搜索的Wolfe准则下证明新的共轭梯度法的全局收敛性,并且数值实验表明了这种线搜索下算法的有效性.     

线搜索(LS)共轭梯度法非单调算法的全局收敛性

非单调线搜索技巧在非线性优化中得到成功的应用与扩展,非单调线搜索下的共轭梯度法则可以提高大规模非线性优化问题的收敛速度。对LS共轭梯度法做了某些变型,在非单调线搜索下,该方法保证每次迭带都会产生下降的方向,在较弱的条件下得到算法全局收敛性。     

超记忆梯度算法的全局收敛性

对无约束优化算法进行了研究。描述了最速下降算法、牛顿法、非线性FR共轭梯度法、非线性PRP共轭梯度法、非线性DY共轭梯度法等求解大规模无约束优化问题的有效算法以及精确线搜索、Wolfe线搜索、Armijo线搜索的搜索条件;着重研究了计算更为有效的适合求解无约束优化问题的超记忆梯度算法;在一类Wolfe型非精确线搜索条件下给出了一类超记忆梯度算法,并且在较弱的条件下证明了算法的全局收敛性,为求解大规模无约束优化问题以及各种算法的比较提供了参考。     

一个含参数的混合LS-DY共轭梯度法

对求解无约束优化问题提出了一个含参数的混合共轭梯度法.新算法将LS方法和推广的DY算法相结合,保证在Wolfe线搜索下每次迭代中的搜索方向是充分下降的.证明了该算法的全局收敛性,给出了数值实验结果.     

改进的共轭梯度法及其收敛性

共轭梯度法是求解大规模无约束优化问题的一种有效方法。针对算法的优劣主要依赖于步长 因子和搜索方向的特点,结合共轭梯度法的共轭性质,提出一种改进的可以控制步长因子的共轭梯度算 法。在建立算法的几个重要引理和全局收敛性定理后分别给出了证明。最后对算法进行了数值实验,实 验结果表明算法具有良好的收敛性和有效性。     

基于新的步长搜索下的记忆梯度法收敛性分析

根据最速下降算法、拟牛顿法、FR共轭梯度法、PRP共轭梯度法等,求解大规模无约束优化问题的有效算法、精确线搜索与Wolfe线搜索等的搜索条件,着重对计算更为有效的适合求解无约束优化问题的记忆梯度算法进行研究。基于Wolfe非精确线搜索提出一种新的步长搜索方法,对记忆梯度算法进行改进。最后证明改进的算法在较弱的条件下是全局收敛的。     

改进的共轭梯度法及其收敛性

共轭梯度法是求解大规模无约束优化问题的一种有效方法。针对算法的优劣主要依赖于步长因子和搜索方向的特点，结合共轭梯度法的共轭性质，提出一种改进的可以控制步长因子的共轭梯度算法。在建立算法的几个重要引理和全局收敛性定理后分别给出了证明。最后对算法进行了数值实验，实验结果表明算法具有良好的收敛性和有效性。