线搜索(LS)共轭梯度法非单调算法的全局收敛性

非单调线搜索技巧在非线性优化中得到成功的应用与扩展,非单调线搜索下的共轭梯度法则可以提高大规模非线性优化问题的收敛速度。对LS共轭梯度法做了某些变型,在非单调线搜索下,该方法保证每次迭带都会产生下降的方向,在较弱的条件下得到算法全局收敛性。     

超记忆梯度算法的全局收敛性

对无约束优化算法进行了研究。描述了最速下降算法、牛顿法、非线性FR共轭梯度法、非线性PRP共轭梯度法、非线性DY共轭梯度法等求解大规模无约束优化问题的有效算法以及精确线搜索、Wolfe线搜索、Armijo线搜索的搜索条件;着重研究了计算更为有效的适合求解无约束优化问题的超记忆梯度算法;在一类Wolfe型非精确线搜索条件下给出了一类超记忆梯度算法,并且在较弱的条件下证明了算法的全局收敛性,为求解大规模无约束优化问题以及各种算法的比较提供了参考。     

基于新的步长搜索下的记忆梯度法收敛性分析

根据最速下降算法、拟牛顿法、FR共轭梯度法、PRP共轭梯度法等，求解大规模无约束优化问题的有效算法、精确线搜索与Wolfe线搜索等的搜索条件，着重对计算更为有效的适合求解无约束优化问题的记忆梯度算法进行研究。基于Wolfe非精确线搜索提出一种新的步长搜索方法，对记忆梯度算法进行改进。最后证明改进的算法在较弱的条件下是全局收敛的。     

线性约束优化问题的一类非单调信赖域算法

对线性约束优化问题提出了一类非单调信赖域算法.当试探步不成功时,并不重解子问题,而是利用非单调线搜索得到试探步及下一迭代点,有效地减少了计算量.证明了算法的全局收敛性.     

基于锥模型的无约束优化问题的信赖域算法

对无约束优化问题,提出了一种基于锥模型的非单调信赖域算法.该算法与通常的信赖域算法的不同在于:当试探步不成功时,不再重新求解子问题,而是采用非单调线搜索技术.对子问题进行了分析,并证明了算法的超线性收敛性.     

初始点任意的摄动梯度投影法

利用梯度投影与罚函数相结合的技巧,将带不等式和等式约束的优化问题化成一个无约束问题,提出了初始点可任意的求解不等式、等式约束优化问题的摄动梯度投影算法;参数δk取不同的数还可以得到一类梯度投影算法,从而得出了在搜索方向和步长不精确条件下的梯度投影法,保证了在实际应用中更容易实现;在较弱条件下,证明了该算法的全局收敛性。     

基于回溯法的非单调线搜索的BFGS方法的全局收敛性

根据一种修正的BFGS方法的计算公式,结合回溯法和一种非单调线搜索的条件,给出了一种求解无约束优化问题的新的算法,证明了在这种非单调线搜索的条件下BFGS具有全局收敛性.     

一般约束优化问题的摄动梯度投影法

利用梯度投影法与罚函数技巧,将带等式和不等式约束优化问题化成一个无约束问题,提出了求解不等式、等式约束优化问题的摄动梯度投影算法。考虑到计算的误差因素,在搜索方向上进行摄动,得到一个方向不精确的梯度投影法。参数Wk取不同的数还可以得到一类梯度投影法。从而保证了在实际应用中更容易实现,在较弱的条件下,证明了该算法的全局收敛性。     

梯度投影法求解压缩感知信号重构问题

将结合Barzilai-Borwein步长和非单调线搜索的梯度投影法用于压缩感知信号重构.分析了Barzilai-Borwein步长计算方法,结合其特点给出了非单调线搜索方法,为降低线搜索对算法性能的影响,引入了自适应的策略,最后给出了算法收敛性分析.实验结果表明,该算法能很好地重构不同稀疏度的信号,且在相同条件下,计算效率优于经典的基追踪法、正交匹配追踪和其他梯度投影法.     

一个新的非单调信赖域算法

提出一个带线性搜索的非单调自适应信赖域算法.该算法将非单调wolfe线搜索和自适应信赖域方法相结合,同时采用新的BFGS校正公式,保持了信赖域子问题海森矩阵的正定性.在适当条件下,分析了该算法的全局收敛性,并通过数值实验说明了该算法的可行性.     

一种无约束优化问题的谱共轭梯度法

提出了一种新的谱共轭梯度法,证明了该方法不依赖于任何线搜索具有充分下降性,在Armijo线搜索下证明了算法具有全局收敛性。数值试验结果表明：在Armijo线搜索下,该方法比Necu-lai,Andrei提出的方法有效;并且4种测试函数的数值结果显示：新方法明显优于谱DY算法,也较谱FR算法有效;可以和谱PRP的计算效能相媲美,故算法具有良好的计算效能。     

解非线性互补问题带线搜索的非单调自适应信赖域法

基于Fischer-Burmeister(FB)函数将非线性互补问题等价地转化为求解无约束优化问题。结合自适应信赖域半径方法和基于函数平均权重的非单调技术,提出一个求解非线性互补问题的非单调自适应信赖域方法。在适当的假设条件下,证明了该算法的全局性和超线性,数值结果表明该算法是可行的。     

一类新的带线搜索的非单调自适应信赖域算法

对无约束最优化问题提出了一类新的带线搜索的非单调自适应信赖域算法．新算法采用自适应技术,当试验步不成功时,不重解信赖域子问题,而采用Wolfe线搜索,故相对于原有的算法减少了计算量．并在适当的条件下,证明了算法的全局收敛性．     

修正的共轭梯度法在两种线搜索下的全局收敛性

针对参数βk的不同选取可以构成不同的共轭梯度法,给出了一类求解无约束最优化问题的修正的共轭梯度算法,这种算法能够在较弱条件下证明选定的卢。在每一步都能产生一个下降方向,且在Wolfe线搜索下具有全局收敛性．另外这种算法在另一种Wolfe搜索条件下,若搜索方向为下降时,也具有全局收敛性．     

凸约束优化的非单调线搜索法

将一般的无约束非单调线搜索算法推广成凸约束的非单调线搜索法,搜索方向由BFGS方法改变为满足凸约束条件的方程组来确定,证明了算法的全局收敛性和k次线性收敛,进行了数值试验,结果表明算法十分有效。