一族共轭梯度法的全局收敛性

提出了求解无约束优化问题的一族共轭梯度法，这族方法包古Fkcher提出的共轭下降法．文中证明了一种非精确线性搜索条件能够保证这族方法的下降性和全局收敛性，其收敛结果与Dai和Yuan 1996年给出的关于共轭下降法的相一致．     

一个充分下降的修正 PRP 型谱共轭梯度法

谱共轭梯度法是共轭梯度法的一种重要延拓,可以通过共轭参数和谱参数二维度调整,使得所设计算法的搜索方向满足某一预设条件,比如充分下降条件或共轭条件等。谱参数和共轭参数的设计是谱共轭梯度法的两大核心工作,决定方法的收敛性和数值效果。基于 PRP 方法,构造了一个修正的 PRP 型共轭参数,该共轭参数不仅保持了 PRP 公式的结构和性能,而且具有 FR 方法的收敛性质。利用充分下降条件取定一个谱参数,与修正的 PRP 型共轭参数结合,建立一个新的谱共轭梯度算法。该算法不依赖于任何线搜索就可以满足充分下降条件。常规假设条件下,采用强 Wolfe 线搜索准则产生步长,证明了新算法的全局敛性。通过 100 个算例对该算法进行数值测试并与其他五个算法进行比较,同时采用性能图对数值结果进行直观展示,结果表明该算法是有效的。     

包含共轭下降法的一类无约束优化方法的全局收敛性

共轭下降法是由Fletcher(1987)提出的一个共轭梯度法，提出了包含共轭下降法的一类无约束优化方法，并采用Dai Yuhong和Yuan Yaxinag(1996)建立的一个非精确经搜索模型，给出了保证这类方法具有下降性和全局收敛性的搜索条件，文中得到的有关共轭下降法的收敛条件与Dai Yuhong和Yuan Yaxiang(1996)给出的收敛条件一致。     

Armijo型线搜索下一种共轭梯度法的收敛性

对无约束非线性规划问题,本文分别在两种不同的Armijo型线搜索下证明了Liu-Storey共轭梯度法的所有搜索方向都是充分下降的,并进一步证明了该算法是全局强收敛的。对另一种放松了函数值下降条件可以获得更大步长的Armijo型线搜索,本文还证明了该算法是全局强收敛的。     

一类Armijo搜索下的混合HS-PRP共轭梯度法?

为有效求解大规模无约束优化问题,本文基于HS方法和PRP方法,提出了一类新的混合共轭梯度法。该方法在每步迭代中都不依赖于函数的凸性和搜索条件而自行产生充分下降方向。在精确搜索下,本文算法将还原为标准的PRP方法。在适当的条件下,获证了该法在Armijo搜索下,即使求解非凸函数极小化的问题,算法也具有全局收敛性。同时,数值实验表明本文算法可以有效求解优化测试问题。     

求解大规模优化的混合共轭梯度法

为了有效求解大规模无约束优化问题,在PRP方法和FR方法的基础上,给出了满足共轭条件的新的混合共轭梯度法.在强Wolfe线性搜索下,证明了此算法的全局收敛性.在特定条件下,新公式与HS公式一致,因此可看作是对HS方法的修正.对7个经典无约束优化问题的数值实验结果表明,所提出的新方法数值稳定.相比已有方法,随着问题规模的增大,所提方法在迭代次数,优化精度及梯度调用次数方面表现出明显优势.     

一类修正Zhang H.C.非单调共轭梯度算法

为有效求解大规模无约束优化问题,本文基于RMFI共轭梯度法,结合Zhang H.C.非单调线搜索步长规则,提出了一类新的共轭梯度算法.在适当的条件下,证明了新算法的全局收敛性.数值算例表明,新算法比Zhang H.C.非单调规则下的标准RMFI方法收敛速度更快,更有效.同时,本文进一步研究了Zhang H.C.非单调线搜索步长规则的一个基于强迫函数的拓展模型,并从理论上证明了基于此拓展模型的新算法的全局收敛性.     

线搜索下带误差项的Dai-Yuan共轭梯度算法

本文在共轭梯度不能精确计算的情况下,采用Wolfe或Armijo步长规则研究了带误差项的Dai-Yuan(abbr．DY)共轭梯度法,我们的方法的一个很重要的特征就是步长不一定趋于零。这种特征使得我们的分析对许多实际问题很有用。我们在很一般的假设条件下证明了算法的全局收敛性。最后给出了数值算例。     

基于共轭梯度法的快速Mean Shift图像分割

针对均值漂移算法收敛速度较慢的问题,本文出了基于共轭梯度的快速均值漂移算法,并将其用于图像分割.该算法利用共轭梯度法简便,存储需求小,收敛速度介于最速下降法和牛顿法之间, 具有较好的全局收敛性和较快的收敛速度的特点,通过交替执行均值漂移算法和共轭梯度算法提高经典均值漂移算法的收敛速度.对合成图像和真实图像的实验结果表明了新算法不但提高了经典均值漂移算法的速度,而且在进行图像分割时保持了良好的分割结果.     

在Armijo型线搜索下共轭下降法的收敛性

我们提出了两种Armijo型线搜索,进而证明了这两种Armijo型线搜索可保证共轭下降法的下降搜索方向的充分下降性。并在这两种Armijo型线搜索下得到共轭下降法的收敛性结果。     

结合广义Armijo步长搜索的一类记忆梯度算法及其收敛特征

本文对求解无约束规划的超记忆梯度算法中线搜索方向中的参数,给了一个假设条件,从而确定了它的一个新的取值范围,保证了搜索方向是目标函数的充分下降方向,由此提出了一类新的记忆梯度算法.并在去掉迭代点列有界和广义Armijo步长搜索下,讨论了算法的全局收敛性,且给出了结合形如共轭梯度法FR,PR,HS的记忆梯度法的修正形式,数值实验表明,新算法比Armijo线搜索下的FR,PR,HS共轭梯度法和超记忆梯度法更稳定、更有效.     

一类新的基于信赖域技术的非单调共轭梯度算法

为有效求解大规模无约束优化问题,本文基于信赖域技术和修正拟牛顿方程,同时结合Zhang H. C.策略和Gu N. Z.策略,设计了一种新的非单调共轭梯度算法,应用信赖域技术保证了算法的稳健性和收敛性,并给出了算法的全局收敛性分析．在适当条件下,证明了该算法具有线性收敛性．数值实验表明新算法能够有效求解病态和大规模问题．与单独结合其中一种非单调策略的算法相比,新算法需要较少的迭代次数和运行时间,利用其得到的函数值与最优值更接近．     

一个新的谱共轭梯度法

谱共轭梯度法含有两个方向调控参数,是求解无约束优化问题的一类有效方法.本文给出一对参数公式以构建新的谱共轭梯度法,该方法在精确线搜索下与标准FR方法等价,在Wolfe线搜索下具有类似标准DY方法的内在性质.我们证明了采用Wolfe线搜索的新算法在每一次迭代中均产生下降方向,并且具有全局收敛性.数值实验结果表明,新算法数值稳定、有效,适合于求解大规模无约束优化问题.     

结合广义Armijo步长搜索的一类新的共轭度算法及其收敛特征

对求解无约束规划的共轭梯度算法中共轭梯度方向中的参数给了一个假设条件。从而确定它的一个取值范围，使其在此范围内取值均能保证共轭梯度方向是目标函数的充分下降方向。提出了一类新的共轭梯度算法，在去掉迭代点列有界和广义Armijo步长搜索下讨论了算法的全局收敛性。同时给出了具有好的收敛性质和较快收敛速度的FR，PR，HS共轭梯度法的修正形式。数值例子表明新算法比Armijo搜索下的FR，PR，HS共轭梯算法更稳定更有效。算法需要较小的存储。特别适于求解大规模无约束最优化问题。