一个新的谱共轭梯度法

谱共轭梯度法含有两个方向调控参数,是求解无约束优化问题的一类有效方法.本文给出一对参数公式以构建新的谱共轭梯度法,该方法在精确线搜索下与标准FR方法等价,在Wolfe线搜索下具有类似标准DY方法的内在性质.我们证明了采用Wolfe线搜索的新算法在每一次迭代中均产生下降方向,并且具有全局收敛性.数值实验结果表明,新算法数值稳定、有效,适合于求解大规模无约束优化问题.     

结合广义Armijo步长搜索的一类记忆梯度算法及其收敛特征

本文对求解无约束规划的超记忆梯度算法中线搜索方向中的参数,给了一个假设条件,从而确定了它的一个新的取值范围,保证了搜索方向是目标函数的充分下降方向,由此提出了一类新的记忆梯度算法.并在去掉迭代点列有界和广义Armijo步长搜索下,讨论了算法的全局收敛性,且给出了结合形如共轭梯度法FR,PR,HS的记忆梯度法的修正形式,数值实验表明,新算法比Armijo线搜索下的FR,PR,HS共轭梯度法和超记忆梯度法更稳定、更有效.     

一个充分下降的修正 PRP 型谱共轭梯度法

谱共轭梯度法是共轭梯度法的一种重要延拓,可以通过共轭参数和谱参数二维度调整,使得所设计算法的搜索方向满足某一预设条件,比如充分下降条件或共轭条件等。谱参数和共轭参数的设计是谱共轭梯度法的两大核心工作,决定方法的收敛性和数值效果。基于 PRP 方法,构造了一个修正的 PRP 型共轭参数,该共轭参数不仅保持了 PRP 公式的结构和性能,而且具有 FR 方法的收敛性质。利用充分下降条件取定一个谱参数,与修正的 PRP 型共轭参数结合,建立一个新的谱共轭梯度算法。该算法不依赖于任何线搜索就可以满足充分下降条件。常规假设条件下,采用强 Wolfe 线搜索准则产生步长,证明了新算法的全局敛性。通过 100 个算例对该算法进行数值测试并与其他五个算法进行比较,同时采用性能图对数值结果进行直观展示,结果表明该算法是有效的。     

一类修正Zhang H.C.非单调共轭梯度算法

为有效求解大规模无约束优化问题,本文基于RMFI共轭梯度法,结合Zhang H.C.非单调线搜索步长规则,提出了一类新的共轭梯度算法.在适当的条件下,证明了新算法的全局收敛性.数值算例表明,新算法比Zhang H.C.非单调规则下的标准RMFI方法收敛速度更快,更有效.同时,本文进一步研究了Zhang H.C.非单调线搜索步长规则的一个基于强迫函数的拓展模型,并从理论上证明了基于此拓展模型的新算法的全局收敛性.     

求解大规模优化的混合共轭梯度法

为了有效求解大规模无约束优化问题,在PRP方法和FR方法的基础上,给出了满足共轭条件的新的混合共轭梯度法.在强Wolfe线性搜索下,证明了此算法的全局收敛性.在特定条件下,新公式与HS公式一致,因此可看作是对HS方法的修正.对7个经典无约束优化问题的数值实验结果表明,所提出的新方法数值稳定.相比已有方法,随着问题规模的增大,所提方法在迭代次数,优化精度及梯度调用次数方面表现出明显优势.     

结合广义Armijo步长搜索的一类新的共轭度算法及其收敛特征

对求解无约束规划的共轭梯度算法中共轭梯度方向中的参数给了一个假设条件。从而确定它的一个取值范围，使其在此范围内取值均能保证共轭梯度方向是目标函数的充分下降方向。提出了一类新的共轭梯度算法，在去掉迭代点列有界和广义Armijo步长搜索下讨论了算法的全局收敛性。同时给出了具有好的收敛性质和较快收敛速度的FR，PR，HS共轭梯度法的修正形式。数值例子表明新算法比Armijo搜索下的FR，PR，HS共轭梯算法更稳定更有效。算法需要较小的存储。特别适于求解大规模无约束最优化问题。     

一类Armijo搜索下的混合HS-PRP共轭梯度法?

为有效求解大规模无约束优化问题,本文基于HS方法和PRP方法,提出了一类新的混合共轭梯度法。该方法在每步迭代中都不依赖于函数的凸性和搜索条件而自行产生充分下降方向。在精确搜索下,本文算法将还原为标准的PRP方法。在适当的条件下,获证了该法在Armijo搜索下,即使求解非凸函数极小化的问题,算法也具有全局收敛性。同时,数值实验表明本文算法可以有效求解优化测试问题。     

Armijo型线搜索下一种共轭梯度法的收敛性

对无约束非线性规划问题,本文分别在两种不同的Armijo型线搜索下证明了Liu-Storey共轭梯度法的所有搜索方向都是充分下降的,并进一步证明了该算法是全局强收敛的。对另一种放松了函数值下降条件可以获得更大步长的Armijo型线搜索,本文还证明了该算法是全局强收敛的。     

包含共轭下降法的一类无约束优化方法的全局收敛性

共轭下降法是由Fletcher(1987)提出的一个共轭梯度法，提出了包含共轭下降法的一类无约束优化方法，并采用Dai Yuhong和Yuan Yaxinag(1996)建立的一个非精确经搜索模型，给出了保证这类方法具有下降性和全局收敛性的搜索条件，文中得到的有关共轭下降法的收敛条件与Dai Yuhong和Yuan Yaxiang(1996)给出的收敛条件一致。     

一类新的记忆梯度法及其收敛性

本文着重研究求解无约束优化问题的记忆梯度法,利用当前和前面一步迭代点的信息产生下降方向,采用Armijo线性搜索确定步长,得到了一类新的无约束优化算法。新算法在较弱的条件下具有全局收敛性和线性收敛速率,并且不用计算和存储矩阵,适于求解大规模优化问题。数值试验表明算法是有效的。     

自适应模拟退火结合共轭梯度法求解薄膜厚度

根据薄膜光学计算理论和最优化理论,提出了用自适应模拟退火法结合共轭梯度法确定薄膜厚度的新方法。该方法建立的数学模型先采用自适应模拟退火算法搜索,再采用共轭梯度算法精确查找。它不但减少了无损伤测量方法对初始计算条件的过多依赖,而且在保证精确度的情况下极大地提高了计算速度,同时有很高的适应性。实验中,应用该方法求解了三层膜系的厚度,计算时间为3s,计算误差小于4nm。     

无约束优化的超记忆梯度算法

提出了一种无约束优化超记忆梯度算法,分析了算法的收敛性,并对算法进行了数值试验,结果表明算法比Ａｒｍｉｊｏ搜索下的ＦＲ和ＰＲ共轭梯度法及Ｃａｕｃｈｙ方法有效,特别适于求解大规模无约束最优化问题。     

基于共轭梯度法的快速Mean Shift图像分割

针对均值漂移算法收敛速度较慢的问题,本文出了基于共轭梯度的快速均值漂移算法,并将其用于图像分割.该算法利用共轭梯度法简便,存储需求小,收敛速度介于最速下降法和牛顿法之间, 具有较好的全局收敛性和较快的收敛速度的特点,通过交替执行均值漂移算法和共轭梯度算法提高经典均值漂移算法的收敛速度.对合成图像和真实图像的实验结果表明了新算法不但提高了经典均值漂移算法的速度,而且在进行图像分割时保持了良好的分割结果.     

基于信赖域技术的非单调非线性共轭梯度算法

共轭梯度算法由于其迭代简单和较小的存储在求解大规模无约束优化问题中起着特殊的作用.本文基于信赖域技术和修正拟牛顿方程,结合Zhang非单调策略,设计了一种新的求解无约束最优化问题的基于信赖域技术的非单调非线性共轭梯度算法.该算法每次迭代自动产生信赖域半径,并通过求解一个简单的子问题得到下一个迭代点,信赖域技术的应用保证...     

基于稀疏对角拟牛顿方向的非单调超记忆梯度算法

超记忆梯度算法由于其迭代简单和较小的存储需求,在求解大规模无约束优化问题中起着特殊的作用.本文基于稀疏对角拟牛顿技术,结合修正Gu和Mo非单调线搜索步长规则,建立了求解大规模无约束最优化问题的非单调超记忆梯度新算法,给出了算法的全局收敛性分析.新算法具有算法稳定、计算简单的特点可用于求解病态和大规模问题.数值例子表明算法有效稳定.     

非线性方程组自反解的非精确Newton-MCG算法

针对源于科学计算和工程应用领域的非线性代数方程组,本文应用Newton算法求其自反解,并采用修正共轭梯度法(MCG算法)求由Newton算法每一步迭代计算导出的线性代数方程组的近似自反解或其近似自反最小二乘解,建立了求其自反解的非精确Newton-MCG算法.基于MCG算法适用面宽和有限步收敛的特点,建立的非精确Newton-MCG算法仅要求非线性代数方程组有自反解,而不要求它的自反解唯一.数值算例表明,非精确Newton-MCG算法是有效的.     

一类新的基于信赖域技术的非单调共轭梯度算法

为有效求解大规模无约束优化问题,本文基于信赖域技术和修正拟牛顿方程,同时结合Zhang H. C.策略和Gu N. Z.策略,设计了一种新的非单调共轭梯度算法,应用信赖域技术保证了算法的稳健性和收敛性,并给出了算法的全局收敛性分析．在适当条件下,证明了该算法具有线性收敛性．数值实验表明新算法能够有效求解病态和大规模问题．与单独结合其中一种非单调策略的算法相比,新算法需要较少的迭代次数和运行时间,利用其得到的函数值与最优值更接近．     

自适应耦合局部最优法及其在模型修正中的应用

耦合局部最优法作为一种新型的优化技术,既具有高效的搜索速度又具有全局搜索能力.然而,对于大规模优化问题,该方法容易陷入局部最优;另外,梯度信息在该项技术中起着重要作用,而对于复杂问题往往不能得到精确的梯度信息,从而使得该算法的全局搜索能力下降.本文分别从初始种群的确定、变步长搜索、自调节种群三方面对原算法进行了改进,提出了自适应耦合局部最优法,使之具备解决多变量复杂优化问题的能力.通过两个测试函数验证了改进算法比原有算法更易于得到全局最优解并保持较高的计算效率.最后,采用一个试验算例验证了自适应耦合局部最优法的有效性.     

一个修正的谱共轭梯度法

对无约束优化问题进行了研究，提出了一个修正的谱共轭梯度法。该算法的搜索方向是下降方向，在标准的Wolfe-Powell线搜索下具有全局收敛性，且在适当的条件下，证明了该算法具有线性收敛率。对一些标准的测试函数进行了数值实验，数值实验结果表明所提算法在算法迭代次数，函数调用次数以及程序运行时间等方面是有效的，且与相关算法相比有一定的优势。最后将该算法应用到图像去噪问题，对经典图像Lena与Camera施加了不同的噪声效果并用该算法进行图像去噪，与文献中相关算法进行了对比，通过信噪比这一指标说明该算法有良好的去噪效果。     

线搜索下带误差项的Dai-Yuan共轭梯度算法

本文在共轭梯度不能精确计算的情况下,采用Wolfe或Armijo步长规则研究了带误差项的Dai-Yuan(abbr．DY)共轭梯度法,我们的方法的一个很重要的特征就是步长不一定趋于零。这种特征使得我们的分析对许多实际问题很有用。我们在很一般的假设条件下证明了算法的全局收敛性。最后给出了数值算例。