一种新的Wolfe线搜索技术及全局收敛性

共轭梯度法是求解无约束优化问题的一种重要的方法,尤其适用于大规模优化问题的求解.通过应用计算βk的新公式求得一种新的共轭梯度法,在非精确线性搜索的Wolfe准则下证明新的共轭梯度法的全局收敛性,并且数值实验表明了这种线搜索下算法的有效性.     

基于新的步长搜索下的记忆梯度法收敛性分析

根据最速下降算法、拟牛顿法、FR共轭梯度法、PRP共轭梯度法等，求解大规模无约束优化问题的有效算法、精确线搜索与Wolfe线搜索等的搜索条件，着重对计算更为有效的适合求解无约束优化问题的记忆梯度算法进行研究。基于Wolfe非精确线搜索提出一种新的步长搜索方法，对记忆梯度算法进行改进。最后证明改进的算法在较弱的条件下是全局收敛的。     

一种新的非精确线性搜索下DY共轭梯度法的全局收敛性

给出了一种新的非精确线性搜索,说明了在新的线性搜索下每次迭代产生下降方向．证明了一种共轭梯度算法的全局收敛性．     

BP神经网络训练的函数变步长搜索调整法

通过深入分析了ＢＰ神经网络的步长调整，采用函数变步长搜索法来提高网络的学习速度，提出一种新的改进的ＢＰ算法，该算法在速度和收敛性方面比传统ＢＰ算法优越。     

超记忆梯度算法的全局收敛性

对无约束优化算法进行了研究。描述了最速下降算法、牛顿法、非线性FR共轭梯度法、非线性PRP共轭梯度法、非线性DY共轭梯度法等求解大规模无约束优化问题的有效算法以及精确线搜索、Wolfe线搜索、Armijo线搜索的搜索条件;着重研究了计算更为有效的适合求解无约束优化问题的超记忆梯度算法;在一类Wolfe型非精确线搜索条件下给出了一类超记忆梯度算法,并且在较弱的条件下证明了算法的全局收敛性,为求解大规模无约束优化问题以及各种算法的比较提供了参考。     

一个修正Liu-Storey共轭梯度法的全局收敛性

基于无记忆BFGS拟牛顿法结构提出一个新的修正Liu-Storey(LS)非线性共轭梯度法(简称MLSCG算法)。在精确线搜索下MLSCG算法化归为标准的LS共轭梯度算法。MLSCG算法产生的搜索方向不依赖于线搜索准则而具有充分下降性。新方法在一个Armijo型线搜索下具有全局收敛性。数值试验表明:对于多数算例,新算法比PRP、HS、LS算法具有更好的计算结果。     

一类推广的共轭梯度法及其全局收敛性

共轭梯度法是求解非线性优化问题的一种重要方法.通过对共轭梯度法及其全局收敛性的分析,提出一个新的非线性共轭梯度公式,采用该公式和Wolfe非精确线搜索的方法是全局收敛的.文末的数值实验验证了算法是有效的.     

非线性最优化问题的曲线线性搜索法

本文介绍一种沿曲线方向线性搜索的算法,这种算法概括了梯度法、共轭梯度法以及它们的改进格式。尤其重要的是:本算法具有自动进行再启动的功能,使得这个算法对于非二次函数的最小值问题特别有效。理论和实践表明,本算法不仅具有二次收敛性质,而且大大优于共轭梯度法。     

一类非线性共轭梯度法的全局收敛性

研究求解无约束最优化问题的共轭梯度法,提出了一种新的共轭梯度类型公式,从而影响了算法产生的搜索方向,进一步影响了算法的效果,得到一类新共轭梯度法,证明了在Grippo-Lucidi线搜索下新共轭梯度法的全局收敛性.     

一类无约束优化问题的的共轭梯度法

共轭梯度法是求解非线性优化问题的一种重要方法，尤其适用于大规模优化问题的求解。提出一个新的非线性共轭梯度公式，采用该公式和Wolfe非精确线搜索的方法，使之全局收敛。经数值实验验证该算法是有效的。     

一种新共轭梯度法的全局收敛性

对求解无约束最优化问题的共轭梯度法进行了研究，提出了计算βk的一种新的公式，并对标准Wolfe搜索条件进行了推广，得到一种新的共轭梯度法。在一定条件下证明了该算法的全局收敛性，同时给出了一些数值例子，得到很好的数值结果。     

共轭梯度法和最速下降法的混合算法

将共轭梯度法与最速下降法有机地结合起来,构造了一种共轭梯度法和最速下降法的混合算法,并证明了该算法的全局收敛,混合算法既提高了共轭梯度算法的收敛速度,又解决了目标函数“性态不优”时,最速下降法难以求解的问题。同时也可以看到共轭梯度法与最速下降法仅仅是混合算法的特例。     

改进的共轭梯度法及其收敛性

共轭梯度法是求解大规模无约束优化问题的一种有效方法。针对算法的优劣主要依赖于步长因子和搜索方向的特点，结合共轭梯度法的共轭性质，提出一种改进的可以控制步长因子的共轭梯度算法。在建立算法的几个重要引理和全局收敛性定理后分别给出了证明。最后对算法进行了数值实验，实验结果表明算法具有良好的收敛性和有效性。     

提高前馈神经网络学习效率的学习算法探讨

简要分析了最速下降法（Ｓｔｅｅｐｅｓｔ Ｄｅｓｃｅｎｔ Ａｌｇｏｒｉｔｈｍ ,即ＳＤＡ 法）和正交校正共轭梯度法（ＣＧＭ－ＯＣ法）的优缺点,提出了一种进行多层前馈神经网络学习的新算法,即ＳＤ－ＣＧＭ－ＯＣ算法．该算法结合最速下降法与正交校正共轭梯度法的特点,在文中所述实际问题构造模型的基础上,论证了ＳＤ－ＣＧＭ－ＯＣ算法比传统的ＢＰ算法具有更高的学习效率和二次收敛率．实验结果验证了该学习算法的有效性．     

在Wolfe步长搜索下的一类新的共轭梯度算法

研究利用共轭梯度法求解无约束最优化问题。为了保证共轭梯度方向是目标函数的充分下降方向,对共轭梯度算法中的共轭梯度方向参数确定了一个取值范围并与Wolfe步长搜索相结合,提出了新的共轭梯度算法,使算法具有更好的收敛速度,特别是在求解大规模无约束最优化问题时,此算法只需要较小的存储。     

精确一维搜索下几种共轭梯度法的分析比较

共轭梯度法是求解无约束非线性规划问题的一种重要方法．针对的几种计算公式。通过几个典型计算实例,对精确一维搜索下所述几种熊的几种计算公式所决定的算法的收敛效果进行比较,分析了它们的数值计算过程、收敛速度及全局收敛性的优劣．     

新型BP网络用于非线性化学体系的研究

提出了一种杂化ＢＰ网络模型及新型变步长算法，使常规ＢＰ算法的收敛平稳性及收敛速度获得了改善，对两类非线性化学体系的实例研究表明该网络较多元线性回归及常规ＢＰ网络具有更好的学习与预测效果。     

基于步长优化和共轭梯度法的改进BP算法

本文针对传统ＢＰ算法存在的两个常见问题进行了讨论，提出了基于步长优化和共轭梯度法的改进ＢＰ算法。新的算法避免了目前由人为经验确定迭代步长的缺陷，并能有效克服局部极小值。这样可使网络加快收敛，稳定性变好。     

一种不完全投影图像重建的快速迭代算法

为了保证不完全投影数据的重建图像质量,同时提高重建速度,提出了一种基于共轭梯度法的快速迭代算法.通过实时获取投影矩阵分量,以固定步长替代共轭梯度法中一维搜索最优迭代步长,在确保质量的同时缩短重建时间.利用模拟投影数据和实际导弹断层扫描数据进行图像重建,结果表明,与卷积反投影和代数重建法相比,此算法特别适用于扇形扫描的不完全投影数据的图像重建,在保证重建图像拟合度的同时,大大提高了重建速度.     

新型BP网络用于非线性化学体系的研究

提出了一种杂化ＢＰ网络模型及新型变步长算法，使常规ＢＰ算法的收敛平稳性及收敛速度获得了改善，对两类非线性化学体系的实例研究表明该网络较多元线性回归及常规ＢＰ网络具有更好的学习与预测效果。