带记忆的非单调无约束优化算法的全局收敛性

自从非单调线搜索技巧引入非线性优化后,所得的算法得到了成功的应用与扩展。带记忆的梯度方法经常用来求解无约束优化问题,尤其是大规模的问题。将带记忆梯度法与Wolfe非单调线搜索技巧成功融合到一起得到了新算法。证明了该算法全局收敛。     

线搜索(LS)共轭梯度法非单调算法的全局收敛性

非单调线搜索技巧在非线性优化中得到成功的应用与扩展,非单调线搜索下的共轭梯度法则可以提高大规模非线性优化问题的收敛速度。对LS共轭梯度法做了某些变型,在非单调线搜索下,该方法保证每次迭带都会产生下降的方向,在较弱的条件下得到算法全局收敛性。     

一个新的非单调信赖域算法

提出一个带线性搜索的非单调自适应信赖域算法.该算法将非单调wolfe线搜索和自适应信赖域方法相结合,同时采用新的BFGS校正公式,保持了信赖域子问题海森矩阵的正定性.在适当条件下,分析了该算法的全局收敛性,并通过数值实验说明了该算法的可行性.     

线性二阶锥互补问题的非单调线搜索光滑算法

在光滑算法的基础上提出线性二阶锥互补问题的基于非单调线搜索的光滑算法.该算法引入了一个非单调因子,利用这个非单调因子来控制线搜索的非单调程度,同时给出算法的全局收敛性及局部超线性收敛性分析,最后给出算法的数值实验,比较不同的非单调因子对同一问题计算结果的影响,结果表明非单调因子对计算结果影响很大.     

基于锥模型的无约束优化问题的信赖域算法

对无约束优化问题,提出了一种基于锥模型的非单调信赖域算法.该算法与通常的信赖域算法的不同在于:当试探步不成功时,不再重新求解子问题,而是采用非单调线搜索技术.对子问题进行了分析,并证明了算法的超线性收敛性.     

一个带线搜索的自适应信赖域算法

对无约束优化问题提出了一个带线搜索的非单调自适应信赖域算法,每次迭代都充分利用当前迭代点包含的二次信息自动产生一个信赖域半径.在试探步不被接受时,算法并不重解信赖域子问题,而采用非单调线搜索,从而减少了计算量.在适当的条件下,证明了算法的全局收敛性.     

一类新拟牛顿方程的非单调信赖域算法

利用新拟牛顿方程及其修改BFGS校正公式,将非单调Wolfe线搜索技术与信赖域相结合,提出了一类拟牛顿非单调信赖域算法。在较弱的条件下,证明了此算法的全局收敛性。数值结果表明该算法是有效的。     

梯度投影法求解压缩感知信号重构问题

将结合Barzilai-Borwein步长和非单调线搜索的梯度投影法用于压缩感知信号重构.分析了Barzilai-Borwein步长计算方法,结合其特点给出了非单调线搜索方法,为降低线搜索对算法性能的影响,引入了自适应的策略,最后给出了算法收敛性分析.实验结果表明,该算法能很好地重构不同稀疏度的信号,且在相同条件下,计算效率优于经典的基追踪法、正交匹配追踪和其他梯度投影法.     

凸约束优化的非单调线搜索法

将一般的无约束非单调线搜索算法推广成凸约束的非单调线搜索法,搜索方向由BFGS方法改变为满足凸约束条件的方程组来确定,证明了算法的全局收敛性和k次线性收敛,进行了数值试验,结果表明算法十分有效。     

非线性互补问题的一种改进Derivative-free下降方法

提出了一种改进的用于求解非线性互补问题Derivative-free下降方法,其搜索方向为罚Fischer-Burmeister函数非负偏导数的凸组合,搜索策略为一类新的非单调搜索。证明了该算法具有全局收敛性,与传统的Derivative-free下降方法相比,提高了收敛速率,减少了迭代次数。     

一类新的带线搜索的非单调自适应信赖域算法

对无约束最优化问题提出了一类新的带线搜索的非单调自适应信赖域算法．新算法采用自适应技术,当试验步不成功时,不重解信赖域子问题,而采用Wolfe线搜索,故相对于原有的算法减少了计算量．并在适当的条件下,证明了算法的全局收敛性．     

一个新的非单调自适应信赖域方法

自适应信赖域方法是求解无约束非线性优化问题的一种有效方法．将非单调线搜索技术与自适应信赖域方法相结合,提出了求解无约束优化问题的一个新的非单调自适应信赖域方法．在适当条件下,证明了该算法的全局收敛性和局部超线性收敛结果．并对其进行了数值实验,结果表明该算法是可行的．     

一个新的求解非线性等式约束的QP-free非可行域方法

提出了一个求解非线性等式约束优化问题的无罚函数无滤子的非单调QP-free非可行域方法.利用乘子和原始变量,构造一个等价于原约束问题一阶最优KKT条件的方程组.通过牛顿-拟牛顿迭代得到满足一阶KKT条件的解.采用了非单调的无罚函数无滤子线搜索方法,每次迭代使得目标函数或者约束违反度函数具有充分的非单调下降,可以取得更好的试探步长.该算法具有全局收敛性,在较弱条件下可以证明该方法具有超线性收敛性.     

基于回溯法的非单调线搜索的BFGS方法的全局收敛性

根据一种修正的BFGS方法的计算公式,结合回溯法和一种非单调线搜索的条件,给出了一种求解无约束优化问题的新的算法,证明了在这种非单调线搜索的条件下BFGS具有全局收敛性.     

线性约束优化问题的一类非单调信赖域算法

对线性约束优化问题提出了一类非单调信赖域算法.当试探步不成功时,并不重解子问题,而是利用非单调线搜索得到试探步及下一迭代点,有效地减少了计算量.证明了算法的全局收敛性.     

求解大规模非线性单调方程组的修正HS投影算法

为了更加高效求解大规模非线性单调方程组,克服其他算法存在的如算法复杂、编程难、储存量大等不足,在传统三项HS算法基础上,设计了一个新的搜索方向,并采用投影技术和新型线搜索构建了修正HS投影算法。该算法不依赖任何线搜索,具有充分下降性和信赖域性质,在一般假设条件下具有全局收敛性。初步数值试验表明,新算法的数值表现总体上比传统的HS算法和三项HS算法更优,鲁棒性更好,能够更加高效地求解大规模非线性单调方程组问题。     

使用L1罚参数的非单调收敛SQP算法

对带有等式和不等式约束条件的最优化问题，本提出了一个利用非单调收敛技术的ＳＱＰ算法，该算法利用非单调技术进行一维搜索，使用线性方程代替子二次规划的求解以得到二阶校正方向，不仅有效地克服了“Ｍａｒａｔｏｓ”效应，而且与以往的ＳＱＰ型算法相比，大大地减少了计算量。在一定的条件下，我们证明了算法的全局收敛性和局部超线性收敛性。     

基于三阶拟牛顿方程的对角三阶拟牛顿法

基于三阶拟牛顿方程,结合Zhang H.C.提出的非单调线搜索规则设计了求解大规模无约束优化问题的对角三阶拟牛顿算法。该算法在每次迭代中利用对角矩阵逼近Hessen矩阵的逆,使存储量和计算量明显减少,并且证明了算法的全局收敛性和超线性收敛性。数值试验表明该算法是有效的。     

单调线性互补问题全牛顿步内点算法

针对单调线性互补问题,构造了新的核函数．通过构造的核函数来确定搜索方向和逼近度量,接着给出了求解单调线性互补问题的全牛顿步内点算法,最后给出了算法的复杂性界．所构造核函数使得算法分析简单,采用全牛顿步避免了线性搜索．     

基于谱投影梯度的电容层析成像图像重建算法

针对图像重建问题,基于谱投影梯度算法对电容层析成像系统进行图像重建算法。该算法结合ECT的工作原理,以方向追踪为目标,根据谱投影梯度计算更新方向和步长,同时为了避免因收敛导致局部最优解,引入了非单调搜索策略,使精度与速度达到平衡。通过该算法对典型的流型进行仿真实验,并与传统LBP算法对比,结果表明该算法的重建精度得到提高,该方法为ECT图像重建提供了一个新的研究思路。