基于KKT条件的稀疏编码算法收敛性研究

本文提出了基于KKT条件的稀疏编码算法.首先,将非凸非光滑的稀疏编码问题分解成两个凸非光滑问题;然后,巧妙地运用两个矩阵使两个凸非光滑问题转换成三个光滑凸优化问题,并通过KKT条件对三个问题进行求解,再通过凸优化理论证明三个问题在其对应规则下是非增的.最后,实验结果验证了算法的收敛性.     

求解半光滑方程组的非精确Newton法

1977年Mifflin提出了半光滑函数这一概念。Qi与Sun将它推广到映射的情形。映射F :Rn→Rm 在x点被称为是半光滑的 ,若F在x附近是Lipschitz连续的 ,且对任意的h∈Rn,极限limV∈F(x +th′)h′→h ,t↓ 0{Vh′]存在。半光滑函数 (映射 )类覆盖许多的重要函数 ,如光滑函数、凸函数、分片光滑函数 ,半光滑函数的复合函数等。给出半光滑方程组的非精确Newton算法 ,证明了产生的序列是局部收敛的 ,且在一定条件下收敛速度是超线性的 ,并建立了点列收敛阶数与相对残量收敛阶数的关系     

求非光滑方程的半光滑牛顿方法

非光滑优化是数学规划中的一个非常活跃的研究方向，它起源于现实问题并在许多方面有着广泛的应用。它提供了一个研究规划中许多重要问题的统一框架。Pang和Qi[l]在研究互补问题、变分不等式问题和优化问题时，总结了八大类可以化为非光滑方程的问题。半光滑方法是求解非光滑问题的一类重要方法，它推广了求解光滑方程的牛顿方法，对于设计快速收敛的算法有着重要的意义。本文我们回顾总结求解非光滑方程的半光滑牛顿方法方面的进展，并给出一些建议。     

求非光滑方程的半光滑牛顿方法

非光滑优化是数学规划中的一个非常活跃的研究方向 ,它起源于现实问题并在许多方面有着广泛的应用。它提供了一个研究规划中许多重要问题的统一框架。Pang和Qi[1 ]在研究互补问题、变分不等式问题和优化问题时 ,总结了八大类可以化为非光滑方程的问题。半光滑方法是求解非光滑问题的一类重要方法 ,它推广了求解光滑方程的牛顿方法 ,对于设计快速收敛的算法有着重要的意义。本文我们回顾总结求解非光滑方程的半光滑牛顿方法方面的进展 ,并给出一些建议     

一类约束半光滑方程组的非单调方法

给出一类简单界约束半光滑方程组的非单凋方法．在通常假设条件下，证明了算法的全局收敛性结果。     

求解线性互补问题的一种迭代算法

将线性互补问题转化为一非光滑问题,给出了一种简单迭代算法,并证明了该算法的收敛性．     

求解线性互补问题的一种迭代算法

将线性互补问题转化为一非光滑问题,给出了一种简单工算法,并证明了该算法的收敛性。     

非线性互补问题光滑牛顿法的全局收敛性

在将非线性互补问题转化为求解非光滑方程组的基础上,为了将非线性互补问题转化为求解光滑方程组,通过引入一个新的光滑NCP函数,建立了求解P0函数非线性互补问题的一步光滑牛顿法,并在较弱的条件下证明了该算法具有良好的适定性和全局收敛性.     

求解强增生算子方程松驰迭代的收敛性

在ＬＰ空间及一致光滑空间中,给出了强增生算子的收敛性定理,讨论了松驰因子的选择。     

半序线性空间中的非凸非光滑向量极值问题

本文利用Jeyakumar新近给出的类凸(Convexlike)择一定理,在半序线性空间中导出了一般非凸非光滑向量极值问题解的某些性质及广义鞍点定理、Fritz John型条件和Kuhn-Tucker型条件。     

一种基于弱拟牛顿方程的单调梯度法的收敛性

基于弱拟牛顿方程,Leong W J等人提出了一种单调梯度法,该算法在每次迭代时利用对角矩阵逼近Hessian矩阵,使计算量和存储量明显减少,并且此算法对凸函数具有收敛性。在此算法的基础上,进一步研究了算法对于一般函数的收敛性,并证明了在一定的假设条件下算法仍具有全局收敛性、R-线性收敛性和超线性收敛性。     

解代数方程时Halley迭代法的收敛性

讨论同时求解代数方程所有单根时Halley迭代法的收敛性,给出了保证其收敛的初值应满足的一个充分条件,使Halley迭代法的收敛性获得新的表述和证明。     

动态经济分析中自治方程的均衡解与收敛性

以动态分析的方法将西方经济学中一些重要经济系统抽象为自治方程,借鉴自治微分方程的收敛性,研究了自治差分方程的解随时间收敛于均衡解的充要条件、方程系数与收敛性的关系等,借以分析动态经济系统的稳定性.然后通过一个蛛网模型的算例,展现了高阶自治差分方程在农产品市场上价格预测方面的应用价值.     

基于新拟牛顿方程的改进BFGS方法

针对无约束最优化问题,在已建立的BFGS方法基础上,证明了改进的BFGS方法的收敛性.基于前人的改进的BFGS方法,同时结合有关结论提出一种新的BFGS方法.通过选择适当的参数,证明了改进的BFGS方法对于一类更广的搜索准则保持局部收敛性,在Wolfe搜索准则下方法还具有超线性收敛性.最后通过具体的数值试验结果说明其优越性.     

一类广义拟牛顿算法的收敛性分析

根据提出的一种广义拟牛顿方程,推导出了一族广义拟牛顿校正公式,并给出了相应的广义拟牛顿算法。该算法具有很强的广泛性,它不仅包含了Zhang和焦宝聪提出的算法,还使得著名的B royden族成为它的一种特殊形式。实例证明:新的广义拟牛顿算法在一致凸的条件下具有整体收敛性和局部超线收敛性。     

一类差分方程的奇点集和解的渐近性

研究二阶差分方程xn+1=(xn xn-1)/(axn+bxn-1),n=0,1,2,…的奇点集和解{x n}∞n=-1的渐近性,其中a,b∈R,初始值x0,x-1∈R。并根据不同的情形,得到解的不同的收敛性。     

基于梯度算法解Sylvester张量方程最佳收敛因子的选取

针对求解Sylvester张量方程基于梯度的迭代算法,通过分析近似解与迭代初值之间的误差方程,并利用Sylvester矩阵方程的相关结论,讨论了迭代算法中收敛因子的选取对收敛速度的影响,从理论上获得了最佳收敛因子的选取方式。数值实验的结果与理论分析一致。     

解一般约束优化问题的牛顿法的超线性收敛性

文献[2]提出了基于F-B函数的解一般约束优化规划问题的牛顿算法,但仅给出了该算法的全局收敛性。在该算法的基础上,进一步证明了该算法的超线性收敛性。