结合梯度投影稀疏重构和复数小波的图像重构

压缩感知主要包括随机投影和重构两部分。针对迭代收缩算法收敛速度较慢,普通二维小波变换缺少方向性表示的缺点,利用置乱离散余弦变换（PDCT）实现随机投影,重构时采用梯度投影算法,在简化计算的基础上,通过迭代的方式完善图像在双树复数小波域的变换系数,最后经反变换后得到重构图像。在同一重构算法下,比较了利用双树复数小波变换和双正交小波变换的重构结果,结果表明前者重构后的图像在细节和平滑度上优于后者,在峰值信噪比（PSNR）上平均高出约1.5 dB;同一稀疏域中,梯度投影算法的收敛速度优于迭代收缩算法;相同稀疏域和重构算法下,PDCT与结构随机矩阵相比在PSNR上略高。     

图像压缩感知中自适应二维投影梯度重构算法

二维图像的压缩感知及重构大多利用一维信号压缩感知及重构方法实现,导致图像重构效率较低,重构算法复杂度高等缺点。二维随机投影及二维投影梯度重构算法有效地解决了这一问题。但在二维投影梯度重构算法中,不同图像不同采样率的重构中采用相同滤波阈值参数η的方案会降低图像重构质量。本文结合二维图像信号的纹理特性,提出了自适应二维投影梯度重构算法,该算法提出了一种双变量收缩阈值参数η在迭代重构过程中基于图像纹理信息的自适应计算公式。实验结果表明,自适应二维投影梯度重构算法比二维投影梯度重构算法在重构质量和视觉效果上都有所提升。     

基于Contourlet变换的图像压缩感知重构

根据图像信号在Contourlet变换域的稀疏特性,分析Contourlet变换的基本原理,提出一种基于Contourlet变换的压缩感知重构方法。针对Contourlet变换的基函数并不严格规范正交、无法构造正交变换矩阵的问题,采用改进梯度投影算法恢复稀疏处理后的系数,在保证图像质量的情况下,实现图像的低速率重构。实验结果表明,该算法的鲁棒性较好。     

基于混合梯度的硬阈值追踪算法

针对压缩感知（CS）中迭代硬阈值类算法迭代次数多、重构时间长的问题,提出了一种基于混合梯度的硬阈值追踪（HGHTP）算法。首先,在每次迭代中计算当前迭代点处的梯度和共轭梯度,将梯度域与共轭梯度域下的支撑集混合取并集作为下一次迭代的候选支撑集,充分利用共轭梯度在支撑集选择策略中的有用信息,优化支撑集选择策略;然后,采用最小二乘法对候选支撑集进行二次筛选,快速精确地定位正确的支撑并更新稀疏系数。一维随机信号重构实验结果表明,HGHTP算法相较于同类迭代硬阈值算法,在保证重构成功率的前提下,需要的迭代次数更少。二维图像重构实验结果表明,HGHTP算法的重构精度和抗噪性能优于同类迭代阈值类算法,在保证重构精度的情况下,HGHTP算法的重构时间相比同类算法减少了32%以上。     

压缩感知框架下基于ROMP算法的图像精确重构

在压缩感知框架下运用正则化正交匹配追踪(ROMP)算法进行图像重构时,迭代次数取值不合适会严重降低重构图像的质量。针对这一问题,提出了确定合理迭代次数的方法。将以往迭代得出的结果作为先验知识,获取具有不同稀疏程度图像块的最佳迭代次数,从而保证了整幅图像的重构质量。实验表明,该方法重构效果优于采用固定迭代次数的ROMP算法。     

基于深度展开模型的毫米波稀疏成像算法

针对传统压缩感知算法的高计算成本问题,从稀疏信号的恢复角度出发,提出一种基于深度展开模型的稀疏成像算法。首先构建复数稀疏重建网络VAMP-Net,在该网络中,复数形式的降采样回波信号被拆分成实部和虚部作为输入,接着代入到基于VAMP算法的迭代块中,最后通过卷积神经模块进行最优非线性稀疏变换,得到恢复的实部和虚部信号,两者进行合并后得到恢复的目标图像。对于所提算法,采用人工合成的数据集在不同目标密集程度、迭代次数和噪声环境下进行仿真实验,并与传统的迭代收缩阈值算法和深度学习重构算法进行比较。再使用不同程度稀疏性的数据进行实测验证。实验结果表明,该算法重构的图像在NMSE、TBR、重构耗时以及内存使用上有更好的表现。     

定步长压缩感知锥束CT重建算法

针对锥束CT成像系统中投影数据不完全的图像重建问题,提出了一种定步长压缩感知锥束CT重建算法。首先将锥束CT重建问题归结为投影数据均方误差作为数据保真项、全变分作为正则项的无约束优化问题,分析目标函数的Lipschitz连续性;然后近似计算Lipschitz常数,求出梯度下降步长,利用梯度下降法进行重建;最后对CT投影数据采用联合代数重建算法更新重建图像。在每次迭代过程中调整梯度下降步长,提高重建算法的收敛速度。Shepp-Logan模型的无噪声实验结果表明,该算法的重建图像信噪比分别比联合代数重建算法、自适应最速下降-凸集投影算法、BB梯度投影算法的重建图像信噪比高出13.7728dB、12.8205dB、7.3580dB。仿真试验表明该重建算法提高了收敛速度,同时减少了重建图像的相对误差,极大提高了用少量投影数据重建的图像质量。     

CSMP:基于约束等距的压缩感知匹配追踪

压缩感知包括压缩采样与稀疏重构,是一种计算欠定线性方程组稀疏解的方法.大规模快速重构方法是压缩感知的研究热点.提出一种匹配追踪算法CSMP,采用迭代式框架和最佳s项逼近以逐步更新信号的支集与幅度.基于约束等距性质进行收敛分析,算法收敛的充分条件为3s阶约束等距常数小于0.23,松弛了匹配追踪重构s稀疏信号的约束等距条件,加快了收敛速度.为适用于大规模稀疏信号重构,提供了可进行随机投影测量子集与稀疏基子集选择的矩阵向量乘算子,可利用离散余弦变换与小波变换,避免了大规模矩阵的显式存储.在220随机支集的稀疏高斯信号,512×512Lenna图像上进行压缩采样与稀疏重构实验并与其他算法进行比较,结果表明所提算法快速稳健,适用于大规模稀疏信号重构.     

定步长压缩感知锥束CT重建算法

针对锥束CT成像系统中投影数据不完全的图像重建问题,提出了一种定步长压缩感知锥束CT重建算法。首先将锥束CT重建问题归结为投影数据均方误差作为数据保真项、全变分作为正则项的无约束优化问题,分析目标函数的Lipschitz连续性;然后近似计算Lipschitz常数,求出梯度下降步长,利用梯度下降法进行重建;最后对CT投影数据采用联合代数重建算法更新重建图像。在每次迭代过程中调整梯度下降步长,提高重建算法的收敛速度。Shepp-Logan模型的无噪声实验结果表明,该算法的重建图像信噪比分别比联合代数重建算法、自适应最速下降-凸集投影算法、BB梯度投影算法的重建图像信噪比高出13.7728 dB、12.8205 dB、7.3580 dB。仿真试验表明该重建算法提高了收敛速度,同时减少了重建图像的相对误差,极大提高了用少量投影数据重建的图像质量。     

正交半迭代硬阈值（OSIHT）压缩感知重构算法

信号重构是压缩感知过程中的重要环节,迭代硬阈值（IHT）算法因具有较好的重构性能被广泛应用,但其收敛速度比较慢。近期提出的半迭代硬阈值算法（SIHT）虽然可实现快速收敛,但对测量矩阵的尺度缩放非常敏感,依赖性强,大大限制了其应用范围。受OMP对MP算法改进启发,对SIHT算法进行改进,提出了正交半迭代硬阈值（OSIHT）重构算法。该算法不仅取消了对测量矩阵的依赖性,还有效改善了图像重构质量,减少运行时间。     

基于连续时间的二阶多智能体分布式资源分配算法

针对二阶多智能体系统中的分布式资源分配问题, 本文设计两种连续时间算法. 基于KKT (Karush?Kuhn?Tucker, 卡罗需?库恩?塔克)优化条件, 第一种控制算法利用节点局部不等式及其梯度信息来约束节点状态. 与上述梯度方法不同, 第二种控制算法包括一致性梯度下降法和固定时间收敛映射算子, 其中固定时间收敛映射算子确保算法的节点状态在固定时间收敛到局部约束集, 一致性梯度下降法目的是确保节点迭代到资源分配问题最优解. 两种控制算法都对状态无初始值约束, 且控制参数都是常数. 利用凸优化理论和固定时间李雅普诺夫方法, 分别分析了上述控制策略在有向平衡网络条件下的渐近和指数收敛性. 最后通过数值仿真验证了所设计算法在一维和高维资源分配问题的有效性.     

多输出数据依赖核支持向量回归快速学习算法

针对基于递推下降法的多输出支持向量回归算法在模型参数拟合过程中收敛速度慢、预测精度低的情况,使用一种基于秩2校正规则且具有二阶收敛速度的修正拟牛顿算法（BFGS）进行多输出支持向量回归算法的模型参数拟合,同时为了保证模型迭代过程中的下降量和全局收敛性,应用非精确线性搜索技术确定步长因子。通过分析支持向量机（SVM）中核函数的几何结构,构造数据依赖核函数替代传统核函数,生成多输出数据依赖核支持向量回归模型。将模型与基于梯度下降法、修正牛顿法拟合的多输出支持向量回归模型进行对比。实验结果表明,在200个样本下该算法的迭代时间为72.98 s,修正牛顿法的迭代时间为116.34 s,递推下降法的迭代时间为2065.22 s。所提算法能够减少模型迭代时间,具有更快的收敛速度。     

交替捕食的粒子群优化算法及其粒子轨迹收敛性分析

为避免算法陷入局部极值,在捕食者一猎物协同进化机制基础上,提出了一种交替捕食的粒子群优化算法(APPSO).对该算法迭代过程进行了分析,给出并证明了粒子运动轨迹收敛的充分条件.为使粒子运动轨迹可靠收敛,构建了一种参数设置方法.通过迭代矩阵谱半径计算、SQRT序列采样,对该算法的粒子轨迹收敛速度进行了分析.基准测试函数仿真结果表明,交替捕食的PSO算法具有较佳的搜索性能.     

基于回溯的共轭梯度迭代硬阈值重构算法

针对基于回溯的迭代硬阈值算法（BIHT）迭代次数多、重构时间长的问题,提出一种基于回溯的共轭梯度迭代硬阈值算法（BCGIHT）。首先,在每次迭代中采用回溯思想,将前一次迭代的支撑集与当前支撑集合并成候选集;然后,在候选集所对应的矩阵列张成的空间中选择新的支撑集,以此减少支撑集被反复选择的次数,确保正确的支撑集被快速找到;最后,根据前后迭代支撑集是否相等的准则来决定使用梯度下降法或共轭梯度法作为寻优方法,加速算法收敛。一维随机高斯信号重构实验结果表明,BCGIHT重构成功率高于BIHT及同类算法,重构时间低于BIHT 25%以上。Pepper图像重构实验结果表明,BCGIHT重构精度和抗噪性能与BIHT及同类算法相当,重构时间相较于BIHT减少50%以上。     

自适应梯度下降观测矩阵优化算法

基于可以通过减小压缩感知中观测矩阵与稀疏矩阵之间的互相关性来提高信号的重构质量,结合无约束凸优化问题中梯度下降的思想,提出了一种自适应梯度下降算法（Adaptive Gradient Descent, AGD）。首先利用等角紧框架（Equiangular Tight Frame, ETF）收缩传感矩阵的Gram矩阵,然后通过收缩得到的Gram矩阵建立一个无约束凸优化问题,最后通过梯度下降方法求解无约束凸优化问题进而得到优化后的观测矩阵。AGD算法通过每次更新梯度下降的方向,使Gram矩阵能够在最短时间内逼近ETF。仿真实验表明,该算法不仅迭代次数少,且优化后的观测矩阵与稀疏矩阵之间的互相关性大大降低。与传统的优化算法相比,信号恢复效果更好。     

新的混合模糊C-均值聚类算法

基于量子行为的粒子群算法(QPSO)是一种改进的粒子群优化算法.它使用的参数个数少,在解的收敛性和全局搜索能力上优于基本的粒子群算法(PSO).将QPSO算法与模糊C-均值(FCM)算法相结合提出一种新的混合模糊C-均值聚类算法(QPSO-FCM),新算法代替了FCM算法的基于梯度下降的迭代过程,在一定程度上克服了FCM算法易陷入局部极小的缺陷,降低了FCM算法的初值敏感度.实验结果表明,改进后的新算法与FCM算法和PSO与FCM结合算法相比,具有良好的收敛性,聚类效果也有较好的改善.     

梯度有偏情形非光滑问题NAG的个体收敛性

随机优化方法已经成为处理大规模正则化和深度学习优化问题的首选方法,其收敛速率的获得通常都建立在目标函数梯度无偏估计的基础上,但对机器学习问题来说,很多现象都导致了梯度有偏情况的出现.与梯度无偏情形不同的是,著名的Nesterov加速算法NAG(Nesterov accelerated gradient)会逐步累积每次迭代中的梯度偏差,从而导致不能获得最优的收敛速率甚至收敛性都无法保证.近期的研究结果表明,NAG方法也是求解非光滑问题投影次梯度关于个体收敛的加速算法,但次梯度有偏对其影响的研究未见报道.针对非光滑优化问题,证明了在次梯度偏差有界的情况下,NAG能够获得稳定的个体收敛界,而当次梯度偏差按照一定速率衰减时,NAG仍然可获得最优的个体收敛速率.作为应用,得到了一种无需精确计算投影的投影次梯度方法,可以在保持收敛性的同时较快地达到稳定学习的精度.实验验证了理论分析的正确性及非精确方法的性能.