L1正则化与pinball损失函数的极限学习机

极限学习机（extreme learning machine, ELM）由于其训练速度快、易于实现等优点,在回归领域得到了广泛的应用。然而,传统ELM的平方损失函数在异常值面前放大了异常值的影响,从而降低了性能。为了提高ELM的鲁棒性,在ELM中引入pinball损失函数。pinball损失函数与误差线性相关,与平方损失函数相比,可以减少异常值的影响。此外,L2范数正则化对于隐藏层节点缺乏稀疏性。相比之下,L1范数正则化可以改善模型的稀疏性。为了同时具有鲁棒性和稀疏性,提出了一种基于L1范数正则化和pinball损失函数的ELM模型,通过迭代重加权算法求解相应的优化问题。为了验证模型的鲁棒性和稀疏性,在6个真实数据集上进行实验。实验结果表明,提出的L1-PELM优于其他方法。特别是对于异常值比率较大的数据,L1-PELM不仅对异常值不敏感,而且保持了稀疏性。     

用于雷达方位超分辨的L1范数正则化及其约束方法

方位超分辨一直是雷达领域里受到广泛关注的研究课题,针对求解过程中遇到的病态性,深入研究了L1范数正则化方法及其约束方法。在目标稀疏性质的前提下,建立了L1范数正则化与约束L1范数正则化模型。鉴于雷达数据的维数较多,利用梯度投影算法对模型进行求解。在不同信噪比情况下对两个等幅点目标进行了计算机仿真,结果初步表明:随着信噪比的降低,两种算法的分辨效果变差,在相同条件下约束L1范数正则化方法分辨效果更好,在信噪比为0 d B时,仍可分辨相隔1/2半功率波束宽度的两个等幅点目标;同时约束L1范数正则化方法分辨性能优于L1范数正则化方法、迭代反卷积法、维纳逆滤波法和Richardson-Lucy算法(RL算法);此两种范数正则化方法具有较强的噪声适应能力,可用于雷达方位超分辨。     

基于两步加权L1范数约束的高分辨率波达方向和功率估计

该文提出一种基于两步加权L1范数约束的波达方向(DOA)和功率联合估计新算法。该算法首先对阵列协方差矩阵元素进行求和平均运算获得统计性能更优的向量观测模型,进而在相应的过完备基下获得观测模型的稀疏表示。利用MUSIC谱函数和初始估计结果作为权值构建两步加权L1范数约束稀疏重构方法,重构获得多信源的DOA和功率估计。通过2分布函数选择了合理的正则化参数。计算机仿真结果显示,与同类其它方法相比,该文所提算法具有更高的分辨率和估计精度。     

采用自适应正则参数的超分辨率加权重建

采用L1(一阶)、L2(二阶)范数是当前较为流行的2种图像超分辨率重建算法。在对这2种算法的优缺点进行分析的基础上,提出了一种采用L1和L2范数混合加权的参数自适应双边全变差正则化重建算法,将正则化参数作为重建图像的一个函数。实验证明这种算法有很好的边缘保持和去除椒盐噪声的能力,重建图像的质量有显著提高。     

基于lk范数的正则化方法及其在SAR图像处理中的应用

本文基于lk范数与稀疏性之间的关系,提出了一种基于lk范数的正则化方法,该方法在抑制信号噪声的同时, 实现了信息的高精度稀疏表示。另外,通过深入研究基于lk范数的正则化方法,本文发现了正则化方法与广义岭估计的契合之处,提出了一种新的正则化参数的选取方法,解决了正则化参数选取的瓶颈问题。文中将该方法应用于SAR图像处理的实验,实验结果表明该方法具有有效的信息稀疏表示寻优功能。     

混合正则化约束的湍流退化图像复原算法

针对大气湍流引起的红外图像模糊问题,提出一种基于混合正则化的模糊核估计模型。根据图像主要边缘的稀疏性,采用图像梯度的L0范数为正则化项;通过分析模糊核的特性,提出能适用于复杂模糊情况的核L0-L2范数正则化约束。复原模型的优化过程中,结合变量分裂策略和增广拉格朗日法交替估计图像和模糊核,并利用快速傅里叶变换,实现模糊核的快速、准确估计;最终根据估计的模糊核,复原得清晰图像。实验结果表明,本文算法可以更好地复原退化图像,在主观视觉和客观质量评价方面都有所提高。     

近似稀疏约束的多层非负矩阵分解高光谱解混

稀疏正则化函数的选取直接影响到稀疏非负矩阵分解高光谱解混的效果。目前,主要采用L0或L1范数作为稀疏度量。L0稀疏性好,但求解困难;L1求解方便,但稀疏性差。提出一种近似稀疏模型,并将其引入到多层非负矩阵分解（AL0-MLNMF）的高光谱解混中,将观测矩阵进行多层次稀疏分解,提高非负矩阵分解高光谱解混的精度,提升算法的收敛性。仿真数据和真实数据实验表明:该算法能够避免陷入局部极值,提高非负矩阵分解高光谱解混性能,算法精度上比其他几种算法都有较大的提升效果,RMSE降低0.001~1.676 7,SAD降低0.002~0.244 3。     

复合正则化联合稀疏贝叶斯学习的高光谱稀疏解混算法

将稀疏贝叶斯学习引入线性混合像元分解中,提出一种基于复合正则化联合稀疏贝叶斯学习的高光谱稀疏解混算法.在多观测向量的稀疏贝叶斯框架下,对各参数建立概率模型,经贝叶斯推断得到基于L2,1正则化的联合稀疏贝叶斯解混模型,并将丰度向量的非负与和为一约束加入到凸优化的目标函数中,通过变量分离法将复合正则化问题分解成多个单一正则化问题交替迭代求解,并利用参数自适应算法对正则化参数进行更新.模拟数据和真实数据的实验结果表明,该算法比贪婪算法和凸优化算法能获得更高的解混精度,并且适用于端元个数较多和信噪比较低的高光谱数据.     

L0范数平滑逼近的稳健求解算法

该文研究基于代理函数和先验概率密度的L0范数平滑逼近问题的稳健求解。首先,分析了平滑逼近函数的凹凸特性,给出提高恢复性能的参数调整策略与改进的SL0和FOCUSS算法。其次,将噪声背景下L0范数逼近过程进行正则化表示,并基于牛顿方向推导其迭代重加权形式的求解框架,给出一种新的代理函数。最后,使用数值仿真证实了所提算法可以提高此类问题的求解的稳健性,具有实用价值。     

参数自适应调整的稀疏贝叶斯重构算法

稀疏表示模型中的正则化参数由未知的噪声和稀疏度共同决定,该参数的设置直接影响稀疏重构性能的好坏。然而目前稀疏表示问题优化求解算法或依靠主观、或依靠相关先验信息、或经过实验设置该参数,均无法自适应地设置调整该参数。针对这一问题,该文提出一种无需先验信息的参数自动调整的稀疏贝叶斯学习算法。首先对模型中各参数进行概率建模,然后在贝叶斯学习的框架下将参数设置及稀疏求解问题转化为一系列混合L1范数与加权L2范数之和的凸优化问题,最终通过迭代优化得到参数设置和问题求解。由理论推导和仿真实验可知,已知理想参数时,该算法与其它非自动设置参数的迭代重加权算法性能相当,甚至更优;在理想参数未知时,该算法的重构性能要明显优于其它算法。     

基于子空间结构正则化的L21非负矩阵分解高光谱解混

标准的非负矩阵分解(NMF)应用于高光谱解混时,容易受到噪声和异常值的干扰,解混效果较差。为了提高分解性能,该文将L₂₁范数引入标准的NMF算法中,对模型进行了改进,从而提高算法的鲁棒性。其次,为了提高分解后丰度矩阵的稀疏性,将双重加权稀疏约束引入L₂₁NMF模型中,使其中一个权值提高每个像元对应的丰度向量上的稀疏性,另一个权值提高每个端元对应的丰度向量上的稀疏性。同时,为了利用像元的全局空间分布信息,观察地物在不同图像中的真实分布情况,引入子空间结构正则项,提出了基于子空间结构正则化的L₂₁非负矩阵分解(L₂₁NMF-SSR)算法。通过在模拟数据集和真实数据集与其他经典算法的比较,验证了该算法具有更好的性能,同时具有去噪能力。     

双约束深度卷积网络的高光谱图像空谱解混方法

高光谱图像凭借其“图谱合一”的特点逐渐在军事、环境、农业等方面发挥出重要作用。但是，由于传感器空间分辨率的限制以及地物分布的复杂多样性，高光谱遥感图像中通常存在大量的混合像元，严重制约了高光谱遥感的应用范围。目前，处理混合像元问题最有效的分析方法是混合像元分解（解混）。近年来，深度学习的发展对高光谱遥感产生了重大影响，也催生出一系列基于深度学习的解混方法。现有基于深度学习的解混方法在隐藏信息挖掘方面表现出极大的潜力和优势，通常情况下能够取得更加准确的结果。然而，这些方法大多只考虑了地物的光谱信息而忽略空间分布规律，导致在复杂场景中估算结果可能并不理想，逐渐难以满足工程应用的实际需求。为进一步发掘和利用空间信息提升解混的准确性，本文构建了一种新的深度学习网络来实现高光谱图像解混。新提出的解混网络采用卷积层来获取先验信息，利用高斯核函数的特性来协助区分物质属性，并且通过分配中心像元与邻域像元间的权重来增进丰度平滑性。在新网络中，本文使用Softmax作为丰度对应层的激活函数来约束丰度的输出。此外，在Softmax中，本文采用了L1/2正则化来避免节点出现过拟合而影响最终结果，进一步强化了网...     

具有双重稀疏机制的在线学习算法

针对大数据背景下数据分类问题,已有的在线学习算法通常引入L₁范数正则化增强预测模型的稀疏性,但单一的正则化约束不能高效的获取稀疏模型.基于此,提出了一种具有双重稀疏机制的在线学习算法（an online learning algorithm with dual sparse mechanisms,DSOL）.在DSOL算法中,一方面利用L_1/2正则化项约束目标函数以增强预测模型的稀疏性,提高算法的泛化性能.另一方面用改进的梯度截取法对数据特征进行选择,有效稀疏化预测模型.通过L_1/2正则化与改进的梯度截取策略的有机融合,有效利用了历史数据信息,提高了算法分类数据的性能.通过与另4种代表性稀疏在线学习算法在9个公开数据集的实验对比表明DSOL算法对数据分类的准确性更高.     

高光谱图像Pareto优化稀疏解混

高光谱解混是学术界的一个难题,稀疏高光谱解混指的是利用已知光谱库进行解混,旨在从先验光谱库中找到一些可以表征图像的数个纯光谱向量作为高光谱图像的端元,并利用这些端元求解相应的端元丰度,这是一个NP难的组合优化问题。目前多通过将L0范数凸松弛为L1范数进行稀疏解混,但该方法得到的仅仅是近似解。文中提出了一种基于Pareto优化的稀疏解混算法（ParetoSU）,将稀疏解混问题转化为一个两目标优化问题,其中一个优化目标是建模误差,另一个目标是端元稀疏度。ParetoSU直接解决稀疏解混中的组合优化问题,不需要对L0范数进行近似。最后利用仿真数据验证了该解混算法的有效性。     

基于超像素和低秩的协同稀疏高光谱解混

为了克服经典协同稀疏解混算法的不足以及全变差正则项引起的边缘模糊问题,同时考虑到稀疏性和空间信息对解混精度提高的重要性,采用结合超像素和低秩的协同稀疏高光谱解混算法,进行了理论分析和实验验证.该算法对高光谱图像进行超像素分割,并对每个超像素施加协同稀疏性约束.此外使用低秩正则项代替传统的全变差正则项来利用空间信息,选取...     

一种基于L_1范数的非局部变分图像复原模型

针对L_2范数的非局部变分模型在迭代过程中未考虑图像局部梯度信息,模糊图像细节信息的缺点,提出了一种基于L_1范数的非局部变分模型。首先,对基于L_1范数的非局部变分模型的扩散性能进行了详细的分析。接着,将该模型应用于退化图像的复原中,并推导出该模型的Bregman交替迭代求解过程。最后,通过对比实验,证明本文提出的L_1范数的非局部变分复原模型能更好地重构图像的细节信息,相对于L_2范数的非局部变分模型峰值信噪比提高大于1dB,图像复原性能更优。     

基于回溯优化的非线性高光谱图像解混

为了进一步提升高光谱图像的解混精度,提出一种基于回溯优化的高光谱图像后非线性解混算法。在后非线性混合模型的基础上,以观测图像与重构图像之间的重构误差为目标函数,使用回溯搜索算法在解空间搜索使目标函数取得极小值的最优解。在搜索过程中,利用回溯搜索算法的边界控制机制有效保证了高光谱图像解混过程中的约束条件,进而有效实现了对解混丰度值和非线性参数的精确估计。针对合成高光谱图像和真实高光谱遥感图像的解混实验表明,文中算法具有优异的解混性能,所达到的解混精度显著优于现有非线性高光谱图像解混算法。     

全变差稀疏约束深度非负矩阵分解高光谱遥感影像解混方法

传统非负矩阵分解方法仅基于单层线性模型,现有的深度非负矩阵分解模型忽略了地物光谱的实际混合物理过程,仅从数学理论考虑深度分解。对此,文中从光谱混合的物理过程出发,综合非负矩阵分解和深度学习,将光谱混合过程进行反向建模,并充分考虑丰度的稀疏性和空间平滑性,构建了用于高光谱遥感影像解混的面向端元矩阵的全变差稀疏约束深度非负矩阵分解模型。通过模拟实验和真实实验,将文中所提方法与5种解混方法进行对比。结果表明,相较于面向丰度的深度非负矩阵分解算法,文中所提方法的平均光谱角距离和均方根误差均有所降低,取得了最佳解混结果。