基于加权分类损失和核范数的领域自适应模型

领域自适应将源域上学习到的知识迁移到目标域上,使得在带标签数据少的情况下也可以有效地训练模型。采用伪标签的领域自适应模型未考虑错误伪标签的影响,并且在决策边界处样本的分类准确率较低,针对上述问题提出了基于加权分类损失和核范数的领域自适应模型。该模型使用带有伪标签的可信样本特征与带有真实标签的源域样本特征构建辅助域,在辅助域上设计加权分类损失函数,降低错误伪标签在训练过程中产生的影响;加入批量核范数最大化损失,提高决策边界处样本的分类准确率。在Office31、Office-Home、Image-CLEFDA基准数据集上与之前模型的对比实验表明,该模型有更高的精确度。     

基于截断核范数的图像去噪展开网络

基于模型驱动的图像去噪通常需要先构造先验正则项,在求解优化模型时计算成本较高.基于数据驱动的方法得益于神经网络灵活的架构和强大的学习能力,具有较优越的性能和较高的效率,但往往缺乏足够的可解释性.为此,文中提出基于截断核范数的图像去噪展开网络,结合低秩矩阵恢复中基于截断核范数的模型驱动方法和图像去噪,并将每次迭代看作展开网络的一个阶段,把每个阶段进行连接,形成一个端到端的可训练展开网络.在上述每个阶段中,借助神经网络学习奇异值算子,解决奇异值分解在传统迭代算法中计算代价较高的问题.在多组去噪数据集上的实验验证文中网络的有效性.     

注意力迁移的联合平衡领域自适应

目的 现有的图像识别方法应用于从同一分布中提取的训练数据和测试数据时具有良好性能,但这些方法在实际场景中并不适用,从而导致识别精度降低。使用领域自适应方法是解决此类问题的有效途径,领域自适应方法旨在解决来自两个领域相关但分布不同的数据问题。方法 通过对数据分布的分析,提出一种基于注意力迁移的联合平衡自适应方法,将源域有标签数据中提取的图像特征迁移至无标签的目标域。首先,使用注意力迁移机制将有标签源域数据的空间类别信息迁移至无标签的目标域。通过定义卷积神经网络的注意力,使用关注信息来提高图像识别精度。其次,基于目标数据集引入网络参数的先验分布,并且赋予网络自动调整每个领域对齐层特征对齐的能力。最后,通过跨域偏差来描述特定领域的特征对齐层的输入分布,定量地表示每层学习到的领域适应性程度。结果 该方法在数据集Office-31上平均识别准确率为77.6%,在数据集Office-Caltech上平均识别准确率为90.7%,不仅大幅领先于传统手工特征方法,而且取得了与目前最优的方法相当的识别性能。结论 注意力迁移的联合平衡领域自适应方法不仅可以获得较高的识别精度,而且能够自动学习领域间特征的对齐程度,同时也验证了进行域间特征迁移可以提高网络优化效果这一结论。     

基于核范数凸优化的温度场缺失点重建

为解决复杂温度场中含有缺失点的问题,提出了一种将核范数凸优化的矩阵填充(Matrix Completion)理论运用到温度场重建中的计算方法。该方法首先对温度场中已知的高维冗余数据作离散余弦变换(Discrete Cosine Transform,DCT),使变换后的数据稀疏化,利用奇异值迭代算法重构出缺失点,然后再通过逆运算得到完整的温度场。为验证方法可行性,对不同缺失率下的温度场进行了重建实验,实验结果表明该方法精度高,速度快。     

基于伪标签的无监督领域自适应分类方法

现有的领域自适应方法在匹配分布时并未完全考虑伪标签置信度或伪标签损失计算问题,针对此类问题,提出循环选择伪标签分类模型（CSPL）。利用深度网络提取图像特征,为目标域打上高置信度伪标签使得训练数据增强,采用MMD距离度量方法对齐源域和目标域的概率分布,同时设计伪标签损失同步迭代学习,更新模型作为下一次循环的训练模型直至模型收敛。在常用的领域自适应数据集Office31、Office-Home、ImageCLEF-DA以及Amazon-Review上实验表明,该模型相比之前域适应模型在准确度方面平均提升4%~8%且模型的鲁棒性也明显增加。     

基于截断核范数低秩分解的自适应字典学习算法

针对过完备字典直接对图像进行稀疏表示不能很好地剔除高频噪声的影响,压缩感知后图像重构质量不高的问题,提出了基于截断核范数低秩分解的自适应字典学习算法。该算法首先利用截断核范数正则化低秩分解模型对图像矩阵低秩分解得到低秩部分和稀疏部分,其中低秩部分保留了图像的主要信息,稀疏部分主要包含高频噪声及部分物体轮廓信息;然后对图像低秩部分进行分块,依据图像块纹理复杂度对图像块进行分类;最后使用K奇异值分解（K-single value decomposition, K-SVD）字典学习算法,针对不同类别训练出多个不同大小的过完备字典。仿真结果表明,本文所提算法能够对图像进行较好的稀疏表示,并在很好地保持图像块特征一致性的同时显著提升图像重构质量。     

张量核范数回归的目标跟踪

目的 视觉目标跟踪中,不同时刻的目标状态是利用在线学习的模板数据线性组合近似表示。由于跟踪中目标受到自身或场景中各种复杂干扰因素的影响,跟踪器的建模能力很大程度地依赖模板数据的概括性及其误差的估计精度。很多现有算法以向量形式表示样本信号,而改变其原始数据结构,使得样本数据各元素之间原有的自然关系受到严重破坏;此外,这种数据表述机制会提高数据的维度,而带来一定的计算复杂度和资源浪费。本文以多线性分析的角度更进一步深入研究视频跟踪中的数据表示及其建模机制,为其提供更加紧凑有效的解决方法。方法 本文跟踪框架中,候选样本及其重构信号以张量形式表示,从而保证其数据的原始结构。跟踪器输出候选样本外观状态时,以张量良好的多线性特性来组织跟踪系统的建模任务,利用张量核范数及L₁范数正则化其目标函数的相关成分,在多任务状态学习假设下充分挖掘各候选样本外观表示任务的独立性及相互依赖关系。结果 用结构化张量表示的数据原型及其多任务观测模型能够较为有效地解决跟踪系统的数据表示及计算复杂度难题。同时,为候选样本外观模型的多任务联合学习提供更加简便有效的解决途径。这样,当跟踪器遇到破坏性较强的噪声干扰时,其张量核范数约束的误差估计机制在多任务联合学习框架下更加充分挖掘目标全面信息,使其更好地适应内在或外在因素所引起的视觉信息变化。在一些公认测试视频上的实验结果表明,本文算法在候选样本外观模型表示方面表现出更为鲁棒的性能。因而和一些优秀的同类算法相比,本文算法在各测试序列中跟踪到的目标图像块平均中心位置误差和平均重叠率分别达到4.2和0.82,体现出更好的跟踪精度。结论 大量实验验证本文算法的张量核范数回归模型及其误差估计机制能够构造出目标每一时刻状态更接近的最佳样本信号,在多任务学习框架下严格探测每一个候选样本的真实状态信息,从而较好地解决模型退化和跟踪漂移问题。     

基于截断平衡展开核范数的鲁棒张量环填充

低秩张量填充旨在基于不同张量分解模型恢复缺失数据,由于在挖掘一些高阶数据结构的具有明显的优势,低秩张量环模型已经被广泛应用于张量填充问题。先前的研究已经提出很多关于张量核范数的定义。然而,它们不能很好地近似张量真实的秩,也不能在优化环节利用低秩特性。因此,基于很好近似张量秩的截断平衡展开核范数,提出一种基于截断平衡展开核范数的鲁棒张量环填充模型。在算法优化部分,利用以前提出的矩阵奇异值分解和交替方向乘子法。实验证明,在图像恢复和视频的背景建模问题上,效果比其他算法好。     

加权核范数的边缘检测在最小化图像去噪中的应用

Sobel算子作为一种经典有效的边缘检测算子,在图像分割等图像处理技术中得到了广泛的应用。该算子在提取图像边缘的速度上具有明显的优势,但也存在对噪声敏感、出现伪边缘或者过度平滑图像等缺点。为了解决这些问题,提出了一种优化的边缘检测方案。该方案将加权核范数最小化(WNNM)图像去噪算法与Sobel边缘检测算法相结合,首先采用加权核范数最小化图像去噪算法的优良去噪性能,去除图像中一些敏感的噪声。经过该方法滤波后的图像,大大提高Sobel算子检测的准确度。该算法采用低秩图像去噪算法对传统的边缘检测算法进行改进。实验结果表明,该优化算法在处理含噪图像时能获得较好的检测效果,并且随着噪声强度的增加,该算法的优势更加明显;在高噪声水平下能够获得清晰连续的边缘信息,从而验证了算法的有效性。     

基于自步学习的开放集领域自适应

领域自适应的目的是将从源领域获得的知识泛化到具有不同数据分布的目标领域.传统的领域自适应方法假设源域和目标域的类别是相同的,但在现实世界的场景中并非总是如此.为了解决这个缺点,开放集领域自适应在目标域中引入了未知类以代表源域中不存在的类别.开放集领域自适应旨在不仅识别属于源域和目标域共享的已知类别样本,还要识别未知类别样本.传统的领域自适应方法旨在将整个目标域与源域对齐以最小化域偏移,这在开放集领域自适应场景中不可避免地导致负迁移.为了解决开放集领域自适应带来的挑战,提出了一种基于自步学习的新颖框架SPL-OSDA (self-paced learning for openset domain adaptation),用于精确区分已知类和未知类样本,并进行领域自适应.为了利用未标记的目标域样本实现自步学习,为目标域样本生成伪标签,并为开放集领域自适应场景设计一个跨领域混合方法.这种方法最大程度地减小了伪标签的噪声,并确保模型逐步从简单到复杂的例子中学习目标域的已知类特征.为了提高模型在开放场景的可靠性以满足开放场景可信人工智能的要求,引入了多个准则以区分已知类和未知类样本.此外,与现有...     

随机鼠疫病模型的核范数子空间辨识

基于连续鼠疫病模型,通过零阶保持器得到相应的离散模型.由于随机扰动的存在,提出相应的随机鼠疫病模型.设计卡尔曼滤波器,估计随机模型的状态变量以及降低噪声影响.采用核范数最小化方法代替奇异值分解,得到输入输出投影矩阵的低秩矩阵逼近.通过交替方向乘子法求解此优化问题,得到输出变量的最优解.根据世界卫生组织的非洲人类鼠疫病数据,利用本文提出的方法得到随机鼠疫病模型.仿真研究表明提出方法的有效性和精确性.     

基于准范数与零范数的矩阵恢复

针对高维度矩阵的低秩恢复问题中核范数与l₁范数过惩罚导致的结果偏差,提出一种矩阵恢复方法。使用准范数代替低秩恢复问题中常用的核范数约束,使用零范数代替l₁范数约束。对于准范数的求解问题,采用与准范数等价的Frobenius/核混合范数进行替代,提出基于交替近似的线性最小化方法对目标函数进行求解。在合成数据与真实数据上的实验结果表明,该算法在主观视觉效果与客观数值比较上都能获得更好的结果。     

基于核范数凸优化的微阵列缺失点重建

为解决大多数基因微阵列矩阵中含有缺失点的问题,提出了基于矩阵核范数凸优化(Nuclear Norm Optimization)的微阵列缺失点的重建方法.该方法利用了微阵列矩阵中的冗余信息,使用矩阵填充(Matrix Completion,MC)来重建缺失点,实现了矩阵的核范数凸优化.实验结果表明,矩阵填充在某些时间序列的微阵列数据集上与K最近邻(KNN)、贝叶斯主成分分析(BPCA)和局部最小二乘法(LLSimpute)相比表现出了较强的竞争力.由矩阵填充得到的矩阵,还可以替代广泛应用的局部最小二乘法中的行均值填充矩阵.矩阵填充和局部最小二乘法结合的方法在所有测试数据集的几乎所有缺失率下都取得了最低的重建错误率.     

结合加权核范数与全变分的图像二级去噪

为提升图像去噪后的视觉感受,提出一种加权核范数最小化（WNNM）结合全变分（TV）的二级图像降噪方法。首先对含噪图像进行TV基础去噪,其次用噪声图像与基础去噪结果图做差分运算,并对差分后的结果自适应维纳滤波,然后将滤波后图像与基础TV降噪图像叠加,利用块匹配做相似补丁收集,最后运用加权核范数最小化进行二次去噪,得到最终降噪图像。通过与原WNNM、三维块匹配去噪（BM3D）、漏斗自相似非局部去噪（FNLM）方法对比,该方法不仅对平滑区域有较优的降噪效果,同时处理了漏斗自相似非局部去噪与BM3D在高噪声情况下带来花斑与假条纹状况,并且使结构纹理信息最大化相似。     

基于加权核范数与3D全变分的背景减除

针对鲁棒主成分分析模型（Robust Principal Component Analysis,RPCA）一般将前景看作背景中存在的异常像素点,从而使得在复杂背景中前景检测精度下降的问题,提出一种基于加权核范数与3D全变分（3D-TV）的背景减除模型。该模型以RPCA为基础,利用加权核范数来约束背景的低秩性,考虑了不同奇异值对秩函数的影响,使其更接近实际背景的秩;然后利用3D-TV来约束前景的稀疏性,考虑了目标在时空上的连续性,有效抑制了复杂背景对前景提取造成的干扰。实验结果表明,与其他4种算法对比,所提模型的F值基本上是最优的,且能准确地分离图像中的背景和前景。     

基于Laguerre滤波器的核范数子空间辨识

连续时间随机系统是指各个变量是时间的连续函数并且状态和输出向量受到噪声干扰的动态系统.由于生物学、经济学以及物理学等领域都存在连续随机的现象,连续时间随机系统的辨识受到了各领域专家学者的广泛关注.本文针对连续时间随机系统提出一种基于Laguerre滤波器的核范数子空间辨识方法.首先,采用Laguerre滤波器获得系统的输入输出矩阵方程.然后,通过核范数最小化方法代替主奇异值的截断获得低秩矩阵逼近,并利用交替方向乘子法求解此优化问题.最后,采用最小二乘法和残差分析法分别得到模型的系统矩阵和噪声强度.仿真结果验证了所提方法的有效性、精确性及比较优势.     

图像差与加权核范数最小化的压缩图像融合

现有的图像融合算法存在非线性操作产生的噪声干扰和空间复杂度高等问题,使得融合图像易失真和丢失信息。一些学者提出的压缩感知图像融合算法能有效改善这一问题,但大多忽略了图像矩阵的低秩性,往往会降低融合质量。由此,将压缩感知融合技术与低秩矩阵逼近方法相结合,提出基于信息论图像差与自适应加权核范数最小化的图像融合算法。该算法由3个阶段组成。首先,将2幅源图像通过小波稀疏基稀疏化,并利用结构随机矩阵压缩采样,得到测量输出矩阵。然后,将测量输出矩阵进行分块,再利用图像差融合算法得到融合后的测量输出矩阵块。最后,利用自适应加权核范数最小化优化得到的块权重,通过正交匹配追踪法重建融合图像。实验结果表明了该算法的有效性和普适性,并且在多种评价指标上优于其他融合算法。     

基于频率加权张量核范数的高光谱图像复原

目的 高光谱图像复原是高光谱领域中一个重要的预处理步骤,能够有效去除成像条件所带来的不利影响,提升后续处理任务的精度。张量核范数被广泛应用于高光谱复原问题中,得到了较好的结果。然而,在张量核范数的定义中,它对张量所有奇异值使用相同的阈值进行收缩,未充分考虑高光谱的物理意义,得到了次优的结果。为了提升高光谱图像复原的精度,本文提出了基于频率加权张量核范数的高光谱复原算法。方法 在张量的频率域内,对清晰的高光谱图像添加噪声,图像信息在低频部分变化较小,而在高频部分变化巨大。基于这样的物理意义,定义了一种频率加权张量核范数来逼近张量秩函数,提出了频率域权重的自适应确定方法,让其能减少对低频部分的收缩,同时加大高频部分惩罚。然后将其应用于高光谱图像复原和去噪问题中,并基于交替方向乘子法设计了相应最小化问题的快速求解算法。结果 在4个高光谱数据集上与相关方法进行对比仿真实验,高采样率条件下在Washington DC Mall数据集上,相比性能第2的模型,本文模型复原结果的PSNR （peak signal-to-noise ratio）提升了1.76 dB;在Stuff数据集上,PSNR值提升了2.91 dB。高噪声条件下,在Pavia数据集上相比性能第2的模型,本文模型去噪结果的PSNR提升了8.61 dB;在Indian数据集上,PSNR值提升了10.77 dB。结论 本文模型可以更好地探索高光谱图像的低秩特性,使复原的图像在保持主体信息的同时,复原出更多图像纹理细节。     

利用Capped核范数正则化的人体运动捕获数据恢复

结合人体运动数据的低秩性、噪声稀疏性和时序稳定性,将人体运动捕获数据恢复问题建模为低秩矩阵填充问题.不同于传统方法采用核范数作为矩阵秩函数的凸松弛,引入了非凸的矩阵Capped核范数(CaNN).首先,建立基于CaNN正则化的人体运动捕获数据恢复模型;其次,利用交替方向乘子法,结合截断参数自适应学习与(逆)离散余弦傅里叶变换对模型进行快速求解;最后,在CMU数据集和HDM05数据集上,将CaNN模型与经典的TSMC,TrNN,IRNN-Lp和TSPN模型进行对比实验.恢复误差和视觉效果比较结果表明,CaNN能够有效地对失真数据进行恢复,且恢复后的运动序列与真实运动序列逼近度较高.