基于多视角缺失补全算法的数据挖掘研究

针对数字化信息复杂度带来的海量多视角数据问题,并考虑到在大量的多视角数据的获取过程中,由于收集的难度、高额成本或设备故障等情况,往往会导致多视角数据出现视角缺失。提出了一种基于核回归的多视角数据缺失补全方法,采用离线核回归模型学习和在线多视角缺失数据补全构建了算法框架,通过引入高斯核核函数的方式,建立视角间的非线性回归模型,结合训练数据的线性组合来表示回归系数的最优解,以完成挖掘多视角数据间的互补相关性,有效实现缺失视角的补全。最后通过模拟三类数据集来验证基于多视角缺失补全算法的性能。     

基于图信息的自监督多视角子空间聚类

多视角子空间聚类方法通常用于处理高维度、复杂结构的数据. 现有的大多数多视角子空间聚类方法通过挖掘潜在图信息进行数据分析与处理, 但缺乏对潜在子空间表示的监督过程. 针对这一问题, 本文提出一种新的多视角子空间聚类方法, 即基于图信息的自监督多视角子空间聚类(SMSC). 它将谱聚类与子空间表示相结合形成统一的深度学习框架. SMSC首先通过挖掘多视角数据的一阶图和二阶图构成潜在图信息, 其次利用聚类结果监督多个视角的公共潜在子空间学习过程. 通过在4个标准数据集上进行的广泛实验, 结果验证本文所提方法相较于传统的多视角子空间聚类方法更具有效性.     

LSPSA:基于局部结构保持的共享子空间分析

多输出正则投影(MORP)算法将输入特征向量和由类标签形成的多输出特征向量经过因子分解方法映射到一个共享子空间,从而建立输入特征与类标签的关联。在MORP的基础上,通过引入图约束,提出了一种基于局部结构保持的共享子空间分析方法(LSPSA),该方法在获取共享信息的同时,保持原始多视角特征空间与共享子空间中的数据具有相近的局部几何结构关系,从而避免多视角数据在共享子空间的过拟合问题。此外,还提出了一种图模型逼近方法,实现了LSPSA的在线扩展,解决了在线获取新测试样本在共享子空间中表征的高复杂度问题。在UCI多特征手写体数据库上的分类及检索实验验证了所提出的算法的有效性。     

多非线性多视角局部保持投影的步态识别

已知样本与待识别样本的视角差异是影响步态识别精度的主要因素,子空间方法将不同视角的步态投影到公共子空间,能有效避免视角差异的影响.但现有方法多通过学习投影矩阵对样本进行线性投影,难以保持多视角步态数据的原始非线性结构.针对于此,本文提出多非线性多视角局部保持投影.先用非线性函数族实现样本的多次非线性投影,再基于局部结构保持原则将不同视角的样本投影到公共子空间,最后在公共子空间中进行最近邻分类识别.在多视角步态库CASIA(B)进行步态识别实验,结果表明本文方法在多种视角组合下优于其它投影方法.     

不完备数据的鲁棒多视角图学习及其聚类应用

现有多视角图学习方法主要建立在数据具有较好完备性的前提假设下,没有充分地考虑由于特征缺失引起的不完备数据的学习问题.针对此问题,提出一种不完备数据的多视角图学习方法.一方面,从局部视角内将数据重建和图学习放入同一框架,通过不完备数据补偿,实现从重建数据中学习视角专属的近邻关系,弥补特征缺失对数据分布的影响.另一方面,为了保持近邻图的二维结构,引入张量分析,从全局角度构造基于多视角的融合图学习约束,捕获缺失数据下视角间图结构的高阶潜在关联性.框架交替的优化数据重建、视角专属图学习和融合张量图结构学习,使其在迭代中相互促进,有效提高模型对不完备多视角数据的学习能力.将所提出的方法应用于两类不完备数据的多视角聚类实验,其结果表明所提出方法在多项性能指标和鲁棒性方面均优于当前主流的多视角聚类方法.     

双加权多视角子空间聚类算法

多视角子空间聚类方法为高维多视角数据的聚类问题提供了大量的解决方案.但是现有的子空间方法仍不能很好地解决以下两个问题:(1)如何利用不同视角的差异性进行学习获得一个优质的共享系数矩阵;(2)如何增强共享系数矩阵的低秩性.针对以上问题,提出了一种有效的双加权多视角子空间聚类算法.该算法首先通过子空间自表达学习到每个视角的系数矩阵,然后采用自适应权重策略构建一个共享系数矩阵,最后利用加权核范数逼近系数矩阵的秩,使得系数矩阵的表示更加低秩,进而取得更好的聚类结果.采用增广拉格朗日乘子法来优化目标函数,并在6个广泛使用的数据集上进行实验,验证了该算法的优越性.     

基于共享隐空间的多视角SVM

传统的单视角方法对来自不同场景不同形式的多视角样本难以获得较好的分类性能,因此多视角学习成为近年来的热门研究课题并被广泛研究.在多视角学习中,可能存在这样一种特殊现象,即来自不同视角相同类的样本间的差异比来自同一视角不同类的样本间的差异大,这给多视角学习带来很大挑战,并导致多视角学习效果变差.鉴于此,首先利用Parzen窗技术构建共享隐空间,并将共享隐空间联合原始空间得到扩展空间,进行多视角学习,能够很好应对上述特殊现象;然后利用支持向量机(SVM),提出一种新型的多视角学习方法,即基于共享隐空间的多视角SVM;最后通过在人工和真实的多视角数据集上的实验验证了所提方法在应对上述挑战时具有很好的实验效果.     

基于图卷积神经网络的多视角聚类

针对多视角数据间互补与一致特性难以刻画问题,提出一种基于图卷积神经网络的多视角聚类方法。通过对样本不同视角间相同邻接子图基于图卷积神经网络学习到的表达进行约束,有效挖掘了多视角数据间的一致特性。通过共享图卷积神经网络参数、学习不同视角完整邻接图嵌入表达并串接得到多视角表达,有效挖掘了多视角数据间的互补特性。对上述多视角表达增加相对熵约束,使得最终学习到的多视角表达得以提升并符合聚类特性。在五个数据集上均取得了最好的聚类效果,说明所提出的基于图卷积神经网络的聚类方法可以有效挖掘视角间互补与一致特性并提升聚类性能。     

隐式低秩稀疏表示的多视角子空间聚类

针对多视角子空间聚类问题,提出基于隐式低秩稀疏表示的多视角子空间聚类算法(LLSMSC).算法构建多个视角共享的隐式结构,挖掘多视角之间的互补性信息.通过对隐式子空间的表示施加低秩约束和稀疏约束,捕获数据的局部结构和稀疏结构,使聚类结果更准确.同时,使用基于增广拉格朗日乘子交替方向最小化算法高效求解优化问题.在6个不同数据集上的实验验证LLSMSC的有效性和优越性.     

基于双重局部保持的不完整多视角嵌入学习方法

现有的多视角降维方法多数假设数据是完整的,但该假设在实际应用中难以实现。为解决不完整多视角数据降维问题,提出一种新的不完整多视角嵌入学习方法。基于多视角数据的一致性与同一视角下样本间的线性相关性学习一组重构系数,对缺失样本进行线性重构,通过学习所有视角的公共低维嵌入,保持原始空间的局部几何结构。在此基础上,设计一种惩罚参数来度量重构样本的可靠度,从而权衡缺失样本对学习结果的负面影响。实验结果表明,该方法在Yale、ORL和COIL-20数据集上NMI值分别达到65.63%、73.23%和78.27%,较MVL-IV算法分别提升8.37%、16.71%和20.24%。     

基于双重低秩分解的不完整多视图子空间学习

多视图数据在现实世界中应用广泛,各种视角和不同的传感器有助于更好的数据表示,然而,来自不同视图的数据具有较大的差异,尤其当多视图数据不完整时,可能导致训练效果较差甚至失败。为了解决该问题,本文提出了一个基于双重低秩分解的不完整多视图子空间学习算法。所提算法通过两方面来解决不完整多视图问题:一方面,基于双重低秩分解子空间框架,引入潜在因子来挖掘多视图数据中缺失的信息;另一方面,通过预先学习的多视图数据低维特征获得更好的鲁棒性,并以有监督的方式来指导双重低秩分解。实验结果证明,所提算法较之前的多视图子空间学习算法有明显优势;即使对于不完整的多视图数据,该算法也具有良好的分类性能。     

鲁棒多视图协同完整鉴别子空间学习算法

为了有效地融合多视图信息并使有利于多视图完整子空间学习的视图主导多视图学习,提出了多视图协同完整子空间学习策略。进一步,为了使对象在潜在完整子空间中的完整特征表示具有更好的鉴别能力,将Fisher鉴别分析引入到了多视图完整子空间学习中。Fisher鉴别分析可以在最小化对象的完整特征表示的类内散度的同时最大化对象的完整特征表示的类间散度。将多视图协同完整空间学习策略和Fisher鉴别分析融合在一起,提出了鲁棒多视图协同完整鉴别子空间学习算法。实验结果表明,所提算法能够有效地融合多视图信息并挖掘鉴别信息,是一种有效的多视图完整子空间学习算法。     

Kernelized multi-view subspace clustering via auto-weighted graph learning

Multi-view subspace clustering has been an important and powerful tool for partitioning multi-view data, especially multi-view high-dimensional data. Despite great success, most of the existing multi-view subspace clustering methods still suffer from three limitations. First, they often recover the subspace structure in the original space, which can not guarantee the robustness when handling multi-view data with nonlinear structure. Second, these methods mostly regard subspace clustering and affinity matrix learning as two independent steps, which may not well discover the latent relationships among data samples. Third, many of them ignore the different importance of multiple views, whose performance may be badly affected by the low-quality views in multi-view data. To overcome these three limitations, this paper develops a novel subspace clustering method for multi-view data, termed Kernelized Multi-view Subspace Clustering via Auto-weighted Graph Learning (KMSC-AGL). Specifically, the proposed method implicitly maps the multi-view data from linear space into nonlinear space via kernel-induced functions, so as to exploit the nonlinear structure hidden in data. Furthermore, our method aims to enhance the clustering performance by learning a set of view-specific representations and their affinity matrix in a general framework. By integrating the view weighting strategy into this framework, our method can automatically assign the weights to different views, while learning an optimal affinity matrix that is well-adapted to the subsequent spectral clustering. Extensive experiments are conducted on a variety of multi-view data sets, which have demonstrated the superiority of the proposed method.

     

基于深度自编码的多视图子空间聚类网络

传统子空间浅层聚类模型对于多视图和非线性数据的聚类性能不佳。为此,提出一种基于深度自编码器的多视图子空间聚类网络模型,通过在深度自编码器中引入子空间聚类中的“自我表示”特性以及加权稀疏表示,提升了多视图子空间聚类算法的学习能力。推导的深度自编码多视图子空间聚类算法能够聚类具有复杂结构的数据点。通过多视图数据集验证了提出算法的有效性。结果表明,该方法能够有效地挖掘数据固有的多样性聚类结构,并利用多个视图之间互补信息,在性能上与现有方法相比有较大的提升。     

面向不完整多视图聚类的深度互信息最大化方法

多视图聚类是无监督学习领域研究热点之一,近年来涌现出许多优秀的多视图聚类工作,但其中大多数方法均假设各视图是完整的,然而真实场景下数据收集过程极容易发生缺失,造成部分视图不完整。同时,很多方法采取传统机器学习方法（即浅层模型）对数据进行特征学习,这导致模型难以挖掘高维数据内的复杂信息。针对以上问题,本文提出一种面向不完整多视图聚类的深度互信息最大化方法。首先利用深度自编码器挖掘各视图深层次的隐含特征,并通过最大化潜在表示间的互信息来学习各视图间的一致性知识。然后,对于不完整视图中的缺失数据,利用多视图的公共潜在表示进行补全。此外,本文采用一种自步学习策略对网络进行微调,从易到难地学习数据集中的样本,得到更加宜于聚类的特征表示。最后,在多个真实数据集上进行实验,验证了本文方法的有效性。     

Online multi-view subspace learning via group structure analysis for visual object tracking

In this paper, we focus on incrementally learning a robust multi-view subspace representation for visual object tracking. During the tracking process, due to the dynamic background variation and target appearance changing, it is challenging to learn an informative feature representation of tracking object, distinguished from the dynamic background. To this end, we propose a novel online multi-view subspace learning algorithm (OMEL) via group structure analysis, which consistently learns a low-dimensional representation shared across views with time changing. In particular, both group sparsity and group interval constraints are incorporated to preserve the group structure in the low-dimensional subspace, and our subspace learning model will be incrementally updated to prevent repetitive computation of previous data. We extensively evaluate our proposed OMEL on multiple benchmark video tracking sequences, by comparing with six related tracking algorithms. Experimental results show that OMEL is robust and effective to learn dynamic subspace representation for online object tracking problems. Moreover, several evaluation tests are additionally conducted to validate the efficacy of group structure assumption.     

大规模多视图数据的自降维K-means算法

为了提升传统多视图K-means算法在高维数据中的聚类性能,提出了一种鲁棒性大规模多视图数据的自降维K-means算法RMSKMC（robust multi-view subKmeans clustering）,通过寻找单个视图上的最优子空间实现高维数据的自降维,利用非负矩阵分解（NMF）对损失函数进行重构,使不同视图共享相同的聚类指示矩阵从而实现多视图信息互补,完成大规模多视图数据的聚类。实验结果表明,在大规模多视图数据集上,该算法比其他多视图聚类算法资源消耗更小,并且能够进行更为准确的聚类。