基于稀疏张量判别分析的人体行为识别

在模式识别中,如何在提取关键特征的同时对样本进行降维与识别是研究的热点之一。在局部Fisher判别分析（LFDA）的基础上,结合张量表示和稀疏分析,本文提出一种基于稀疏张量的特征提取方法：稀疏张量局部Fisher判别分析（STLFDA）。该方法把张量局部Fisher判别分析（TLFDA）算法中特征分解问题转化为线性回归问题,并用弹性网络解决线性回归中的特征选择问题,既满足了张量局部Fisher判别分析的目标,又保证了得到的投影矩阵的稀疏性。通过在Weizmann人体行为数据库上的实验,表明了稀疏张量局部Fisher判别分析（STLFDA）算法的有效性。     

结构化稀疏线性判别分析

在监督场景下线性判别分析(linear discriminant analysis, LDA)是一种非常有效的特征提取方法.然而,LDA在小样本情况下通常会出现过拟合现象,并且学习的投影变换难以给出人类认知上的解释.针对这些问题,特别是可解释性结构的发现,借助于LDA的线性回归模型和结构化稀疏L\\-{2,1}范数,提出了结构化稀疏线性判别分析(structured sparse LDA, SSLDA)方法.进一步,为了去除线性变换间的相关性,提出了正交化的SSLDA(orthogonalized SSLDA, OSSLDA),它能更加有效地学习到细致的结构信息.为了求解这2个模型,引入了一个半二次的优化算法,它在投影变换和新引入的辅助变量之间采用交替优化的思想.为了验证所提出的方法,在AR、扩展的YaleB和MultiPIE 3个人脸数据库上对比了LDA及其变种方法,实验表明了所提出方法的有效性以及可解释性.     

基于相同稀疏模式的稀疏主成分分析算法

稀疏主成分分析是一种用于降维和特征选择的无监督方法。由于计算多个主成分时主载荷向量间不具有相同的稀疏模式,导致难以从原始特征空间中确定出对主成分贡献最大的小部分变量,为解决此问题,提出一种自适应稀疏主成分分析（Adaptive sparse principal component analysis, ASPCA）算法。首先使用组套索模型,通过在载荷向量上施加块稀疏约束得出自适应稀疏主成分分析公式,随后对稀疏矩阵的不同列使用不同的调整参数获得自适应惩罚,最后运用块坐标下降法对自适应稀疏主成分分析公式进行两阶段优化,从而找到稀疏载荷矩阵和正交矩阵,实现降维的最优化。对稀疏主成分分析（Sparse principal component analysis, SPCA）算法、结构化且稀疏的主成分分析（Structured and sparse principal component analysis, SSPCA）算法和ASPCA算法进行仿真比较,结果表明ASPCA算法的降维性能更优,能提取更有价值的特征,从而显著提高了分类模型的平均分类准确率。     

基于稀疏约束判别分析的说话人识别算法

在噪音环境下,传统说话人识别特征参数的性能会大幅降低。针对该问题,提出一种说话人特征提取方法,将线性判别分析加上稀疏性的约束,并采用梯度下降的优化方法得出相应算法。实验结果表明,该方法不仅在纯净语音的情况下具有较好的鲁棒性,对含有噪音的语音也有较高的识别率。     

Semisupervised Encrypted Traffic Identification Based on Auxiliary Classification Generative Adversarial Network

The rapidly increasing popularity of mobile devices has changed the methods with which people access various network services and increased network traffic markedly. Over the past few decades, network traffic identification has been a research hotspot in the field of network management and security monitoring. However, as more network services use encryption technology, network traffic identification faces many challenges. Although classic machine learning methods can solve many problems that cannot be solved by port- and payload-based methods, manually extract features that are frequently updated is time-consuming and labor-intensive. Deep learning has good automatic feature learning capabilities and is an ideal method for network traffic identification, particularly encrypted traffic identification; Existing recognition methods based on deep learning primarily use supervised learning methods and rely on many labeled samples. However, in real scenarios, labeled samples are often difficult to obtain. This paper adjusts the structure of the auxiliary classification generation adversarial network (ACGAN) so that it can use unlabeled samples for training, and use the wasserstein distance instead of the original cross entropy as the loss function to achieve semisupervised learning. Experimental results show that the identification accuracy of ISCX and USTC data sets using the proposed method yields markedly better performance when the number of labeled samples is small compared to that of convolutional neural network (CNN) based classifier.     

邻域排斥稀疏判决单样本亲属关系认证算法

针对如何利用人脸图像进行亲属关系认证问题,提出邻域排斥测度学习稀疏判决的单样本亲属关系认证算法。学习能使具有亲属关系样本距离变小,而非亲属关系样本距离变大的变换矩阵,目的是利用已有数据样本间相似程度的先验知识学习最佳相似性度量,使之能更好地刻画亲属样本间的相似关系。在新的测度空间下采用稀疏表示方法用父母样本集建立过完备字典来线性表示子女图像,并以稀疏系数大小衡量样本间相似程度。针对亲属样本间相似性不明显问题提出子模块综合稀疏认证方法,通过多重稀疏系数综合判别两输入样本的亲属关系。在KinFaceW-I和KinFaceW-II两个亲属图像库上的实验结果表明,采用测度学习空间下稀疏系数判决的方法相比已有亲属关系人脸认证方法具有更好的性能。     

基于稀疏编码的半监督低秩核学习算法

传统半监督非参核学习方法通常基于流形假设和成对约束信息建立学习模型。但是,这种模型对于某些复杂高维稀疏的数据而言算法复杂性较高。为了解决复杂高维稀疏数据核学习问题,提出一种基于稀疏自编码的非参核学习算法,通过稀疏自编码器引入稀疏约束,不仅提高了非参核学习方法的鲁棒性,避免了过拟合问题,而且提升了非参核学习算法的学习效率。通过核聚类实验验证了提出算法的有效性。实验结果表明,在非参核学习模型中融入了稀疏自编码器能够提高核聚类的效果,提升了半监督非参核学习算法的学习效率。     

子空间半监督Fisher判别分析

Fisher判别分析寻找一个使样本数据类间散度与样本数据类内散度比值最大的子空间, 是一种很流行的监督式特征降维方法. 标注样本数据所属的类别通常需要大量的人工, 消耗大量的时间, 付出昂贵的成本. 为了解决同时利用有类别信息的样本数据和没有类别信息的样本数据用于寻找降维子空间的问题, 我们提出了一种子空间半监督Fisher判别分析方法. 子空间半监督Fisher判别分析寻找这样一个子空间, 这个子空间即保留了从有类别信息的样本数据中学习的类别判别结构, 也保留了从有类别信息的样本数据和没有类别信息的样本数据中学习的样本结构信息. 我们还推导了基于核的子空间半监督Fisher判别分析方法. 通过人脸识别实验验证了本文算法的有效性.     

张量线性判别分析算法研究

针对传统线性判别分析中存在的小样本问题及对TensorLDA算法中两个投影矩阵不能同时计算、低维特征提取不充分的问题,文中研究并实现了张量子空间下的张量线性判别分析（TensorLDA）算法。并且提出了h-TensorLDA算法,即先用单位矩阵初始化,再利用优化准则求另一个投影矩阵,并进行多次迭代的改进方法。采用ORL数据库测试算法的性能,在ORL人脸数据库上It—TensorLDA比TensorLDA的平均识别率高1．88％,比Fisherfaces的平均识别率高3．03％。因此,文中算法有效避免了小样本问题,提高了人脸识别效果。     

基于稀疏表示的单幅图像超分辨率重建

针对单幅低分辨率灰度图像,提出一种基于稀疏表示和字典学习的超分辨率重建算法,通过选择合适的过完备字典,图像块可表示为字典元素的稀疏线性组合。对于输入的低分辨率图像,寻求每一图像块的稀疏表示,利用此表示系数产生高分辨率图像输出。为消除Elad方法重建图像中产生的黑色边缘并提高重建图像的质量,文中在稀疏表示方法的基础上利用反向投影法对其进行改进。仿真实验结果表明,改进算法不仅实现了上述目的,而且在图像信噪比和算法运行效率上都有所提高,从而达到了算法改进的目的。     

基于张量的半监督判别分析算法

边界Fisher判别分析算法因采用一维向量表示而无法很好保持图像的空间几何结构,且无法利用大量未标记样本信息.为此,提出一种基于张量的半监督判别分析算法.采用二维张量表示人脸空间中的样本图像,揭示流形的内在几何结构,利用有判别信息的标记样本和大量未标记样本,使数据在投影空间的类间分离度最大,同时保证高维空间中不相邻的点在低维空间中也不相邻.在PIE和FERET人脸库上的实验结果表明,该算法能够获得较高的识别率.     

全局判别与局部稀疏保持HSI半监督特征提取

针对高光谱图像存在“维数灾难”的问题，提出一种全局判别与局部稀疏保持的高光谱图像半监督特征提取算法（GLSSFE）。该算法通过LDA算法的散度矩阵保存有类标样本的全局类内判别信息和全局类间判别信息，结合利用半监督PCA算法对有类标和无类标样本进行主成分分析，保存样本的全局结构；利用稀疏表示优化模型自适应揭示样本数据间的非线性结构，将局部类间判别权值和局部类内判别权值嵌入半监督LPP算法保留样本数据的局部结构，从而最大化同类样本的相似性和异类样本的差异性。通过1-NN和SVM两个分类器分别对Indian Pines和Pavia University两个公共高光谱图像数据集进行分类，验证所提特征提取方法的有效性。实验结果表明，该GLSSFE算法最高总体分类精度分别达到89.10%和92.09%，优于现有的特征提取算法，能有效地挖掘高光谱图像的全局特征和局部特征，极大地提升高光谱图像的地物分类效果。     

Multi-view Incremental Discriminant Analysis

In recent years, the use of multi-view data has attracted much attention resulting in many multi-view batch learning algorithms. However, these algorithms prove expensive in terms of training time and memory when used on the incremental data. In this paper, we propose Multi-view Incremental Discriminant Analysis (MvIDA), which updates the trained model to incorporate new data samples. MvIDA requires only the old model and newly added data to update the model. Depending on the nature of the increments, MvIDA is presented as two cases, sequential MvIDA and chunk MvIDA. We have compared the proposed method against the batch Multi-view Discriminant Analysis (MvDA) for its discriminability, order independence, the effect of the number of views, training time, and memory requirements. We have also compared our method with single-view Incremental Linear Discriminant Analysis (ILDA) for accuracy and training time. The experiments are conducted on four datasets with a wide range of dimensions per view. The results show that through order independence and faster construction of the optimal discriminant subspace, MvIDA addresses the issues faced by the batch multi-view algorithms in the incremental setting.     

基于内容自适应稀疏字典的图像集压缩算法

大数据时代巨大的图像信息量,给实际的存储、传输带来了相当大的困难。有效利用图像集自身内容,去除图像之间的信息冗余,是图像集压缩的主要目的。本文提出一种基于内容自适应稀疏字典的图像集压缩方案。通过对图像内容信息进行分类学习,得到分组稀疏字典,将稀疏编码替代传统的变换编码,并利用图像非局部相似特征优化图像解码,得到更高质量的重建图像。实验结果表明,与JPEG方法以及基于递归最小二乘字典学习算法（RLS-DLA）的压缩框架相比,本方案提出的图像集压缩方法有效提高了图像集编码性能。     

一种引入成对代价的子类判别分析

传统的降维方法追求较低的识别错误率,假设不同错分的代价相同,这个假设在一些实际应用中往往不成立.例如,在基于人脸识别的门禁系统中,存在入侵者类和合法者类,将入侵者错分成合法者的损失往往高于将合法者错分成入侵者的损失,而将合法者错分成入侵者的损失又大于将合法者错分成其他合法者的损失.为此,首先通过对人脸识别门禁系统进行分析,将其归为一个代价敏感的子类学习问题,然后将错分代价以及子类信息同时注入判别分析的框架中,提出一种近似于成对贝叶斯风险准则的降维算法.在人脸数据集Extended Yale B以及ORL上的实验结果表明了该算法的有效性.     

基于局部区域稀疏编码的人脸检测

提出一种基于局部区域稀疏编码的人脸检测方法.首先提取人脸局部区域作为训练样本;然后学习得到一个具有较强判别性的字典,字典中的每个基与人脸各局部区域有明确的对应关系;接着,基于各检测窗口稀疏编码的响应判断人脸某一局部区域是否出现;最后,利用人脸局部区域的检测结果和位置约束进行投票,完成人脸定位.该方法的创新在于将稀疏编码和基于部件模型的思想相结合,实现人脸检测.在Caltech 和BioID 人脸数据库的实验结果表明:该方法适用于小样本问题,且在遮挡、复杂表情、人脸偏转等情况下具有较好的检测效果.     

图正则化迁移稀疏概念编码的跨域图像分类

为克服不同图像域之间的特征“差异”，跨越分布“鸿沟”，提出了一种基于正则化迁移稀疏概念编码的跨域图像分类方法。将图像域间的分布差异性和标签相关性信息融入稀疏编码模型中，以学习跨域图像的鲁棒性稀疏表示，从高维的图像特征空间中挖掘图像低维流形结构，形成基向量集，构造跨域图像的迁移稀疏概念编码。该方法挖掘不同图像域之间的共同特征表达，实现了图像标签的跨域迁移。通过在多个图像数据库中的比较实验表明，该方法获得更为鲁棒的图像特征表达，其分类性能显著优于其他相关比较方法。     

改进的非负稀疏编码图像基学习算法

图像基学习是图像特征提取与表示的重要方法之一。非负稀疏编码不仅具有标准稀疏编码算法的自适应性、空间的局部性、方向性和频域的带通性,而且更能反应哺乳动物的视觉机制。本文在非负稀疏编码的基础上,利用经验模态分解技术加入了图像的结构信息,提出了结合经验模态分解的非负稀疏编码算法,保证了系数矩阵的稀疏性与所提取图像特征的结构性。学习得到的图像基不仅具有非负稀疏编码的特征,而且更好地表示出图像的结构信息。     

一种基于稀疏嵌入分析的降维方法

近几年局部流形学习算法研究得到了广泛的关注, 如局部线性嵌入以及局部切空间排列算法等.这些算法都是基于局部可线性化的假设而提出的, 但局部是否可线性化的问题没有得到很好有效的解决, 使得目前的降维算法对自然数据效果不佳. 自然数据中有很多是稀疏的,对稀疏数据的降维是局部线性嵌入算法所面临的一个问题. 基于对数据自然属性的考虑,利用数据的统计信息动态确定局部线性化范围, 依据数据的分布提出一种排列的稀疏局部线性嵌入算法(Sparse local linear embedding algorithm, SLLEA). 在数据集稀疏的情况下,该算法能够很好地把握数据的局部和整体信息. 将该算法应用于手工流形及图像检索等试验中,验证了该算法的有效性.     

稀疏判别分析

针对流形嵌入降维方法中在高维空间构建近邻图无益于后续工作,以及不容易给近邻大小和热核参数赋合适值的问题,提出一种稀疏判别分析算法（SEDA）。首先使用稀疏表示构建稀疏图保持数据的全局信息和几何结构,以克服流形嵌入方法的不足;其次,将稀疏保持作为正则化项使用Fisher判别准则,能够得到最优的投影。在一组高维数据集上的实验结果表明,SEDA是非常有效的半监督降维方法。