特征聚类自适应变组稀疏自编码网络及图像识别

由于缺乏先验信息,组Lasso模型在训练时仅是基于组数参数对单元进行均匀、连续、固定的分组,缺乏分组依据,容易造成变量组结构的有偏估计。为此,提出特征聚类自适应变组稀疏自编码网络模型,在迭代过程中使用特征聚类法来改变隐层单元的分组,使得分组能够随着特征的收敛而自适应地发生改变,从而更好地实现变量组结构的估计。实验表明,该模型能够很好地捕捉训练过程中出现的组相关信息,并在一定程度上提高图像的分类识别率。     

鲁棒联合稀疏不相关回归

常见的无监督特征选择方法考虑的只是选择具有判别性的特征,而忽略了特征的冗余性,并且没有考虑到小类问题,故而影响到分类性能.基于此背景,提出鲁棒不相关回归算法.首先,对不相关回归进行研究,使用不相关正交约束,以便找出不相关但具有判别性的特征,不相关约束使得数据结构保持在Stiefel流形中,使模型具有封闭解,避免了传统的...     

利用稀疏自编码的局部谱聚类映射算法

传统谱聚类算法直接对原始数据建立高斯核邻接矩阵后再对数据进行聚类,并未考虑数据的深层次特征以及数据的邻域流形结构,并且仅进行单一聚类,针对以上三点不足,提出了利用稀疏自编码的局部谱聚类映射算法(LSCMS),通过对数据进行预处理,利用稀疏自编码提取能反映原始数据本质的深层次特征,并以此替代原始数据;对每个数据利用其邻域进行线性重构,以重构权值代替高斯核函数建立邻接矩阵.LSCMS在聚类同时将数据映射到聚类指标上进而协调聚类指标.在UCI数据集、手写数据集、人脸数据集上的实验结果表明:算法优于现有的聚类算法.     

基于牛顿梯度优化的弹性多核学习

已有稀疏多核学习(MKL)模型在产生核函数权重稀疏解时容易导致信息丢失且泛化能力差,且基于梯度下降法的MKL在接近最优解时收敛速度慢.建立了基于支持向量机(SVM)的弹性多核学习(EMKL)模型并给出了一种基于牛顿梯度优化的EMKL(NO-EMKL).模型在MKL的目标函数中引入弹性项,并设计了基于二阶牛顿梯度下降法的优化算法.实验结果表明:算法不仅具有更好的分类精度,还具有较快的收敛速度.     

基于样本特征核矩阵的稀疏双线性回归

在许多实际应用中出现了大量的冗余数据,这些数据可能是高维的,这时进行回归预测将会出现过拟合的现象,并且还会出现预测精度偏低等问题.另外,大多数回归方法都是基于向量的,忽略了矩阵数据原始位置之间的关系.为此,文中提出了一种基于样本特征核矩阵的稀疏双线性回归(Kernel Matrix-based Sparse Bilin...     

二维主成分分析方法的推广及其在人脸识别中的应用

提出了分块二维主成分分析(分块2DPCA)的人脸识别方法。分块2DPCA方法先对图像矩阵进行分块,对分块得到的子图像矩阵直接进行鉴别分析。其特点是:能方便地降低鉴别特征的维数;可以完全避免使用矩阵的奇异值分解,特征抽取方便;与2DPCA方法相比,使用低维的鉴别特征矩阵,而达到较高(至少是不低)的正确识别率。此外,2DPCA是分块2DPCA的特例。在ORL和NUST603人脸库上的试验结果表明,所提出的方法在识别性能上优于2DPCA方法。     

一种新的有监督的局部保持典型相关分析算法

从模式识别的角度出发,在局部保持典型相关分析的基础上,提出一种有监督的局部保持典型相关分析算法(SALPCCA)。该方法在构造样本近邻图时将样本的类别信息考虑在内,由样本间的距离度量确定权重,建立样本间的多重权重相关,通过使同类内的成对样本及其近邻间的权重相关性最大,从而能够在利用样本的类别信息的同时,也能保持数据的局部结构信息。此外,为了能够更好地提取样本的非线性信息,将特征集映射到核特征空间,又提出一种核化的SALPCCA(KSALPCCA)算法。在ORL、Yale、AR等人脸数据库上的实验结果表明,该方法较其他的传统典型相关分析方法有着更好的识别效果。     

改进的Dropout正则化卷积神经网络

针对深度卷积神经网络(CNN)中出现的过度拟合的问题,给出了一种改进的结构,训练阶段采用Dropout正则化,测试阶段采用了模型平均方法且同时考虑了保留概率和池化区域内单元值所占概率.仿真实验表明:在MNIST手写数据库和CMU—PIE的部分图像库中,相同迭代次数及CNN结构下新算法均优于其他方法,不仅能够得到更好的识别率而且更能防止过拟合的问题.     

常见三维场景中水面特效的模拟

针对常见三维场景中水面特效真实感与实时性较难平衡的现状,提出了一种基于Gerstner波模型的水面特效模拟方法。对振幅添加了随机扰动,使得波动更具有变化;在将叠加后Gerstner波分为大波与小波的基础上,通过改变不同类型波的参数可方便地控制波形;最后引入反射率与透明度以适应不同的环境与水体。实验结果表明,新的模型不仅呈现出更加真实的水面特效,而且得到了比较理想的渲染速度。     

基于零空间核判别分析的人脸识别

提取有效特征对高维数据的模式分类起着关键作用.零空间线性判别分析(null-space linear discriminant analysis,NLDA)在数据降维和特征提取上表现出较好的性能,但是该方法本质上仍是一种线性方法.为有效提取数据的非线性特征,提出了零空间核判别分析算法(null-space kernel discriminant analysis,NKDA)并将其应用于人脸识别.利用核函数将原始样本隐式地映射到高维特征空间后,采用一次瘦QR分解求核类内散布矩阵的零空间鉴别矢量集,最后再进行一次Cholesky分解求得具正交性的核空间鉴别矢量集.与NLDA相比,NKDA具有更好的识别性能且在大样本情况下也能应用.另外,基于NKDA,提出了增量NKDA算法,当增加新的训练样本时能正确地更新NKDA鉴别矢量集.在ORL库、Yale库和PIE子库上的实验结果表明了算法的有效性和效率,在有效降维的同时能进一步提高鉴别能力.