带PCA卷积的稀疏表示图像分类算法

针对不同卷积核可以提取不同的图像特征,而卷积核的训练比较困难这一问题,提出一种带主成分分析（PCA）卷积的稀疏表示分类算法。先对训练样本集做分片去均值化处理,然后直接应用PCA算法提取所有分片的前K个特征向量作为卷积核,再用这些卷积核对原始图像进行卷积操作;并提出一种自动加权策略,对卷积处理后得到的K个特征图像进行加权叠加操作;最后对特征图像进行分块直方图统计稀疏化,并应用稀疏表示分类算法进行分类。在公共人脸数据集AR、CMU Multi-PIE、ORL以及数字手写体数据集MNIST上与常用分类算法进行对比实验,实验结果表明,带PCA卷积的稀疏表示分类算法具有更高的分类准确率。     

基于稀疏近邻表示的分类方法

稀疏表示分类方法(SRC)在人脸识别方面取得了当前最好的分类结果,针对SRC存在的问题,提出稀疏近邻表示方法(SNRC).在局部线性嵌入方法前提假设成立的条件下,SNRC通过稀疏近邻表示实现目标分类.在几个不同数据集上的实验结果显示,SNRC适用于呈非线性分布的数据集,并取得了较好的效果.进一步的分析表明,SNRC能够较好的适用于那些通过降维方法得到的低维数据的分类问题,尤其适用于基于近邻保持的一类降维方法得到的低维数据,并且具有较低的时间复杂度.     

利用PCA进行深度学习图像特征提取后的降维研究

深度学习是当前人工智能领域广泛使用的一种机器学习方法.深度学习对数据的高度依赖性使得数据需要处理的维度剧增,极大地影响了计算效率和数据分类性能.本文以数据降维为研究目标,对深度学习中的各种数据降维方法进行分析.在此基础上,以Caltech 101图像数据集为实验对象,采用VGG-16深度卷积神经网络进行图像的特征提取,以PCA主成分分析方法为例来实现高维图像特征数据的降维处理.在实验阶段,采用欧氏距离作为相似性度量来检验经过降维处理后的精度指标.实验证明：当提取VGG-16神经网络fc3层的4096维特征后,使用PCA法将数据维度降至64维,依然能够保持较高的特征信息.     

稀疏表示和贪婪搜索的人脸分类

目的 随着稀疏表示方法在图像重建问题中的巨大成功,研究人员提出了一种特殊的分类方法,即基于稀疏表示的分类方法.为了加强样本间的协作表示能力以及减弱稀疏分解时的强L1约束,提出了一种在稀疏分类框架下的迭代剔除机制和贪婪搜索策略的人脸识别方法.方法 将测试样本表示成训练样本线性组合的方式,并在所有训练样本中通过迭代计算来消除对分类影响较小的类别和单个样本,在系数分解的过程中采用最小误差正交匹配追踪(EcOMP)算法,进而选择出贡献程度大的类别样本并进行分类.结果 在迭代更新样本字典的过程中,强化了真实类别的表示能力,并弱化了分解系数的强L1约束.在所有的实验中,正则化参数λ的取值为0.001,在ORL、FERET和AR 3个人脸数据库上,本文算法的识别率可分别达到97.88％、67.95％和94.50％,进而验证了本文算法的有效性.结论 提出的在稀疏分类框架下的迭代剔除机制和贪婪搜索策略的人脸识别方法,在动态迭代的机制中完成了样本字典的更新,平衡了协作表示和稀疏约束的关系,相比较原始的稀疏分类模型有更好的准确性和稳定性.     

基于正则化边界Fisher分析和稀疏表示分类的人脸识别方法

边界Fisher分析(MFA)应用于人脸识别时会遇到小样本问题,如果用主成分分析进行降维来处理该问题,则会丢失一些对分类有益的分量;如果把MFA的目标函数用最大间距准则代替,则较难得到最佳参数。提出了一种正则化的MFA方法,该方法用一个较小的数乘上单位阵构造正则项,然后加到MFA的类内散度矩阵中,使得所得矩阵是可逆的,并且不会丢失对分类有益的分量,也容易确定其中的参数。因为一个样本通常能被少数几个距离比较近的同类样本很好地线性表达,在正则化MFA降维之后结合使用稀疏表示分类算法进一步提高识别率。在FERET和AR数据库上的实验表明,对比一些经典的降维方法,使用该方法能显著提高识别率。     

稀疏表示分类人脸识别方法综述

本文对稀疏表示分类人脸识别方法进行了综述,着重探讨了其中的稀疏分解算法、字典学习、分类器设计三方面内容。最后,本文对稀疏表示分类人脸识别方法进行了总结,并指出需要进一步研究的问题。     

基于图像表示和稀疏表示的图像分类

为了更好地实现图像分类任务,论文提出了一种新的图像分类算法,该算法可以更好地保留原始图像的大尺度信息,有效地利用原始图像的全局特征,同时减小了同一物体在其不同图像中的差异性,显著地提高了图像分类准确率。该算法首先通过新的图像表示算法生成虚拟图像,然后分别对原始图像和虚拟图像使用图像分类算法获得相应的分类误差,最后通过简单高效的误差融合方案得到最终的分类误差。实验结果表明该算法有效地降低了图像分类的错误率。     

基于时空约束和稀疏表示分类的目标跟踪算法

针对经典稀疏分类目标跟踪算法中目标模板和目标基的建模及更新方式效率低,跟踪性能不可靠等问题,提出一种新的目标跟踪算法,解释了时空约束原理,目标基、背景基、时序特征池的创建方法以及选择与抛弃两种基更新机制;该算法采用时序循环更新方式解决模板更新问题,结合稀疏表示分类和标准对冲实时计算目标坐标。相比其他几种经典目标跟踪算法,有效提高了在复杂背景下的目标跟踪性能。     

融合约束采样和面部对齐的稀疏表示人脸识别

针对传统的稀疏表示分类算法中面部对齐受限而影响人脸识别率的问题,提出一种基于约束采样和面部对齐的稀疏表示分类算法。首先通过使用约束采样对训练图像进行预先标注得到固定脸特征;然后结合图像的纹理信息和形状特征进行面部对齐及特征提取;最后计算出测试样本与各个训练样本之间的相似度,利用稀疏表示分类器完成人脸的识别。在AR、CAS-PEAL及扩展YaleB人脸数据库上的实验验证了算法的有效性及鲁棒性。实验结果表明,约束采样和面部对齐的组合大大提高了人脸识别率,相比几种较为先进的鲁棒人脸识别算法,该算法取得了更好的识别效果。     

基于分布结构约束稀疏表示的图像分类方法

为了解决稀疏表示结构信息缺失的问题,从而更加准确地进行图像分类,本文提出一种新的基于结构约束的稀疏表示的图像分类方法。在对图像进行降采样的前提下,提取方向梯度直方图特征后的训练样本上构建稀疏线性编码模型,通过样本间的分布结构信息约束和?1范数最优化求解测试样本的稀疏系数x,利用稀疏系数均值法进行目标的分类识别。基于COREL图像库进行仿真验证,实验证明,基于结构约束稀疏表示的图像分类方法能够获得很好的识别性能,与非结构约束稀疏表示相比本文方法显著提高了图像分类的准确率。     

一种基于GPU的高性能稀疏卷积神经网络优化

卷积神经网络CNN目前作为神经网络的一个重要分支,相比于其他神经网络方法更适合应用于图像特征的学习和表达。随着CNN的不断发展,CNN将面临更多的挑战。CNN参数规模变得越来越大,这使得CNN对计算的需求量变得非常大。因此,目前产生了许多种方式对CNN的规模进行压缩。然而压缩后的CNN模型往往产生了许多稀疏的数据结构,这种稀疏结构会影响CNN在GPU上的性能。为了解决该问题,采用直接稀疏卷积算法,来加速GPU处理稀疏数据。根据其算法特点将卷积运算转换为稀疏向量与稠密向量内积运算,并将其在GPU平台上实现。本文的优化方案充分利用数据稀疏性和网络结构来分配线程进行任务调度,利用数据局部性来管理内存替换,使得在稀疏卷积神经网络SCNN中的GPU仍能够高效地处理卷积层运算。相比cuBLAS的实现,在AlexNet、GoogleNet、ResNet上的性能提升分别达到1.07×~1.23×、1.17×~3.51×、1.32×~5.00×的加速比。相比cuSPARSE的实现,在AlexNet、GoogleNet、ResNet上的性能提升分别达到1.31×～1.42×、1.09×～2.00×、1.07×～3.22×的加速比。     

两层级联卷积神经网络的人脸检测

目的 传统人脸检测方法因人脸多姿态变化和人脸面部特征不完整等问题,导致检测效果不佳。为解决上述问题,提出一种两层级联卷积神经网络（TC_CNN）人脸检测方法。方法 首先,构建两层卷积神经网络模型,利用前端卷积神经网络模型对人脸图像进行特征粗略提取,再利用最大值池化方法对粗提取得到的人脸特征进行降维操作,输出多个疑似人脸窗口;其次,将前端粗提取得到的人脸窗口作为后端卷积神经网络模型的输入进行特征精细提取,并通过池化操作得到新的特征图;最后,通过全连接层判别输出最佳检测窗口,完成人脸检测全过程。结果 实验选取FDDB人脸检测数据集中包含人脸多姿态变化以及人脸面部特征信息不完整等情况的图像进行测试,TC_CNN方法人脸检测率达到96.39%,误检率低至3.78%,相比当前流行方法在保证算法效率的同时检测率均有提高。结论 两层级联卷积神经网络人脸检测方法能够在人脸多姿态变化和面部特征信息不完整等情况下实现精准检测,保证较高的检测率,有效降低误检率,方法具有较好的鲁棒性和泛化能力。     

卷积神经网络的人脸隐私保护识别

目的 近年来，随着人脸识别认证技术的发展及逐渐普及，大量人脸照片存放在第三方服务器上的现象十分普遍，如何对人脸进行隐私保护这个问题变得十分突出。方法 首先对人脸图像进行预处理，然后采用Arnold变换对人脸关键部位进行分块随机置乱，并将置乱结果图输入到深度卷积神经网络中。为了解决人脸照片在分块置乱时由于本身拍照角度的原因导致的分块不均等因素，在预处理时根据人眼进行特性点定位，再据此进行对齐处理，使得预处理后的照片人眼处于同一水平线。针对人脸隐私保护及加扰置乱后图像的识别，本文提出了基于分块随机加扰的深度卷积神经网络模型。不包含附加层，该模型网络结构由4个卷积层、3个池化层、1个全连接层和1个softmax回归层组成。服务器端通过深度神经网络模型直接对置乱后人脸图像进行验证识别。结果 该算法使服务器端全程不存储原始人脸模板，实现了对原始人脸图像的有效加扰保护。实验采用该T深度卷积神经网络对处理过后的ORL人脸库进行识别，最终识别准确率达到97.62%。同时通过多组对比实验，验证了本文方法的有效性。结论 与其他文献中手工提取特征并利用决策树和随机森林进行训练识别的方法相比，本文方法减少了人工提取特征的工作量，且具有高识别率。     

一种多尺度卷积神经网络的人脸检测模型

卷积神经网络在检测不同尺度的人脸时所需要的计算量很大,检测过程由多个分离的步骤组成,过于复杂。针对这两方面的不足,提出一种多尺度卷积神经网络模型。根据卷积神经网络各个层具有大小不同的感受野,从不同层提取多个尺度的特征向量分别进行人脸分类与回归,并将网络的全连接层改成卷积层,以适应不同大小的图片输入。该方法将人脸检测的多个步骤集成到一个卷积神经网络中,降低了模型复杂度。实验结果表明,相同测试条件下,所提方法相比其他人脸检测模型在准确率和检测速度上均有显著提升。     

基于Winograd稀疏算法的卷积神经网络加速器设计与研究

随着卷积神经网络得到愈加广泛的应用,针对其复杂运算的定制硬件加速器得到越来越多的重视与研究。但是,目前定制硬件加速器多采用传统的卷积算法,并且缺乏对神经网络稀疏性的支持,从而丧失了进一步改进硬件,提升硬件性能的空间。重新设计一款卷积神经网络加速器,该加速器基于Winograd稀疏算法,该算法被证明有效降低了卷积神经网络的计算复杂性,并可以很好地适应稀疏神经网络。通过硬件实现该算法,本文的设计可以在减少硬件资源的同时,获得相当大的计算效率。实验表明,相比于传统算法,该加速器设计方案将运算速度提升了近4.15倍;从乘法器利用率的角度出发,相比现有的其他方案,该方案将利用率最多提高了近9倍。     

预训练卷积神经网络模型微调的行人重识别

针对行人重识别中传统的人工提取的行人浅层特征因受摄像机角度、光照等外界环境的影响,鲁棒性不好,收敛速度慢的问题,研究使用预训练卷积神经网络模型在行人数据库上进行微调的方法,对行人图片进行特征提取,从而得到高维的深层行人特征,最后通过欧氏距离进行相似性的度量。实验结果证明,深层的行人特征在平均准确度评估标准上,相比于传统的人工设计特征,分别得到了9.51%、11.12%、16.63%、16.96%的提高,收敛速度也变得更快,说明深层特征的行人识别能力更强。     

基于混合卷积神经网络和循环神经网络的入侵检测模型

针对电力信息网络中的高级持续性威胁问题,提出一种基于混合卷积神经网络（CNN）和循环神经网络（RNN）的入侵检测模型。该模型根据网络数据流量的统计特征对当前网络状态进行分类。首先,获取日志文件中网络流量的各统计值,进行特征编码、归一化等预处理工作;然后,通过深度卷积神经网络中可变卷积核提取不同主机入侵流量之间空间相关特征;最后,将已经处理好的包含空间相关特征的数据在时间上错开排列,利用深度循环神经网络挖掘入侵流量的时间相关特征。实验结果表明,该模型相对于传统的机器学习模型在曲线下方的面积（AUC）上提升了7.5%~14.0%,同时误报率降低了83.7%~52.7%。所提模型能准确地识别网络流量的类别,大幅降低误报率。     

卷积神经网络的多字体汉字识别

目的 多字体的汉字识别在中文自动处理及智能输入等方面具有广阔的应用前景,是模式识别领域的一个重要课题。近年来,随着深度学习新技术的出现,基于深度卷积神经网络的汉字识别在方法和性能上得到了突破性的进展。然而现有方法存在样本需求量大、训练时间长、调参难度大等问题,针对大类别的汉字识别很难达到最佳效果。方法 针对无遮挡的印刷及手写体汉字图像,提出了一种端对端的深度卷积神经网络模型。不考虑附加层,该网络主要由3个卷积层、2个池化层、1个全连接层和一个Softmax回归层组成。为解决样本量不足的问题,提出了综合运用波纹扭曲、平移、旋转、缩放的数据扩增方法。为了解决深度神经网络参数调整难度大、训练时间长的问题,提出了对样本进行批标准化以及采用多种优化方法相结合精调网络等策略。结果 实验采用该深度模型对国标一级3 755类汉字进行识别,最终识别准确率达到98.336%。同时通过多组对比实验,验证了所提出的各种方法对改善模型最终效果的贡献。其中使用数据扩增、使用混合优化方法和使用批标准化后模型对测试样本的识别率分别提高了8.0%、0.3%和1.4%。结论 与其他文献中利用手工提取特征结合卷积神经网络的方法相比,减少了人工提取特征的工作量;与经典卷积神经网络相比,该网络特征提取能力更强,识别率更高,训练时间更短。     

采用卷积神经网络的低风险可行地貌分类方法

针对现有识别方法中风险地貌误判率高、手动地貌特征提取具有局限性等问题, 提出了用于室外移动机器 人的低风险地貌识别策略. 该策略以降低移动机器人遇险率为高优先级目标, 采用双重验证策略, 首先采用多分类 器对所有地貌进行识别, 其后使用二分类器对多分类结果中的安全地貌再次鉴别. 基于该策略, 分别设计了2个卷积 神经网络(CNN), Terrain–CNNⅠ用于多分类识别, Terrain–CNNⅡ则用于二分类安全确认. 为解决地貌样本相对稀缺 问题, 收集了包含水面、草地、泥地、柏油路、沙地、碎石路共6类地貌图像, 通过数据增强方式快速扩充数据集用于 网络的训练与测试. 实验结果表明: 所述方法在维持整体地貌识别率很高的前提下, 显著降低了关键危险地貌的误 判率.     

Taylor-AMS features and deep convolutional neural network for converting nonaudible murmur to normal speech

Communication becomes effective when the speech signal arrives with the profound characteristics. This insisted the researchers to develop an automatic system of recognizing the speech signals from the murmurs. Some of the traditional automatic recognition systems are unfit for the silent environments imposing a need for an effective recognition system. Also, the traditional automatic recognition methods, like Neural Networks, render poor performance in the presence of the murmurs. Thus, this article proposes a method for automatic whisper recognition using the Deep Convolutional Neural Network (DCNN). The training of the DCNN is performed using the proposed Stochastic-Whale Optimization Algorithm (Stochastic-WOA), which is designed by the integration of Stochastic Gradient Descent algorithm with WOA. The input to the classifier is the features that include pitch chroma, spectral centroid, spectral skewness, and Taylor-Amplitude Modulation Spectrogram (Taylor-AMS), which is obtained by combining Taylor series and Amplitude Modulation Spectrogram (AMS) features, of the preprocessed input speech signal. The experimentation of the method is performed using the real database and the analysis proves that the proposed method acquired a maximal accuracy of 0.9723, minimal False Positive Rate of 0.0257, and maximal True Positive Rate of 0.9981, respectively.