堆栈式混合自编码器的人脸表情识别方法

针对进一步提高人脸表情识别率的问题,采用了一种基于深度学习的堆栈式混合自编码器（Stacked Hybrid Auto-Encoder,SHAE）的人脸表情识别方法。该方法的结构是由去噪自编码器（Denoising Auto-Encoder,DAE）、稀疏自编码器（Sparse Auto-Encoder,SAE）以及自编码器（Auto-Encoder,AE）组合而成的5层网络结构。为了增加网络的鲁棒性以及泛化能力,采用去噪自编码器对样本进行提取特征,为了对提取的特征进行降维以及进一步提取更抽象的稀疏特征,采用稀疏自编码器进行级联,来对特征进一步处理。训练过程首先由无标签的数据进行预训练和整体微调,对整个结构的权重进行初始化和更新调整,然后使用有标签的数据进行测试训练。在JAFFE和CK+两个数据集上实验显示,相较于单纯的堆栈式去噪自编码或者单纯的堆栈式稀疏自编码,该方法具有更好的识别效果。     

融合知识图谱表示学习的栈式自编码器推荐算法

针对目前协同过滤推荐算法中数据稀疏和语义信息欠缺问题,提出一种融合知识图谱表示学习的栈式自编码器推荐算法(SAEKG-CF)。将评分矩阵作为栈式自编码器的输入,训练得到项目的隐性特征向量,并据此计算特征相似性矩阵;利用知识图谱表示学习算法将项目中的实体映射到低维向量空间,并计算出低维向量空间中实体间的语义相似性矩阵;将特征相似性矩阵与语义相似性矩阵相融合,得到融合相似性矩阵,进而依据最优融合相似性矩阵产生top-k推荐列表。实验结果表明,该算法能有效地同时解决数据稀疏与语义信息欠缺问题,提高推荐的准确率。     

基于改进的稀疏去噪自编码器的入侵检测

针对传统浅层的入侵检测方法无法有效解决高维网络入侵数据的问题,提出了一种基于堆叠稀疏去噪自编码器（SSDA）的入侵检测方法。首先,利用SSDA对入侵数据进行降维操作;然后,将高度抽象后的低维数据作为输入,利用softmax分类器进行入侵检测;最后,又在SSDA方法的基础之上提出了一种改进模型（ISSDA）,即在传统稀疏去噪自编码器的基础上增加新的约束条件,以此来提高深度网络对原始入侵数据的解码能力以及模型的入侵检测性能。实验结果证明,ISSDA方法与SSDA方法相比,对4种类型的攻击的检测准确率提高了将近5%,也有效地降低了误报率。     

基于栈式降噪自编码器的协同过滤算法*

针对协同过滤推荐准确性的现状进行了研究,提出一种基于栈式降噪自编码器的协同过滤算法。栈式降噪自编码器是一种典型的深度学习网络模型,具有强大的特征提取能力。用户对项目的评分作为输入,训练网络,学习出项目的隐含特征编码,用PCA对项目属性降维并计算属性相似性,结合隐性编码计算的相似性作为最终结果,根据最终的项目相似性产生TOP-N推荐列表。Movielens数据集的实验表明,新算法能够有效提升推荐结果的召回率,一定程度上解决了评分矩阵稀疏和项目之间没有共同用户评分就不能计算相似性的问题。     

基于栈式去噪自动编码器的边际Fisher分析算法

特征学习是模式识别领域的关键问题。基于自动编码器的深度神经网络通过无监督预训练与有监督微调能够有效地提取数据中关键信息,形成特征。提出一种基于栈式去噪自编码器的边际Fisher分析算法,该算法将边际Fisher分析运用于有监督微调阶段,进一步提升算法的特征学习能力。实验结果表明,该算法与标准的栈式去噪自编码器和基于受限玻尔兹曼机的深度信念网相比,具有更好的识别效果。     

结合栈式监督AE与可变加权ELM的回归预测模型

在现代工业生产过程中,许多关键变量与产品质量或生产效率密切相关,关键变量的实时监测是实现利润最大化及节能降耗的有效途径。针对回归预测任务中目标特征提取不全面、预测精度较低等问题,提出一种基于栈式监督自编码器与可变加权极限学习机的回归预测模型。通过堆叠多层自编码器并在每层自编码器中添加回归网络,同时以有监督方式对栈式自编码器（SAE）进行逐层预训练,得到与输出变量相关的特征表示。利用反向传播算法对网络参数进行微调,优化自编码器模型参数。在分析提取特征与输出变量的相关性基础上,对极限学习机（ELM）的输入权值和偏置进行加权得到预测结果。实验结果表明,与基于ELM和SAE-ELM的回归预测模型相比,该模型在多晶硅铸锭的G6产品数据集上的均方根误差降低0.056 7和0.011 2、决定系数提高0.489 3和0.290 3,具有更高的回归预测准确性及更强的鲁棒性与泛化性能。     

基于稀疏降噪自编码器的深度置信网络

传统的深度置信网络（DBN）采用随机初始化受限玻尔兹曼机（RBM）的权值和偏置的方法初始化网络。虽然这在一定程度上克服了由BP算法带来的易陷入局部最优和训练时间长的问题,但随机初始化仍然会导致网络重构和原始输入的较大差别,这使得网络无论在准确率还是学习效率上都无法得到进一步提升。针对以上问题,提出一种基于稀疏降噪自编码器（SDAE）的深度网络模型,其核心是稀疏降噪自编码器对数据的特征提取。首先,训练稀疏降噪自编码;然后,用训练后得到的权值和偏置来初始化深度置信网络;最后,训练深度置信网络。在Poker Hand 纸牌游戏数据集和MNIST、USPS手写数据集上测试模型性能,在Poker Hand数据集下,方法的误差率比传统的深度置信网络降低46.4%,准确率和召回率依次提升15.56%和14.12%。实验结果表明,所提方法能有效地改善模型性能。     

基于改进栈式自编码器的风电机组发电机健康评估

风电机组发电机具有结构复杂、维修困难的特点,为对其进行健康评估,结合去噪自编码器与稀疏自编码器的特点,对传统栈式自编码器模型进行改进,利用模型的重构误差监测风电机组发电机的运行状态。将经离线测试得到的重构误差与在线监测得到的重构误差进行分布差异性比对,通过融合3种差异指标得到风电机组发电机的健康度。利用河北某风场实际数据对健康评估模型进行训练测试,通过实例分析证明该模型能够有效跟踪风电机组发电机的状态变化,具有故障早期识别的作用。     

基于改进型SDA的自然图像分类与检索

将堆叠去噪编码器应用于图像识别中,并针对自然图像检索领域,使用卷积自动编码器改进堆叠去噪编码器,采用非监督贪婪逐层训练算法初始化网络权重,使用反向传播算法优化网络参数.利用改进的堆叠去噪编码器提取自然图像特征,使用softmax分类器分类.最后将提取的特征结合尺度不变特征转换技术实现图像检索.实验证明改进型堆叠去噪编码器大幅降低网络训练时长的同时增强网络的容错能力,提高分类器的分类精度,最终改善图像的检索效果.     

基于动态学习率深度神经网络的抗干扰信道编码算法

针对电子战条件下,通信信号易受压制干扰的问题,提出了一种基于动态学习率深度自编码器（dynamic learning rate deep AutoEncoder,DLr-DAE）的信道编码算法来提高系统抗压制干扰性能。首先对输入未编码信号进行预处理,将原始输入信号转换为单热矢量,随后使用训练数据样本集,用非监督学习方法训练深度自编码器,基于随机梯度下降法（SGD）更新网络参数,利用指数衰减函数,在迭代次数和网络损失函数值变化过程中动态微调学习率,减少网络迭代循环次数,避免收敛结果陷入局部最优点,从而获得面向电子战环境的信道编码深度学习网络。仿真结果表明,相比现有深度学习编码算法,该算法在取得同等误码率时,抗噪声压制干扰性能最大可提升0.74 dB。     

基于近似U型网络结构的图像去噪模型

针对图像去噪中的去噪效果差、训练周期长的问题,提出一种基于近似U型网络结构的图像去噪模型。首先,使用不同步长的卷积层将原有的线性网络结构修改为近似U型的网络结构;然后,将不同感受野的图像信息叠加以尽可能地保留图像的原有信息;最后,引入反卷积网络层进行图像恢复和噪声的进一步去除。在Set12与BSD68测试集上与去噪卷积神经网络（DnCNN）模型相比,所提模型的峰值信噪比（PSNR）平均提升了0.04~0.14 dB,训练时长平均缩短了41%。实验结果表明,所提模型具有更好地去噪效果和更短的训练时长。     

OMP信号稀疏分解的改进ACFOA实现

稀疏分解能用少数原子表示原始信号,但运算复杂是阻碍其实际应用的一个重要原因。果蝇优化算法（FOA）能有效地提高稀疏分解中原子的搜索效率,但其易于陷入局部最优。自适应混沌果蝇优化算法（ACFOA）能够针对局部最优进行混沌操作,提高全局寻优性能。正交匹配追踪（OMP）通过对已选原子的正交化,能够增加稀疏分解的收敛速度,但计算复杂度却有所增加。因此,利用智能算法的并行性,将ACFOA应用于OMP,并对其味道浓度判定值和混沌映射函数进行改进,以降低整个算法的复杂度,提升最优原子的搜索性能。实验结果表明,相比于其他几种算法,改进的ACFOA-OMP算法重建信号均方误差是最佳的。     

Lipschitz指数与平稳小波变换在CT图像去噪中的应用

针对CT切片图像噪声特点以及应用需求,提出了基于Lipschitz指数和平稳小波的CT图像去噪算法。利用改进的中值滤波器滤除图像的脉冲噪声,然后根据图像阶梯边缘的Lipschitz指数与小波系数之间的关系,在更好地保护图像边缘细节的前提下,利用平稳小波变换的阈值去噪方法滤除高斯噪声。实验结果表明,该方法无论是在视觉效果上,还是在最小均方差意义和信噪比增益上,以及保护图像边缘细节上都有很大提高。     

基于小波包分解的整体变分去噪算法

由Rudin等人提出的整体变分（TV）模型被认为是目前最好的图像去噪模型之一。理论表明,TV模型对分块常量的图像去噪效果显著。对于纹理细节丰富的图像,通过引入小波包分解技术,对图像的纹理细节进行多层小波包分解,得到一系列近似分块常量的子图像,用TV模型对子图像分别进行处理,从而图像的纹理细节得到了更好的保留。相对于单独使用TV模型去噪,该方法得到的复原图像峰值信噪比（PSNR）提高了1 dB左右。同时由于采用改进的Bregman迭代方案求解TV模型,算法收敛时间得到了极大的减少。     

用于低剂量CT降噪的伪影感知生成对抗网络

近年来,生成对抗网络（GAN）用于低剂量CT（LDCT）伪影抑制表现出一定性能优势,已成为该领域新的研究热点。由于伪影分布不规律且与正常组织位置息息相关,现有GAN网络的降噪性能受限。针对上述问题,提出了一种基于伪影感知GAN的LDCT降噪算法。首先,设计了伪影方向感知生成器,该生成器在U型残差编解码结构的基础上增加了伪影方向感知子模块（ADSS）,从而提高生成器对伪影方向特征的敏感度;其次,设计了注意力判别器（AttD）来提高对噪声伪影的鉴别能力;最后,设计了与网络功能相对应的损失函数,通过多种损失函数协同作用来提高网络的降噪性能。实验结果表明,与高频敏感GAN（HFSGAN）相比,该降噪算法的平均峰值信噪比（PSNR）和结构相似度（SSIM）分别提升了4.9%和2.8%,伪影抑制效果良好。     

2-Adic MRA的浮点数编码遗传算法

通过2-Adic多分辨率分析,构造正交小波基;证明所构造正交小波用于浮点数编码消噪的正确性;提出用正交小波在浮点数编码遗传算法中进行消噪变异操作,以消除浮点数编码在遗传环境中所产生的噪音对算法性能的影响;构建基于2-Adic多分辨率分析的遗传算法,并进行了实验。仿真实验表明,提出的算法可明显提高浮点数编码遗传算法的收敛速度和精度,具有较高的可靠性。     

基于自动编码器组合的深度学习优化方法

为了提高自动编码器算法的学习精度,更进一步降低分类任务的分类错误率,提出一种组合稀疏自动编码器(SAE)和边缘降噪自动编码器(mDAE)从而形成稀疏边缘降噪自动编码器(SmDAE)的方法,将稀疏自动编码器和边缘降噪自动编码器的限制条件加载到一个自动编码器(AE)之上,使得这个自动编码器同时具有稀疏自动编码器的稀疏性约束条件和边缘降噪自动编码器的边缘降噪约束条件,提高自动编码器算法的学习能力。实验表明,稀疏边缘降噪自动编码器在多个分类任务上的学习精度都高于稀疏自动编码器和边缘降噪自动编码器的分类效果;与卷积神经网络(CNN)的对比实验也表明融入了边缘降噪限制条件,而且更加鲁棒的SmDAE模型的分类精度比CNN还要好。     

基于时空优化深度神经网络的AQI等级预测

针对现有空气质量预测方法精度偏低、对噪声敏感等问题,提出一种基于堆栈降噪自编码（Stacked Denoising Auto-Encoders,SDAE）模型的空气质量等级预测方法。首先以武汉市历史空气质量和气象监测数据为研究对象,建立SDAE模型逐层学习原始数据的特征表达,并将最后一层特征与分类器连接完成预测模型的调优。同时改进多参数网格搜索法,选取了最优的超参数组合。然后在测试集上进行预测,并用预测值与实际值之间的平均绝对误差和均方误差等指标作为预测性能评价标准。通过与其他网络模型的实验对比,证明了SDAE模型对于空气质量等级具有较优的预测性能。最后从时间、空间、时空三个角度对该模型输入进行优化,实验结果表明基于空间优化的SDAE模型预测性能提升最为明显,能够得到比传统方法更加精确的预测结果。