嵌入注意力机制模型的人脸表情迁移学习方法

人脸表情识别中,利用深度网络进行训练时,往往需要大量的训练数据而且实际应用中常常缺少标签数据,域适应人脸表情迁移学习是一个重要的研究课题。现有基于域适应的人脸表情识别大多采用浅层网络、深度学习网络方法,因此提出了将条件对抗域适应方法应用于人脸表情迁移学习,以及应用熵函数保证分类器预测的不确定人脸表情图像的可迁移性,并通过嵌入注意力机制模型来改进深度学习网络对人脸表情图像的特征提取。实验表明,通过注意力机制模型改进的条件生成对抗网络能有效地提高实验室控制和现实生活中的人脸表情数据识别的准确率。     

改进的VGG网络的二极管玻壳图像缺陷检测

针对于目前二极管玻壳缺陷检测中大多采用人工特征提取,识别准确率不高的问 题,提出一种改进的 VGG 网络的二极管玻壳图像缺陷检测方法。首先对玻壳图像进行预处理, 同时利用原始大样本数据集对卷积神经网络结构 VGG-19 模型进行预训练得到预训练模型,然 后通过迁移学习的方法将预训练模型中的部分卷积、池化等层权重参数迁移到改进网络模型的 固定层中,非固定层用于模型改进,并将网络的全连接层结构重新进行超参数设置和优化,最 后使用预处理后的玻壳图像数据集对改进模型进行训练,得到非固定卷积层和新的全连接层的 参数和权重。在二极管玻壳数据集进行测试,实验结果表明,该方法能有效提高二极管玻壳图 像分类识别准确率,达到了 98.3%。     

使用改进自编码器的细粒度图像分类研究

针对深度连续聚类算法(Deep Continuous Clustering, DCC)特征提取能力有限,对复杂图像不能提取足够有效细节特征的不足,本文提出一个新的循环卷积自编码器(Recurrent Convolutional Auto-Encoder, R-CAE).自编码器结合门控循环网络GRU和卷积网络CNN构造编码层;同时在门控循环网络GRU部分添加空间域注意力通道,增强网络的特征学习能力.图像信息经过R-CAE自编码器编码后获取细节信息,传入经典卷积神经网络学习特征;当优化结果接近或者达到聚类阈值的时候,获得最终的聚类结果实现分类.训练过程中,模型首先预训练,确定自编码器参数;然后结合编码部分和经典网络学习训练,微调网络参数.本文通过实验证明了改进方法结合DCC在聚类实验中优于大部分经典聚类算法,在针对真实图像的细粒度分类实验中也有显著的进步.     

多尺度特征融合的二维编码图像识别

为实现二维编码同时适合机器和人的识读,提出了一种二维编码图像结合的新型二维图像编码技术,并针对该二维编码图像无定位标识的特点,采用目标识别的算法进行识别,同时改进了SSD（Single Shot Multibox Detector）算法使其适用于此类目标识别。该算法针对小目标的识别特点,去掉了原有的空洞卷积层以及选择了浅层的图层进行特征融合,达到了准确识别二维编码图像的效果。此外搭建了基于GTX1080型号的GPU、Ubantu Linux和TensorFlow的深度学习平台,提出了一种网络学习和验证方法,该方法通过电脑生成相应的数据集来训练网络,并采用合成的数据集和真实图片分别对网络进行验证和测试。测试结果表明,该方法训练的网络对具有良好拍照条件的真实图片的编码识别准确率达到100%。     

基于PolyLoss的StarGAN图像样本自生长研究

在深度学习模型训练中,提高输入样本数量能够有效解决样本不均衡和训练过拟合问题。为更好地处理数据集的小样本场景,提出了一种基于PolyLoss的StarGAN小样本图像增强方法（PolyStarGAN）。相比传统样本增强方法,该网络具有更高的样本学习、生成能力。该方法使用训练生成器和判别器提取图像的特征信息,生成图像与输入图像的内容和结构一致。通过计算峰值信噪比、结构相似性与视觉信息保真度3个方面评估PolyStarGAN网络生成结果;在ResNet50目标识别模型训练中验证数据集质量。实验结果表明,提出的模型对不同场景图像的增强效果较好,提高了自生长数据集的ResNet50模型识别精度,可为样本自生长中的小样本问题提供参考方案与技术支持。     

基于非监督学习神经网络的自动调制识别研究与实现

以非监督学习神经网络为主要研究对象,描述自组织网络的基本模型,分析传统自组织网络的训练算法,提出了一种基于自组织特征映射SOFM(Self-Organizing Feature Map)神经网络的通信信号自动调制识别方法。方法改进了训练算法中的学习率函数和邻域函数,提高了算法的收敛速度和性能,并将其应用在通信信号调制识别中。仿真实验检验基于SOFM神经网络的调制识别方法的性能,并与后向反馈(BP)神经网络加以比较,结果表明SOFM神经网络的调制识别方法具有较高的识别精度,改进后的训练算法提高了识别的有效性。     

基于LDA图像场景分类方法的增量学习研究

现有场景分类方法只能识别原训练学习的图像类,对于新增图像类的识别任务,需要将其与原训练类合并后重新训练模型.在LDA(Latent Dirichlet Allocation)的基础上提出一种改进方法来训练生成模型,用于实现自然图像场景分类.根据狄雷克里参数的伪计数作用,改进了LDA模型学习方法.以训练图像的通用主题先验参数作为各类场景主题分布预设先验参数,推导各类场景的类主题构成变化,同时改善了EM参数推导过程中的慢收敛问题,实现了模型增量学习,有效地提高了模型的泛化能力.通过模型计算复杂度比较和增量学习实验对本文方法进行了验证,实验证明本文方法能以较低的时间复杂度取得较高的分类平均正确率.     

基于空间通道挤压激励模块的肝硬化识别

针对卷积神经网络对特征信息学习不全面、识别准确率和分类精度不高的问题,提出一种采用空间通道挤压激励模块的scSE_MVGG网络,将其应用于肝硬化识别。对肝硬化图像进行数据增强,以避免深度学习训练出现过拟合现象,改进VGG网络使其适应不同实验样本尺寸,同时将scSE模块与改进的MVGG网络相融合,通过提高网络提取特征的指向性增强肝硬化识别效果。实验结果表明,该网络对肝硬化图像的识别率达到98.78%,较scSE_VGG、scSE_AlexNet等网络识别效果更优。     

晶圆表面缺陷模式识别的二维主成分分析卷积自编码器

由于半导体制造过程的高度复杂性和动态性,各种过程故障通常导致晶圆表面出现各种缺陷模式.为了有效地识别晶圆表面缺陷模式从而及时地诊断和控制故障源,提出一种深度神经网络模型--二维主成分分析卷积自编码器(two-dimensional principal component analysis-based convolutional autoencoder, PCACAE).首先,提出一种基于改进的二维主成分分析算法(conditional2DPCA,C2DPCA)的图像卷积核,形成PCACAE的第1个卷积层;其次,对卷积输出进行池化操作并卷积编码重构,构建一个卷积编码器,并提取其编码部分作为PCACAE的第2层卷积层的初始化权值,从而形成一个深度网络模型,实现晶圆图像的特征学习;最后, PCACAE网络进行训练微调得到最终网络模型.将PCACAE应用于WM-811K晶圆图像数据库并与其他算法进行对比测试,实验结果表明, PCACAE在晶圆表面缺陷识别上的性能优于其他经典的卷积神经网络模型(如GoogLeNet,DensNet等),从而验证了该方法的有效性与工业可应用性.     

孪生神经网络交通标志编码识别算法

交通标志识别技术正在被逐步应用到汽车辅助驾驶领域。但是，遮挡、污损、天气环境变化等因素会严重影响交通标志识别的准确性和稳定性。针对该问题，提出了一种基于孪生神经网络的交通标志编码识别模型。该模型将交通标志的识别问题视为交通标志的卷积特征编码识别问题。通过卷积神经网络对交通标志训练样本和基准样本进行特征提取与编码。再利用孪生神经网络进行编码对比，结合对比损失函数对编码器训练调整。通过全连接层对输入通路的标志卷积编码进行重新组合与分类，从而实现交通标识的识别。实验结果表明，所提的基于改进孪生神经网络的编码器模型对存在运动模糊与遮挡的标志图像能生成有效、鲁棒的特征编码，相较于其他先进算法，具有更高的识别准确率。     

无线通信网络安全态势识别方法研究

当前,网络安全态势识别方法只能获取网络层的安全态势感知要素,导致无线通信网络安全态势识别误差偏大。对此,提出基于深度自编码网络的无线通信网络安全态势识别方法。引入受限玻尔兹曼机逐层训练深度自编码网络,利用深度自编码网络前向传播的方式,提取服务、主机、网络三层的安全态势感知要素。在此基础上,将网络态势分为环境、威胁、资产三个因子,通过三方博弈方法计算三个因子效益,得到网络安全态势值,以此实现无线通信网络安全态势识别。试验结果表明,研究方法绝对误差平均值与试验对比方法相比分别小0.112和0.106,识别精度更高。该方法的实际应用效果更好,可以满足无线通信网络安全态势识别需求。     

Deep feedback GMDH-type neural network and its application to medical image analysis of MRI brain images

The deep feedback group method of data handling (GMDH)-type neural network is applied to the medical image analysis of MRI brain images. In this algorithm, the complexity of the neural network is increased gradually using the feedback loop calculations. The deep neural network architecture is automatically organized so as to fit the complexity of the medical images using the prediction error criterion defined as Akaike’s information criterion (AIC) or prediction sum of squares (PSS). The recognition results show that the deep feedback GMDH-type neural network algorithm is useful for the medical image analysis of MRI brain images, because the optimum neural network architectures fitting the complexity of the medical images are automatically organized so as to minimize the prediction error criterion defined as AIC or PSS.     

受损图片分类的双并行交叉降噪卷积神经网络

应对大量受干扰图像的分类问题,提出了一种双并行交叉降噪卷积模型,该模型由两部分并行交叉网络结构组成,分别对应改进的自编码方式和并行交叉卷积神经网络,同时在该模型训练的过程中,使用批量正则化和改进激活函数的方法。经实验验证,与同类模型相比,该模型首先具有降噪能力强、鲁棒性好、泛化能力强和准确率高的特点,其次避免过拟合,加快收敛速度。在图片不同程度受损的情况下,它也可较好地完成图像目标识别分类任务。     

一种基于先验信息的脑功能网络提取方法*

目的 脑功能网络的提取在脑科学研究中具有重要意义,本文提出一种基于先验信息的脑功能网络提取方法。方法该方法首先基于先验信息得到初始的目标和背景种子点,然后基于图论将整个脑图像构建图,最后利用半监督聚类技术提取脑功能网络。基于不同信噪比的模拟数据,本文对提出方法、基于种子点的方法、独立成分分析方法、以及两种聚类方法（归一化最小化割和K均值方法）进行比较。基于真实脑静息态功能核磁共振数据,本文使用提出方法对默认模式网络进行提取。结果 基于模拟数据的实验结果表明提出算法相对于传统的方法可以得到更为准确且鲁棒的脑功能网络。基于静息态功能核磁共振数据得到的默认模式网络在一些重要脑区具有高的稳定性,且不同地点采集数据得到的结果具有较强的一致性。结论 提出方法是一种有效的脑功能网络提取方法。     

Feedback GMDH-type neural network algorithm and its application to medical image analysis of cancer of the liver

A revised group method of data handling (GMDH)-type neural network algorithm for medical image recognition is proposed, and is applied to medical image analysis of cancer of the liver. The revised GMDH-type neural network algorithm has a feedback loop and can identify the characteristics of the medical images accurately using feedback-loop calculations. In this algorithm, the polynomial type and the radial basis function (RBF)-type neurons are used for organizing the neural network architecture. The optimum neural network architecture fitting the complexity of the medical images is automatically organized so as to minimize the prediction error criterion, defined as the prediction sum of squares (PSS).     

结合感知损失与双重对抗网络的低剂量CT图像去噪

低剂量计算机断层扫描（LDCT）成像技术在医学诊断中得到广泛应用,但其斑纹噪声和非平稳条纹伪影复杂,目前多数算法仅依靠推断条件后验概率来实现图像去噪,无法应对LDCT图像噪声复杂、数据量少、先验知识缺乏的问题。提出一种结合感知损失的双重对抗网络去噪算法,以实现LDCT图像复原。该算法包含一个去噪器和一个生成器,分别从图像去噪和噪声生成2个角度来建模干净-噪声图像对的联合分布,通过联合学习使得去噪器和生成器相互指导,从而充分学习数据中的噪声信息和清晰图像信息,且学习到的去噪器可以直接用于LDCT图像修复。考虑到通过感知损失学习语义特征差异可以使去噪结果保留更多的细节和边缘信息,提出一种掩膜自监督方法,针对CT图像域训练一个语义特征提取网络用于计算感知损失。实验结果表明,与BM3D、RED-CNN、WGAN-VGG等主流去噪算法相比,该算法可以有效抑制噪声并去除伪影,最大程度地保留边缘轮廓和纹理细节,产生更符合人眼视觉特性的去噪效果,与当下LDCT图像去噪性能较好的SACNN算法相比,所提算法的PSNR和SSIM指标分别提升1.26 dB和1.8%。     

基于神经网络空时特征提取的动态手势识别

针对现有的动态手势识别3D卷积方法计算参数量大和对2D卷积长时间序列的空时特征难以提取的问题,提出一种基于2D卷积神经网络和长短期记忆网络相结合的提取时空域特征的动态手势识别方法。首先基于2D卷积神经网络提取空域特征,再通过长短期记忆网络进行序列图像时序上的相互关联提取时间维度上的信息。为验证算法的有效性,使用自采集的7种动态手势动作和IsoGD公开数据集对本文所提算法进行验证。实验结果表明,在线增强算法下实验在自采集的动态手势集上的识别率达到87.14%。在IsoGD公开数据集上的识别率达到57.89%,相对于现有的其他方法有所提升。     

分水岭优化的C-V模型脑肿瘤图像分割

C-V模型可有效对脑肿瘤等医学图像进行分割,但存在对初始轮廓位置敏感及重新初始化耗时的问题,为此,提出了一种分水岭优化的C-V模型脑肿瘤分割方法。首先引入标记函数,通过强制最小技术改善传统分水岭变换的过分割现象,得到粗分割结果,然后在粗分割基础上确定C-V模型初始轮廓位置,最后采用无需重新初始化的C-V模型进行细分割,得到较精确的脑肿瘤分割结果。实例结果表明,经过分水岭优化后的C-V模型能够对常见脑肿瘤图像进行有效分割,尤其是能够将与组织粘连的肿瘤分割出来。     

Supervised self-coding in multilayered feedforward networks

Supervised neural-network learning algorithms have proven very successful at solving a variety of learning problems. However, they suffer from a common problem of requiring explicit output labels. This requirement makes such algorithms implausible as biological models. In this paper, it is shown that pattern classification can be achieved, in a multilayered feedforward neural network, without requiring explicit output labels, by a process of supervised self-coding. The class projection is achieved by optimizing appropriate within-class uniformity, and between-class discernability criteria. The mapping function and the class labels are developed together, iteratively using the derived self-coding backpropagation algorithm. The ability of the self-coding network to generalize on unseen data is also experimentally evaluated on real data sets, and compares favorably with the traditional labeled supervision with neural networks. However, interesting features emerge out of the proposed self-coding supervision, which are absent in conventional approaches. The further implications of supervised self-coding with neural networks are also discussed.     

基于密集卷积神经网络的遥感飞机识别

传统的飞机识别方法受模糊、遮挡、噪声以及光照等多种因素的干扰时会降低识别率,且卷积神经网络主要依赖局部特征,却丢失了轮廓特征等重要的全局结构化特征,从而导致算法对于受干扰飞机图像识别效果不佳。因此,基于密集卷积神经网络提出一种结合局部与全局特征的联合监督识别方法,以密集卷积神经网络为基础得到图像特征,通过结合局部特征（卷积神经网络特征）与全局特征（方向梯度直方图特征）进行分类,分类器目标函数使用softmax损失和中心损失联合监督方法。实验结果表明,局部特征与全局特征的结合使算法更加智能化,且损失函数联合监督方法能够实现图像深层特征的类内聚合、类间分散,该算法能有效解决卷积神经网络对受到多种干扰的遥感图像识别率低的问题。