基于CNN的智慧农场图像分类方法

为解决新疆兵团农业现代化建设中有感知无决策的问题，提出一种基于注意力机制模块（SENet）与卷积神经网络混合模型迁移学习的图像分类方法（TL-DA-SE-CNN）。该方法选择4种不同的CNN模型进行权重采集，包括VGGNet、ResNet、InceptionNet和MobileNet。模型使用SENet分类器代替卷积神经网络的全连接层，提取图像的结构性高阶统计特征进行主题分类，并使用BP算法进行参数调整，分类准确度达98.20%。实验结果表明，将CNN与迁移学习、数据增强和SENet相结合的技术提高了牲畜图像分类的性能，是卷积神经网络在农场自动化分群中的有效应用。     

基于改进的卷积神经网络的中文情感分类

探究了基于卷积神经网络的句子级别的中文文本情感分类,模型以文本经过预处理后得到的词向量作为输入。传统的卷积神经网络是由线性卷积层、池化层和全连接层堆叠起来的,提出以跨通道卷积层替代传统线性卷积滤波器,对基本的卷积神经网络进行改进,提高网络的表达能力。实验表明,改进后的卷积神经网络在保证训练速度的情况下,识别率达到91.89%,优于传统的卷积神经网络,有较好的识别能力。     

基于稀疏正则化的卷积神经网络模型剪枝方法

现有卷积神经网络模型剪枝方法仅依靠自身参数信息难以准确评估参数重要性,容易造成参数误剪且影响网络模型整体性能。提出一种改进的卷积神经网络模型剪枝方法,通过对卷积神经网络模型进行稀疏正则化训练,得到参数较稀疏的深度卷积神经网络模型,并结合卷积层和BN层的稀疏性进行结构化剪枝去除冗余滤波器。在CIFAR-10、CIFAR-100和SVHN数据集上的实验结果表明,该方法能有效压缩网络模型规模并降低计算复杂度,尤其在SVHN数据集上,压缩后的VGG-16网络模型在参数量和浮点运算量分别减少97.3%和91.2%的情况下,图像分类准确率仅损失了0.57个百分点。     

改进DBNet与CRNN的面标识别方法

为解决板坯喷涂面标实时识别问题，构建文本检测和识别模型。改进可微二值化算法网络，引入高效通道注意力模块SENet,进行自适应空间特征融合(ASFF),增强特征金字塔预测多尺度目标的能力。识别模型改进卷积递归神经网络的VGG网络，将卷积与循环神经网络联合训练。实验结果表明，检测模型的精确率、召回率和调和平均值达到93.30%、86.45%、89.85%,提升显著；识别模型平均准确率达到86.01%,精度提升4.99%。模型满足实时与准确性要求。     

一种基于CNN-SE-ELM的年龄和性别识别模型

基于人脸图像识别年龄及性别是当前人工智能研究的热点之一。提出一种综合卷积神经网络CNN、挤压-激励网络SENet及极限学习机ELM的混合模型。模型中的卷积层用于从人脸图像中提取面部特征,SENet层用于优化卷积层提取的特征,误差最小化极限学习机（EM-ELM）用作分类器以实现面部图像的年龄及性别识别。与现有的流行模型相比,所提模型由于采用了CNN+SENet架构能够从面部图像中提取到更具代表性及最优的特征映射,而EM-ELM的极速计算使得模型更快速、更高效。在多个非限制人脸数据集上的实验结果表明, 相比近期其他基于深度学习的相关模型,所提模型具有更高的识别准确率和更快的识别速度。     

基于无监督学习卷积神经网络的振动信号模态参数识别

针对现有的时域模态参数识别方法大多存在难定阶和抗噪性差的问题,提出一种无监督学习的卷积神经网络（CNN）的振动信号模态识别方法。该算法在卷积神经网络的基础上进行改进。首先,将应用于二维图像处理的卷积神经网络改成处理一维信号的卷积神经网络,其中输入层改成待提取模态参数的振动信号集合,中间层改成若干一维卷积层、抽样层,输出层得到的为信号对应的N阶模态参数集合;然后,在误差评估中,对网络计算结果（N阶模态参数集）进行振动信号重构;最后,将重构信号和输入信号之间差的平方和作为网络学习误差,使得网络变成无监督学习网络,避免模态参数提取算法的定阶难题。实验结果表明,当所构建的卷积神经网络应用于模态参数提取时,与随机子空间识别（SSI）算法及其局部线性嵌入（LLE）算法对比,在噪声干扰下,构建的卷积神经网络识别精度要高于SSI算法与LLE算法,具有抗噪声强、避免了定阶难题的优点。     

紧凑型深度卷积神经网络在图像识别中的应用

针对深度卷积神经网络的结构越来越复杂,参数规模过于庞大的问题,设计出一种新的紧凑型卷积神经网络结构Width-MixedNet和其多分支的基本模块Conv-mixed,该架构扩展了卷积神经网络的宽度。Convmixed利用分支结构使多个不同的卷积层处理同一个特征图,提取不同的特征。在深度卷积神经网络的识别任务中,使用多个小型卷积层叠加,逐层缩小特征图的方法代替全连接层进行最后的特征提取。整个Width-MixedNet架构的参数数量只有3.4×10~5,仅有传统深度卷积神经网络的1/30。分别在CIFAR-10、CIFAR-100和MNIST数据集上进行实验,准确率分别达到了93.02%、66.19%和99.59%。实验表明,Width-MixedNet有更强的学习能力和表现能力,在提高识别精度的同时,大大降低了网络的参数规模。     

改进Stacking集成学习的指纹识别算法

针对传统卷积神经网络对多传感器指纹识别泛化能力降低、准确率不高的问题,提出改进的Stacking集成学习算法。首先将AlexNet进行改进,在AlexNet中引入深度可分离卷积减少参数量,加快训练速度;引入空间金字塔池化,提升网络获取全局信息的能力;引入批归一化,加快网络收敛速度,同时提升网络在测试集上的准确率;使用全局平均池化替代全连接层,防止过拟合。然后将DenseNet和改进的AlexNet 2种卷积神经网络作为Stacking的基学习器对指纹进行分类,获得预测结果。最后对相同基学习器训练得到的各个模型,根据预测精度对各预测结果赋权,得到的预测结果再由元分类器分类。改进的Stacking算法在多传感器指纹数据库上进行实验,最终识别准确率达98.43%,相对AlexNet提升了20.05%,相对DenseNet提升了4.25%。     

基于SENet多路网络的乳腺癌转移检测

乳腺癌细胞转移是影响病患预后的重要因素,检查前哨淋巴结病理切片可诊断转移情况。传统病理学医生检查过程冗余费时且极易漏检微转移病灶。目前已有利用卷积神经网络研究乳腺癌前哨淋巴结转移的成果,但准确率不高且对微转移情况检测效果不佳。针对以上问题,基于乳腺癌前哨淋巴结病理图像数据集（PCam）,设计提出了SENet多路卷积神经网络模型。模型使用堆叠多路卷积单元和SENet模块,采用跳跃跨层连接、标准卷积与深度可分离卷积融合、加和与串联操作组合等策略。使用50%的图像迭代训练35次获得模型权重,然后采用准确率与AUC值指标对测试图像进行测试,准确率为97.32%,AUC值为98.05%。对比已有研究成果和主流卷积网络模型,该模型在49%、51%、100%测试集情况下,AUC值均排名第一。结果表明,该模型对淋巴结转移检测准确率较高,且对微转移也有很好的检测性能。     

基于改进CNN-LSTM的网络入侵检测模型研究

针对网络入侵检测模型特征提取算法复杂、训练参数过多、检测结果不理想等问题,提出一种改进卷积神经网络与长短期记忆网络结合的网络入侵检测方法(GCNN-LSTM)。首先,使用卷积神经网络对流量数据做特征选择,并选择全局池化层代替其中的全连接层;其次,结合长短期记忆网络强大的时间序列学习能力对改进卷积神经网络选择后的特征进行学习分类,以期在网络异常数据检测方面获得更好的效率和准确率。实验结果表明,提出的模型在UNSW-NB15数据集上有着较好的检测效果。在同等条件下,使用传统卷积神经网络的模型准确率为84.97%,训练时间为76.3 s;本模型准确率达到了88.96%,训练时间为61.1 s。     

基于改进胶囊神经网络的遥感影像分类

针对遥感影像卷积神经网络（CNN）分类会导致特征信息丢失及泛化能力差的问题,提出一种基于通道注意力和混合注意力改进的胶囊神经网络分类模型。首先,为了胶囊神经网络能够适应于大尺寸输入图像,在特征提取模块中使用2个最大池化层;其次,为了提高分类精度,分别将SENet注意力和CBAM注意力加在特征提取模块的最后一层去改进特征提取模块;最后,将样本集随机地划分为训练集、验证集和测试集,进一步使用训练集和验证集训练模型,测试集测试模型,使用AID数据集对模型分类的泛化能力进行验证。实验结果表明:基于SENet网络改进的胶囊神经网络的准确率与Kappa系数要高于其他模型,泛化能力也优于其他模型,本文提出的模型的总体分类精度和泛化能力有了显著性提升,从而验证了本文方法的可行性和使用性。     

基于卷积神经网络的单路PPG信号的连续动脉血压测量算法

利用脉搏波特征参数法估测动脉血压(ABP)时,需要进行人工特征设计和筛选以提取出与动脉血压相关性高的特征参数,具有局限性.对此,提出基于卷积神经网络(CNN)的单路光电容积脉搏波信号(PPG)的连续动脉血压测量算法.对PPG信号依次进行去噪平滑、单周期分割和插值处理后,将其输入到CNN中进行特征提取,以建立其与动脉血压...     

改进卷积神经网络的文本主题识别算法研究

针对于传统方法中存在的文本特征表示能力差、模型主题识别准确率低等问题,提出一种融合SENet与卷积神经网络的文本主题识别方法。将每个词对应的Word2vec词向量与LDA主题向量进行融合,并依据词语对主题的贡献度完成文档加权向量化处理;构建SECNN主题识别模型,使用SENet对卷积层输出的特征图进行权值的重标定,依靠其提升重要特征并抑制无用特征的性能,高效地进行主题识别;使用FDA评估样本的类别表征能力,提出FDA-SGD算法对模型参数进行调优,完成文本主题识别任务。使用新闻文本数据集验证改进算法的有效性,通过与传统模型对比表明,改进算法可以有效提高模型的收敛速度,具有较好的主题识别能力。     

Integrating scattering feature maps with convolutional neural networks for Malayalam handwritten character recognition

Convolutional neural network (CNN)-based deep learning architectures are the state-of-the-art in image-based pattern recognition applications. The receptive filter fields in convolutional layers are learned from training data patterns automatically during classifier learning. There are number of well-defined, well-studied and proven filters in the literature that can extract informative content from the input patterns. This paper focuses on utilizing scattering transform-based wavelet filters as the first-layer convolutional filters in CNN architecture. The scattering networks are generated by a series of scattering transform operations. The scattering coefficients generated in first few layers are effective in capturing the dominant energy contained in the input data patterns. The present work aims at replacing the first-layer convolutional feature maps in CNN architecture with scattering feature maps. This architecture is equivalent to utilizing scattering wavelet filters as the first-layer receptive fields in CNN architecture. The proposed hybrid CNN architecture experiments the Malayalam handwritten character recognition which is one of the challenging multi-class classification problems. The initial studies confirm that the proposed hybrid CNN architecture based on scattering feature maps could perform better than the equivalent self-learning architecture of CNN on handwritten character recognition problems.     

结合连续卷积算子的自适应加权目标跟踪算法

目的 在视觉跟踪领域中,特征的高效表达是鲁棒跟踪的关键,观察到在相关滤波跟踪中,不同卷积层表达了目标的不同方面特征,提出了一种结合连续卷积算子的自适应加权目标跟踪算法。方法 针对目标定位不准确的问题,提出连续卷积算子方法,将离散的位置估计转换成连续位置估计,使得位置定位更加准确;利用不同卷积层的特征表达,提高跟踪效果。首先利用深度卷积网络结构提取多层卷积特征,通过计算相关卷积响应大小,决定在下一帧特征融合时各层特征所占的权重,凸显优势特征,然后使用从不同层训练得到的相关滤波器与提取得到的特征进行相关运算,得到最终的响应图,响应图中最大值所在的位置便是目标所在的位置和尺度。结果 与目前较流行的3种目标跟踪算法在目标跟踪基准数据库（OTB-2013）中的50组视频序列进行测试,本文算法平均跟踪成功率达到85.4%。结论 本文算法在光照变化、尺度变化、背景杂波、目标旋转、遮挡和复杂环境下的跟踪具有较高的鲁棒性。     

基于改进卷积神经网络的电力通信网故障诊断研究

针对当前电力通讯网络故障诊断方法及时性差、准确率低和自我学习能力差等缺陷,提出基于改进卷积神经网络的电力通信网故障诊断方法,结合ReLU和Softplus两个激活函数的特点,对卷积神经网络原有激活函数进行改进,使其同时具备光滑性与稀疏性;采用ReLU函数作为作为卷积层与池化层的激活函数,改进激活函数作为全连接层激活函数的结构模型,基于小波神经网络模型对告警信息进行加权操作,得到不同告警类型和信息影响故障诊断和判定的权重,进一步提升故障诊断的准确率;最后通过仿真试验可以看出,改进卷积神经网络相较贝叶斯分类算法与卷积神经网络具有较高的准确率和稳定性,故障诊断准确率达到99.1%,准确率标准差0.915%,为今后电力通讯网智能化故障诊断研究提供一定的参考。     

降低参数规模的卷积神经网络模型压缩方法

针对卷积神经网络模型参数规模越来越大导致难以在计算与存储资源有限的嵌入式设备上大规模部署的问题,提出一种降低参数规模的卷积神经网络模型压缩方法。通过分析发现,卷积层参数量与输入输出特征图数量以及卷积核大小有关,而全连接层参数数量众多且难以大幅减少。通过分组卷积减少输入输出特征图数量,通过卷积拆分减小卷积核大小,同时采用全局平均池化层代替全连接层的方法来解决全连接层参数数量众多的问题。将上述方法应用于LeNet5和AlexNet进行实验,实验结果表明通过使用组合压缩方法对LeNet5模型进行最大压缩后,参数规模可减少97%,识别准确率降低了不到2个百分点,而压缩后的AlexNet模型参数规模可减少95%,识别准确率提高了6.72个百分点,在保证卷积神经网络精度的前提下,可大幅减少模型的参数量。     

基于轻量型U-net的钢材金相图像晶界分割方法

在金相组织的晶粒度自动化评估工作中,对晶粒边界识别的精准与否直接影响着金相组织晶粒度等级的评估准确度。针对钢材金相图像中晶粒边界密集程度高、边缘复杂且晶粒边界识别准确性低的问题,提出一种基于轻量型U-net卷积神经网络的金相图像晶界分割方法,该轻量型网络模型将浅层特征层用跳跃连接的方式拼接在上采样过程中,使网络学习到更多的有效特征信息;减少了网络层数并在特征提取过程中添加了一次卷积过程,减少了网络参数量并提高了对晶界的预测速度和准确率;实验结果表明,该方法在117张金相图像测试集上像素准确率达到93.91%、特异度为96.73%、灵敏度为81.6%。与传统U-net网络相比,像素准确率提高了0.2%,网络参数量相对减少了61.5%。本方法对金相晶界分割具有有效性和优越性。