基于ATT-CNN的化工装备分类算法

随着化工技术的飞速发展,化工装备在化工产业生产实践中发挥着更加重要的作用,与此同时也对化工装备的精准分类提出了更高要求。为了提高化工装备在化工生产中分类的准确率,提出了一种基于Attention注意力机制和卷积神经网络的化工装备文本分类算法。首先,分别使用卷积神经网络算法的输入层和Attention注意力机制提取化工装备文本特征;其次,将两种算法得到的特征与卷积核进行卷积操作,得到不同权重的输入,最后在分类器中对得到的化工装备文本特征进行分类,得到最终分类结果。通过多算法实验结果表明,该方法相比传统卷积神经网络与机器学习方法在数据挖掘中具有更高的分类准确性,达到了96. 42%,证明ATT-CNN算法在化工装备分类中具有较好的性能。     

大数据环境下基于深度学习的行人再识别

针对卷积神经网络在行人识别过程中错误率较高的问题,提出了一种基于深度胶囊模型的行人再识别方法.首先利用标准卷积层学习区分度较高的特征;然后将不同卷积层中的若干特征划分为一组,生成一个具有丰富语义特征的主胶囊.在此基础上,引入了动态路由算法,通过迭代路由过程来确定主胶囊和数字胶囊之间的归属关系,进而得到一组数字胶囊,其中,每个数字胶囊可以学习识别目标行人的存在.在具有挑战性的数据集上进行实验的结果表明,所提算法在性能上优于已有算法.     

初始化卷积神经网络的主成分洗牌方法

为了更好地初始化卷积神经网络,提出了一种初始化卷积核的有效方法,称为主成分洗牌方法.该方法首先对第1个卷积层的每个输入特征图的所有感受野进行采样,再对采样得到的图像块按输入特征图分别进行主成分分析,利用主成分分析得到的投影矩阵初始化该层卷积核,最后按上述过程依次对各层卷积核进行初始化.使用该方法在MNIST与CIFAR-10数据集上进行卷积层初始化实验.实验结果表明:与目前常用的随机初始化算法、Xavier初始化算法相比,该方法在提高网络的训练速度和测试集正确率方面均具有优越性.     

一种多尺度嵌套卷积神经网络模型

卷积神经网络模型要求训练图像与测试图像在空间尺度上一致.为弱化这一限制,对卷积层特征提取器进行多尺度改进,提出了一种尺度不变卷积神经网络模型,以自动适应输入图像在平面空间上的尺度变化.同时,将多层Maxout网络嵌入新模型中,以进一步提高特征提取能力,提高图像识别与分类的准确性.实验测试结果表明,该模型提高了传统卷积神经网络模型的尺度不变性和分类精度.     

一维卷积神经网络实时抗噪故障诊断算法

针对旋转机械智能诊断方法计算量大和抗噪能力差的问题,在经典模型LeNet-5的基础上提出基于一维卷积神经网络的故障诊断算法.采用全局平均池化层代替传统卷积神经网络中的全连接层,在降低模型计算量的同时,降低模型参数数量和过拟合的风险;利用随机破坏后的时域信号进行训练以提高其抗噪能力;采用改进后的一维卷积核和池化核直接作用于原始时域信号,将特征提取和故障分类合二为一,通过交替的卷积层和池化层实现原始信号自适应特征提取,结合全局平均池化层完成故障分类.利用轴承数据和齿轮数据进行实验验证并对比经典模型LeNet-5、BP神经网络和SVM.结果表明:采用全局平均池化层可有效降低模型计算量,提高模型在低信噪比条件下的诊断精度,采用随机破坏输入训练策略可显著提升模型的抗噪诊断能力;改进后的模型可以实现噪声环境下准确、快速和稳定的故障诊断.通过t-SNE可视化分析说明了模型在特征学习上的有效性.     

基于多层异构注意力机制和深度学习的短文本分类方法

针对现有算法难以对复杂文本准确分类的问题,本文提出了一种融合多层异构注意力机制、卷积和循环神经网络的自动分类方案.首先融合卷积和循环神经网络,设计了新的深度学习短文本分类框架,并基于渗透假设的类平衡分层求精原理,设计了异构注意力机制,并将其融入不同算法层之间,以提高算法性能.为验证上述方法的准确性,将本文算法与传统分类方法分别应用于三个数据集中,并进行了仿真实验.实验结果表明,本文所提出的方法对三个数据集均能达到90%以上的分类精确率,均优于传统分类算法.此外,在三个测试中,多层异构注意力机制能够提高2%以上的分类精度,代价为运行时间增加1 s～2 s.本文算法将注意力机制分层融入两种深度学习算法中,能够适应多种主题的复杂短文本分类需求.     

基于卷积神经网络的电子鼻分类识别

在混合气体识别的研究中,针对目前电子鼻应用于化工污染物种类监测时难以达到理想精度的问题,提出了一个基于卷积神经网络的气体分类识别算法。首先利用卷积神经网络的自适应特征提取能力,有效降低原始数据对后续操作的影响;其次进行多次实验训练,对卷积神经网络进行参数优化,提高网络模型性能;最后将提出的卷积神经网络算法与BP神经网络算法分别应用于加州大学公开数据集中的一氧化碳和乙烯混合气体的实验数据中。实验结果表明,卷积神经网络算法对此数据集的气体种类检测准确率达到93%,比BP神经网络算法应用于气体识别时精度更高,误差更小,为电子鼻系统气体种类检测提供了一种新的方法。     

基于深度学习的地基云分类技术研究进展

深度学习的自动学习特征和精确的预测能力使其在地基云分类上获得成功,更复杂更优良的深度学习网络在地基云分类领域得到研究和应用.近两年来一些大规模地基云分类数据集被公布,但还没有文献对这些大数据集进行完整地介绍和使用.本文对深度学习地基云分类领域最新的研究进展进行了详细的概括,并介绍了最新发布的国际标准大规模数据集,最后对几种经典的卷积神经网络深度学习模型在地基云分类上的性能进行了评估,验证了卷积神经网络在地基云分类领域的适用性.     

一种基于卷积神经网络的人脸表情自动识别方法

针对传统机器学习方法在人脸表情识别上存在特征提取繁琐、表情识别准确率不高的问题,提出一种基于深度学习的人脸表情自动识别方法.设计了一个卷积神经网络模型,以原始图像数据为输入,中间以卷积层和池化层交替作为隐层进行特征自动提取,最后将提取到的特征数据映射到全连接层,并采用Softmax函数作为分类器计算分类得分概率,实现人脸表情的自动识别分类.在公开的人脸表情数据集CK+上进行实验,结果表明本文方法能更准确地识别人脸表情.     

利用卷积神经网络分类乳腺癌病理图像

为了解决乳腺病理图像分类准确率低,耗时费力的问题,本文提出了利用卷积神经网络(CNN)对乳腺病理图像进行分类的方法。利用该方法将病理图像快速、自动划分为良性和恶性2类。采用基于Inceptionv3架构的卷积神经网络模型和迁移学习算法进行病理图像特征提取;利用全连接层神经网络和SoftMax函数进行图像分类。同时针对高分辨率图像提出了图像分块化思想,将每块的分类概率通过加和、乘积、取最大值3种算法进行整合,得出图像最终分类结果。利用BreaKHis公共数据集对所提出的分类方法进行了实验验证。结果显示对于4个放大系数的图像分类准确率分别达到约95.0%、95.1%、94.1%和92.3%,该方法有效提高了乳腺癌病理图像分类准确率。     

基于GAELM神经网络的日前电价预测

针对日前电价预测问题,利用极限学习机建立预测模型.鉴于极限学习机在训练前随机产生输入权重和隐藏节点偏置,可能导致预测结果不稳定以及预测精度太低的问题,提出了一种基于遗传算法(GA)和极限学习机(ELM)的预测方法.首先利用遗传算法对极限学习机随机生成的参数进行寻优,然后根据优化后的参数建立基于GA-ELM的电价预测模型.最后以此模型对PJM电力市场的日前电价进行预测.结果表明,相比ELM和BP神经网络,GA-ELM具有更高的预测精度.     

GA优化ELM神经网络的排水管道缺陷诊断

为及时发现排水管道安全隐患,准确掌握管道状况,结合极限学习机(extreme learning machine, ELM)神经网络和管道闭路电视(closed circuit television, CCTV)检测,建立一个数据驱动的排水管道缺陷诊断模型.采用遗传算法(genetic algorithm, GA)优化ELM神经网络的输入权值矩阵和隐含层偏置,改善网络参数随机生成带来的ELM模型输出不稳定、分类精度偏低的问题.以上海市洋山保税港区排水管道破裂、渗漏等主要结构性缺陷的诊断为例,对GA-ELM模型进行仿真分析,并与ELM模型诊断结果进行对比.结果表明,GA-ELM模型能够更好地识别管道缺陷,获得更佳的分类性能,参数优化提高ELM模型的拟合能力和泛化能力,可应用于城市排水管道状况评价,为排水管网养护计划和修复计划的制订提供技术依据.     

基于深度学习的变压器图像识别系统

针对变压器型号多、图像复杂,以及传统基于机器学习的人工设计特征的方法不能对大规模变压器图像准确分类等问题提出了基于深度学习的变压器图像识别系统直接对原始图像进行"端对端"的学习。为实现变压器图像的准确分类,提出了改进VGG-16卷积神经网络的变压器图像识别模型。在VGG-16模型的基础上,重新构建了全连接层,针对原有的SoftMax分类器,采用3标签的SoftMax分类器进行替换,以实现网络结构优化,并通过迁移学习共享V GG-16模型卷积层和降采样层的权值参数。通过构建变压器图像的训练集和测试集对改进模型进行了训练,并进行性能测试。结果表明,与深度神经网络、卷积神经网络模型相比,改进VGG-16模型具有更好的效果,识别误差达到了9.17%,并实现了对3种变压器的准确区分。     

卷积神经网络混合模型的心律失常分类算法

心律失常表现为不规则的心跳,心律失常类型的判断是心血管疾病早期预防和诊断的关键.为提高心律失常分类的准确率和速度,实现心律失常类型的自动识别,研究并提出了一种以卷积神经网络(convolutional neural network, CNN)为核心的7层混合模型结构.为保持心拍的完整性,根据R-R间期对心电信号进行动态分割得到不同长度的心拍.通过卷积层卷积核的滑动提取心拍的局部特征,平均池化层进行下采样,降低特征的维度.空间金字塔池化(spatial pyramid pooling, SPP)层以不同的池化步长二次提取心拍特征,不同长度的输入特征经过SPP层的特征融合后得到相同长度的输出特征.利用极限学习机(extreme learning machine, ELM)作为分类器可以提高分类的速度,缩短训练时间.使用MIT-BIH数据集和十折交叉验证方法验证心律失常4分类模型的有效性,最终得出在测试集上分类总体准确率为99.16%,灵敏度为99.85%,特异性为98.89%,精度为99.85%.在相同软件环境下验证混合模型与单个模型的准确率与训练时间,实验结果表明:混合模型能以更少的训练时间获得更高的准确率,为快速准确地识别心律失常类型提供了一种可行方案.     

嵌入误分类代价和拒识代价的极限学习机基因表达数据分类

为了实现代价敏感分类过程中的最小平均误分类代价的目的,本研究通过在分类过程中引入概率估计以及误分类代价重新构造分类结果,提出了基于极限学习机(extreme learning machine, ELM)的代价敏感算法CS ELM并在上述算法基础上,引入“拒识代价”,进一步减小了平均误分类代价。算法被运用到基因表达数据集上并与极限学习机、代价敏感决策树、代价敏感BP神经网络和代价敏感支持向量机做对比,可以得出,嵌入拒识的CS ELM算法能够更好地降低误分类代价,使分类结果更加可靠。     

基于核极限学习机自编码器的标记分布学习

标记分布学习中示例由多个不同重要程度的标记共同标注,而在已有的标记分布学习算法中,大部分均在完备数据集下进行,未考虑数据噪声干扰。针对这一问题,结合自编码器的降噪特性和核极限学习机的稳定性,提出一种基于核极限学习机自编码器的标记分布学习算法。使用核极限学习机自编码器对原始特征空间映射,得到更具鲁棒性的特征表达,构造适应标记分布学习的极限学习机模型作为分类器以提升分类效率及性能。试验结果表明,本文算法较其他对比算法具有一定优势,使用假设检验方法进一步说明所提算法的有效性。     

基于CNN多层特征和ELM的交通标志识别

针对传统神经网络仅利用端层特征进行分类导致特征不全面,以及交通标志识别中计算量大、时间长等问题,提出基于多层特征表达和极限学习机的交通标志识别方法。利用CNN网络提取多层交通标志特征图;采用多尺度池化操作,将提取出的各层特征向量联合形成一个具有多尺度多属性特征的交通标志特征向量;使用极限学习机分类器准确快速地实现交通标志的识别。实验结果表明,该方法能有效地提高交通标志识别的准确率,且具有较好的泛化能力和实时性。     

SADE-ELM电容层析成像流型辨识算法

针对电容层析成像反问题流型识别较难的问题,提出了一种新的ECT流型辨识算法——差分演化优化极端学习机算法,进而提出了基于自适应差分演化优化极端学习机(Sa DEEML)的ECT辨识算法.在论述极端学习机算法的基础上,结合差分演化算法对极端学习机算法进行优化,自适应差分演化算法中的关键参数,通过训练得到各类流型的分类器的参数,构造分类器进行精准与快速分类.实验结果表明:该算法能有效克服极端学习机算法的缺点并提高了局部与全局收敛能力,通过与BP、SVM算法比较,该算法具有竞争力,并为电容层析成像流型辨识的研究提供了新算法.     

基于卷积神经网络的中文财经新闻分类方法

针对目前财经领域内新闻数据杂乱无章、缺乏自动高效管理等问题,提出一种基于卷积神经网络的中文财经新闻分类方法。收集大规模财经新闻语料,通过无监督学习方法训练获得一个广义通用的财经类词向量模型,将词向量引入到卷积神经网络模型训练中实现有效分类。与传统方法相比,基于卷积神经网络的中文财经新闻分类方法网络模型结构简单,针对小样本集也能表现优异的性能,不仅能有效解决中文财经新闻分类问题,还可充分证明卷积神经网络在处理文本分类问题中的有效性。     

一种基于Akaike信息准则的极限学习机

为了减小传统的极限学习机网络的规模及提高网络的泛化性能,利用Akaike信息准则作为学习的最优停止准则以选择合适的隐层节点数量,同时利用修正Gram Schmidt算法自动调整网络参数,提出改进的极限学习机网络构造算法。通过与传统极限学习机在通用标杆问题上的实验结果比较表明, 该改进的极限学习机具有更精简的网络结构和更快的学习速度,同时具有良好的学习精度。