基于Keras手写数字识别模型的改进

针对结构设计不合理的卷积神经网络导致MNIST识别的准确率低、收敛速度慢和训练参数多等问题,提出卷积神经网络结构的改进模型.改进的模型采用2次卷积、2次池化和3次全连接、采用Relu激活函数和Softmax回顾函数相结合,加入Dropout层防止过拟合,加入Flatten层优化结构.为了缩减代码量,采用API功能强大的Keras模型替代Tensorflow.对MNIST的训练集和测试集数据的准确率进行仿真实验,实验结果表明:采用改进的结构在MNIST的训练中不仅收敛速度快、训练参数少、损失率低,而且在测试集上的准确率达到99.54％、高于改进前的99.25％,对后续手写数字的研究具有重要意义.     

基于FPGA的深度卷积神经网络优化压缩算法研究

针对现有海量数字图像信息落后,提出了新型的压缩算法,设计出基于FPGA的视频图像采集系统.应用深度卷积神经网络优化视频图像编码算法和聚类算法实现数据特征提取,将图像与距离信息作为深度卷积神经网络的输入与输出,并利用其特征提取能力学习图像特征的距离信息,提取深度卷积神经网络中的全连接层作为编码,通过迭代调整确定图像编码,完成图像压缩.应用测试结果显示,该算法具有较高效率优势,且图像压缩解码后质量较好.     

基于IIGA-BP神经网络的钢材销售预测模型

为克服传统BP神经网络(BP Neural Network,BPNN)在销售预测中,预测精度低、收敛速度慢的缺点.提出了一种基于改进免疫遗传算法(Improved Immune Genetic Algorithm,IIGA)优化BP神经网络的销售预测模型.改进的免疫遗传算法提出了新的种群初始化方式、抗体浓度的调节机制及自适应交叉算子、变异算子的设计方法,有效的提高了IIGA的收敛能力和寻优能力.并用IIGA优化BPNN的初始权值和阈值,改善网络参数的随机性导致BPNN输出不稳定和易陷入局部极值的缺点.以某钢铁企业的历史销售数据为例进行实证研究,利用Matlab分别构建BP、IGA-BP和IIGA-BP神经网络预测模型进行仿真对比分析.实验证明,IIGA-BP神经网络预测模型较BP神经网络预测模型预测精度提高了23.82％,较IGA-BP神经网络预测模型预测精度提高了22.02％.IIGA-BP神经网络模型对钢材销售预测的泛化性能更好,预测效果更稳定误差基本保持在[0.25,0.25]之间,预测精度大幅度提高,为企业销售预测提供了一种较为有效的方法.     

线性回归和BP神经网络在噪声监测中的应用

噪声监测系统能够自动测量噪声分贝值,并实时处理系统监测到的各种声音环境信息,但是在噪声监测系统的实际应用中,噪声的分贝值受到温度、湿度和大气压力等多个因素影响,与实际值存在误差.为了提高噪声的测量精度,必须使用相关技术进行校正,系统采用了线性回归和BP神经网络技术,研究了预测模型的因素和系数,分析了模型中因素的相关性,获得了噪声监测的自动校正模型.从线性回归和BP神经网络自动校正数据的测试效果看,优化了测量数据的容错性并改进了数据校正的精度,使预测模型的判定系数R2的值有了较大提升.     

基于深度学习的管道纱线及其颜色检测

为了保证自动换筒系统中的纱线自动打结机能够正常运行, 需要对管道吸取的纱线进行检测. 纱线纤细、种类繁多且颜色各异, 传感器方法难以胜任, 使用图像处理的方式较为合适. 但是对于纱线检测问题传统的图像处理方法复杂且检测准确率低, 难以解决纱线种类多、尺寸不一以及颜色多等问题, 故本文提出了一种基于Inception v4中Inception-ResNet-A块进行改进的多尺度深度可分离卷积块组成的网络来检测管道中的纱线. 其中改进的多尺度深度可分离卷积块采用3×3卷积核的深度可分离卷积层代替Inception-ResNet-A块中3×3传统卷积层并去除了其中的一些1×1卷积层, 简化卷积块的计算量以及参数量, 此外还结合了残差网络ResNet的方法进行通道融合,防止特征丢失. 试验结果表明, 该网络模型具有非常好的泛化能力以及辨识效果.     

基于IMU与激光雷达紧耦合的混合匹配算法

针对线、面特征匹配的激光雷达测距与地图构建算法(Lightweight and Ground-Optimized Lidar Odometry And Mapping,LeGO-LOAM)在自动导引运输车(Automated Guided Vehicle,AGV)室内室外实时建图与定位时,易出现激光里程计累积误差大和旋转估计不准确等问题,本工作采用惯性测量单元(Inertial Measurement Unit,IMU)与激光雷达紧耦合的LeGO-LOAM算法,通过IMU为激光雷达提供的初始位姿信息,构建IMU与激光雷达联合误差函数,实现位姿共同迭代优化.其中,对于室外结构化信息较少时,在点对点的迭代最近点算法(Iterative Closest Point,ICP)较高定位精度的基础上,结合LeGO-LOAM算法和ICP算法互补性,进一步提出基于IMU与激光雷达紧耦合的混合匹配算法:当环境中结构信息较多时,激光里程计采用LeGO-LOAM算法,而当环境中结构化信息较少时采用ICP算法.实验结果表明,基于IMU与激光雷达紧耦合的混合匹配算法可有效降低激光里程计相对位姿误差和累积误差,提高AGV小车定位精度以消除部分地图重影.     

基于自主学习与SCAD-Net正则化的回归模型

众多基因生物标志物选择方法常因研究样本较少而不能直接用于临床诊断.于是有学者提出整合不同基因表达数据同时保留生物信息完整性的方法.然而,由于存在批量效应,导致直接整合不同基因表达数据可能会增加新的系统误差.针对上述问题,提出一个融合自主学习与SCAD-Net正则化的分析框架.一方面,自主学习方法能够先从低噪声样本中学习出基础模型,然后再通过高噪声样本学习使得模型更加稳健,从而避免批量效应;另一方面,SCAD-Net正则化融合了基因表达数据与基因间的交互信息,可以实现更好的特征选择效果.不同情形下的模拟数据以及在乳腺癌细胞系数据集上的结果表明,基于自主学习与SCAD-Net正则化的回归模型在处理高维复杂网络数据集时具有更好的预测效果.     

基于卷积块注意力模块的图像描述生成模型

图像描述生成模型是使用自然语言描述图片的内容及其属性之间关系的算法模型.对现有模型描述质量不高、图片重要部分特征提取不足和模型过于复杂的问题进行了研究,提出了一种基于卷积块注意力机制模块(CBAM)的图像描述生成模型.该模型采用编码器-解码器结构,在特征提取网络Inception-v4中加入CBAM,并作为编码器提取图片的重要特征信息,将其送入解码器长短期记忆网络(LSTM)中,生成对应图片的描述语句.采用MSCOCO2014数据集中训练集和验证集进行训练和测试,使用多个评价准则评估模型的准确性.实验结果表明,改进后模型的评价准则得分优于其他模型,其中Model2实验能够更好地提取到图像特征,生成更加准确的描述.     

基于图卷积神经网络的函数自动命名

函数自动命名技术旨在为输入的源代码自动生成目标函数名,增强程序代码的可读性以及加速软件开发进程,是软件工程领域中一项重要的研究任务.现有基于机器学习的技术主要是通过序列模型对源代码进行编码,进而自动生成函数名,但存在长程依赖问题和代码结构编码问题.为了更好的提取程序中的结构信息和语义信息,本文提出了一个基于图卷积(Graph Convolutional Network,GCN)的神经网络模型—TrGCN(a Transformer and GCN based automatic method naming).TrGCN利用了Transformer中的自注意力机制来缓解长程依赖问题,同时采用Character-word注意力机制提取代码的语义信息.TrGCN引入了一种基于图卷积的AST Encoder结构,丰富了AST节点特征向量的信息,可以很好地对源代码结构信息进行建模.在实证研究中,使用了3个不同规模的数据集来评估TrGCN的有效性,实验结果表明TrGCN比当前广泛使用的模型code2seq和Sequence-GNNs能更好的自动生成函数名,其中F1分数分别提高了平均5.2％、2.1％.     

基于梯度的重叠式层次社区检测

社区检测(community detection)任务一直是数据挖掘领域的一个研究热点,近年来,深度学习和图链接数据呈现出多样化和复杂化的发展趋势,层次(Hierarchical)社区检测逐渐成为研究的焦点.层次社区检测任务的目标是,在将同质图中相似的节点聚集到社区中的同时,学习社区之间的层次结构关系,以更好的理解图数据结构.社区间层次关系的引入给社区检测算法带来了更复杂的建模挑战.针对该任务,已经有一些有效的启发式的方法被提出,但是受限于社区分布形态的简单假设和离散的优化学习方式,它们无法描述更复杂的图链路数据,也无法和其它有效的连续优化算法组合获得更好的结果.为了解决这个问题,本文首次尝试建模复杂的重叠式(overlapping)层次社区结构,提出简洁的节点嵌入和社区检测双任务优化模型,通过梯度更新的方式来灵活地探索节点和重叠式层次社区的隶属关系.在学习过程中,我们可以分别获得节点和社区的嵌入表示,以应用于丰富的下游任务.