利用生成噪声提高语音增强方法的泛化能力

如何提高对未知噪声类型的泛化能力是有监督语音增强方法中亟待解决的重要问题,通过对大量不同类型噪声进行建模,深度神经网络成为了解决该问题的有效手段.为了进一步提高基于深度神经网络的语音增强方法的泛化能力,本文基于生成式对抗网络（Generative Adversarial Networks,GAN）设计了能够由真实噪声数据生成新的噪声类型的NoiseGAN;通过在训练集中增加生成噪声类型,提高训练集噪声类型的多样性,从而达到提高语音增强模型泛化能力的目的.不同结构的网络下的语音增强实验结果表明,本文提出的NoiseGAN能够生成新的噪声类型,具备提高训练集噪声类型多样性的能力,有效提高了语音增强模型在未知噪声类型下的泛化能力.     

一类目标函数的逆向构造

面向解决真实世界问题的神经应用需求，本文提出了一种构造目标函数的逆向方法，即将目标函数的构造任务转化为误差信号的设计。应用这一方法，我们构造出了一类的目标函数，它不权可以解除均方误差（ＭＳＥ）函数的假饱和状态，从而缩短了网络的训练时间，而且能够克服相对熵函数带来的过度适应性问题，从而提高了网络的泛化能力。     

基于遗传算法的神经网络集成在人耳识别中的应用

BP神经网络算法存在收敛速度慢和网络泛化能力差的缺点,影响分类识别率。为了提高网络的分类识别能力和泛化能力,在此介绍一种基于遗传算法的神经网络集成方法,即训练出多个个体BP神经网络,利用遗传算法选择差异度较大的个体BP网络进行神经网络集成,再利用该神经网络集成进行分类识别。实验结果表明,神经网络集成可以提高识别率。     

一种提高神经网络集成系统泛化能力的方法

为了充分利用神经网络的原始训练数据,提高神经网络集成系统的泛化能力,提出了一种有效的神经网络集成方法.通过在训练样本上加入一定量的噪声,增大训练样本集,使得不同的个体网络在不同的训练样本上训练,在提高个体网络精度的同时,增加了集成中个体网络的差异度.实验结果表明,该方法能有效的提高神经网络集成系统的泛化能力与计算精度.     

改进的BP网络在调制识别中的应用

研究了BP网络初始权值的选择和网络结构的优化方法，在显著减小网络拓扑结构的基础上，提高了网络的泛化能力和识别性能。引入分段传递函数，并根据网络性能调节传递函数，改善了网络的训练速度。改进后的BP网络应用于通信信号调制识别。仿真结果验证了算法的有效性和鲁棒性。     

基于改进YOLOv5s的道路裂缝检测算法

为了解决道路巡检系统光学传感器采集的裂缝图像中颜色特征不明显且尺寸不规则造成检测精度不高、泛化能力不足的问题,提出改进YOLOv5s的裂缝检测算法。将结合深度可分离卷积(Depthwise Separable Convolution, DSC)的全局注意力(Global Attention Mechanism, GAM)引入主干特征提取网络,在降低注意力复杂度的同时获得丰富的跨维度特征,增强了裂缝的识别能力;采用空间金字塔软池化网络(Spatial Pyramid Softpool, SPSF),通过Softpool池化保留多维语义以减少信息弥散,提高了边界框回归的准确性;在颈部特征增强网络,运用空洞深度可分离卷积(Atrous DSC)进行下采样,通过扩大感受野加强深层和浅层信息的聚合能力,提高裂缝识别的泛化性。经过在自制道路裂缝数据集上的实验,相较于YOLOv5s,改进算法的mAP提高2.2%,有效提升了道路裂缝检测的准确性和对不同背景下裂缝识别的泛化能力。     

多注意力机制下自愈人脸表情识别

人脸表情识别技术在社会生活、刑事侦探等领域中具有重要应用价值和广阔应用前景.现有方法对表情特征提取不充分,使得高维特征易丢失局部关键信息;同时在复杂背景下表情的二义性导致网络泛化能力弱.为解决这些问题,本文提出一种多注意力机制下自愈网络(Multiple Attention Self Curing Network,MASCNet).该网络生成带有注意力权重的多尺度特征,通过融合不同尺度特征,提高网络模型在细粒度下对局部关键信息的表征能力.自注意力机制模块为融合后的特征分配重要性权重,约束不确定性样本在网络训练中所占比重,提高网络的泛化能力.本文方法在FER2013和RAF-DB数据集上的最高的识别正确率分别为74.21%和88.74%.实验结果表明该方法能有效识别人脸表情,优于现有MHBP、AHBRPN等主流方法.     

基于QPSO优化RBF网络的稀土萃取组分含量软测量

径向基函数用于软测量模型建立,具有最佳非线性逼近性能力和全局最优特性,其结构简单,训练速度快。本文是为了解决稀土萃取过程中组分含量在线检测的问题,将RBF网络应用于此过程中建立软测量模型,采用量子粒子群优化RBF网络参数提高模型的精度和泛化能力。仿真结果表明,基于粒子群优化RBF软测量方法用于稀土萃取过程中组分含量在线估计,是一种有效的方法。     

BP网络学习能力与泛化能力之间的定量关系式

分析BP网络过拟合时网络学习能力与泛化能力之间的内在联系,引入描述问题复杂性程度的复相关系数,建立了BP网络过拟合时,反映网络学习能力的训练样本集的训练相对误差与表征泛化能力的网络对检验样本集的测试相对误差之间满足的定量关系式.通过模拟若干不同类型函数的BP网络数值建模试验,确定了关系式中过拟合参数q的取值范围为0.007~0.07,指出BP网络应用于给定样本集的训练过程中,具有较佳泛化能力的停止训练方法.     

一种基于集成卷积神经网络的SAR图像目标识别算法

针对合成孔径雷达(Synthetic Aperture Radar, SAR)图像目标识别问题，提出了一种基于集成卷积神经网络(Convolutional Neural Network, CNN)的SAR图像目标识别方法。首先对原始数据集进行数据增强的预处理操作，以扩充训练样本；接着通过重采样的方法从训练样本中获取不同的训练子集，并在训练各基分类器时引入Dropout和Padding操作，有效增强了网络泛化能力；然后采用Adadelta算法与Nesterov动量法结合的思想来优化网络，提高了网络的收敛速度和识别精度；最后采用相对多数投票法对基分类器的分类结果进行集成。在MSTAR数据集上进行的实验结果表明，集成后的模型识别准确率达到99.30%,识别性能优于单个卷积神经网络，具有较强的泛化能力和较好的稳健性。     

基于改进YOLOv4模型的脊柱磁共振成像影像检测

针对脊柱解剖结构较为复杂的问题，提出一种用于脊柱磁共振成像影像检测的YOLOv4-disc算法。首先，针对真实病例样本数量较少的问题，使用限制对比度的自适应直方图均衡（CLAHE）数据增强方法提高模型的泛化能力。然后，使用K-means算法对数据集中真实框的尺寸进行聚类，得到合适的锚框尺寸并确定锚框数量。其次，在CSPDarknet-53骨干特征提取网络中使用深度可分离卷积替代普通卷积，减少网络参数并降低运算量。最后，基于Focal损失改进原生网络的损失函数，解决one-stage目标检测中正负样本比例严重失衡的问题。实验结果表明，所提YOLOv4-disc算法的平均精度均值（mAP）达到了90.80%，相比原生YOLOv4提高了3.51个百分点。     

基于最大熵原理和融合机器学习的手写体汉字识别算法

本文主要针对手写体汉字识别较弱、效果不好等问题,根据最大熵原理,融合机器学习方法,提高了模型的泛化能力,进一步解决了识别效率低与重量级网络泛化难的问题。由于不同汉字字体结构繁多,存在大量相似汉字。而书写习惯不同导致手写汉字结构形体更是因人而异,千差万别,体现在汉字手写体识别中更为困难。对比一些传统模型,本文通过融合DBN与YOLO9000算法,在保证识别时长的情况下,提升了识别率和运算识别速度。     

复杂光照环境下基于改进生成对抗网络的甘蔗病害样本增强应用分析

<正>甘蔗病害的识别与检测是农业领域的一个重要课题。然而，在实际应用中，受限于光照环境的复杂性以及甘蔗病害样本的不足，传统的数据增强方法难以满足实际需求。为了解决这一问题，提出一种基于改进的生成对抗网络（Improved GAN）的复杂光照环境下甘蔗病害样本增强技术。该方法引入了自注意力机制和渐进式生成对抗网络（ProGAN），实现对甘蔗病害样本的增强。实验结果表明，与传统的数据增强方法相比，提出的方法能够有效提高甘蔗病害识别模型的泛化能力和准确率。甘蔗是全球重要的经济作物之一，其产量对于糖和生物能源等产业具有举足轻重的地位。     

基于元学习和神经架构搜索的半监督医学图像分割方法

多数医学图像分割方法主要在相同或者相似医疗数据领域进行训练和评估，意味其需要大量像素级别的标注。但这些模型在领域分布外的数据集上面临挑战，被称为“域偏移”问题。通常使用固定的U形分割架构解决该问题，导致其无法更好地适应特定分割任务。文中提出了一种基于梯度的元学习与神经架构搜索方法，可以根据特定任务调整分割网络以实现良好的性能并且拥有良好的泛化能力。该方法主要使用特定任务进行架构搜索模块来进一步提升分割效果，再使用基于梯度的元学习训练算法提升泛化能力。在公共数据集M&Ms上，在5%标签数据下，其Dice和Hausdorff distance分别为79.62%、15.38%。在2%标签数据下，其Dice和Hausdorff distance分别为74.03%、17.05%。与其他主流方法相比，文中所提方法拥有更好的泛化能力。     

软伪标签和多尺度特征融合的行人重识别

传统无监督域自适应行人重识别算法,抑制伪标签噪声效果差、域间泛化能力弱。针对这些问题,提出了一种基于软伪标签和多尺度特征融合的无监督域自适应行人重识别算法。为抑制伪标签噪声,利用并行网络的预测值作为软标签,通过交叉校对方式对伪标签噪声进行纠偏,为无监督域自适应任务提供更鲁棒的软伪标签。为增强域间泛化能力,利用多尺度特征重构和哈达玛积特征融合方法对深浅特征层信息进行处理,实现源域数据到目标域的风格转换,并结合实例和批量归一化网络解决残差网络域自适应性差的问题,增强网络对源域和目标域的泛化能力。实验结果表明,所提算法在Market-to-Duke和Duke-to-Market无监督域自适应任务中都取得了较好的性能,明显优于相关算法。     

一类目标函数的逆向构造

面向解决真实世界问题的神经应用需求,本文提出了一种构造目标函数的逆向方法,即将目标函数的构造任务转化为误差信号的设计。应用这一方法,我们构造出了一类的目标函数,它不仅可以解除均方误差(MSE)函数的假饱和状态,从而缩短了网络的训练时间,而且能够克服相对熵函数带来的过度适应性问题,从而提高了网络的泛化能力。     

基于改进Faster R-CNN的车辆乘员数量检测方法

针对现有以雷达技术和红外热成像技术为代表的HOV（High occupancy vehiclelane）车道车辆乘员数量检测方法可靠性差、准确率低等问题，提出一种基于多光谱红外图像与改进Faster R-CNN（Region-Convolutional Neural Networks）的车辆乘员数量检测方法。通过多光谱红外成像系统获得汽车内部空间图像，结合Faster R-CNN深度学习算法实现乘员数量检测，通过采用全卷积网络结构、多尺度特征预测、使用ROI-Align代替ROI-Pooling等方式增强网络的泛化能力。通过对样据进行K-means聚类得到目标框长宽几何比例先验分布，提高区域生成（region proposal network，RPN）网络训练速度和位置回归准确性。测试结果表明，获得的汽车内部空间图像较为清晰，算法可以实现对乘员数量的检测。经过改进，网络的泛化能力得到增强，单乘员检测的准确率达到88.6%，相比于改进前提高了13.8%，能够满足行业规定大于80%的要求。     

物联网场景下基于蜜场的分布式网络入侵检测系统研究

为了解决物联网网络入侵检测系统无法识别新型攻击、灵活性有限等问题,基于蜜场提出了一种能有效识别异常流量和具备持续学习能力的网络入侵检测系统。首先,结合卷积块注意力模块的特点,构建专注于通道和空间双维度的异常流量检测模型,从而提高模型的识别能力。其次,利用联邦学习下的模型训练方案,提高模型的泛化能力。最后,基于蜜场对边缘节点的异常流量检测模型进行更新迭代,从而提高系统对新型攻击流量的识别准确度。实验结果表明,所提系统不仅能有效检测出网络流量中的异常行为,还可以持续提高对异常流量的检测性能。     

基于遗传算法的RBF-PLS方法在辐射源识别中的应用

RBF-PLS是一种有效的径向基网络构造方法,较好地解决了隐单元数和各中心的取值问题,但宽度系数和PLS成分数难以选定。为此,该文提出采用混合编码遗传算法,以径向基网络的拟合性能和泛化能力为目标,优选宽度系数和PLS成分数,以此建立RBF-PLS-GA模型。将该方法用于雷达辐射源识别,效果良好,明显优于其他网络模型。     

Elman和BP神经网络在模式分类领域内的对比研究

为了研究Elman神经网络和标准BPNN中何种网络类型更适合于解决模式分类问题,分别构建了基于Elman神经网络的分类模型和基于标准BPNN的分类模型。以平面上二维向量模式的分类为例,对2种分类模型进行训练和泛化能力测试。仿真结果表明,在训练样本数量相等且中小规模网络的条件下,Elman网络模型比BP网络模型具有更高的分类精度,更快的收敛速度,更适合于解决模式分类问题。