基于深度学习的地址信息自动标注研究

文本序列的自动标注能够解决深度学习普遍面临的人工标注成本过高的问题.本文针对地址信息的实体表述特征,构建基于实体边界矩阵（Entity Boundary Matrix,EBM）的表示模型,在此基础上提出了一种基于深度学习和KNN标签修正算法（K-Nearest Neighbours Correction Algorithm,KNN-CA）的不需要任何人工标注训练集的自动标注算法.首先获取预置小区数据集并构建离线特征库和初始化在线特征库;接着通过匹配算法求解EBM并利用KNN-CA进行优化,再通过数据增广得到自动标注的训练集;然后训练BiLSTM-CRF深度学习模型并预测所有未曾标注的地址信息的序列标注;最后再次利用KNN-CA优化可求解EBM的序列标注,由此构建适用于中文地理命名实体（Chinese Geospatial Named Entities,CGSNE）识别及相关研究的序列标注语料库.实验表明,标注数据的F1值达到了95.35%.     

基于深度学习的边际Fisher分析特征提取算法

提取符合数据分布结构的特征一直是模式识别领域的热点问题。基于固定核映射方法具有获取非线性特征的能力,但对映射函数类型及其参数十分敏感。论文提出一种基于多层自动编码器的特征提取算法,该深度学习网络模型的训练分为无监督预训练以及基于边际Fisher准则的监督式精雕训练过程。通过数据生成性预训练和精雕过程中正则化手段防止过拟合训练。在多个数据集进行分类的实验结果进一步验证算法的有效性。     

基于图像语义分割的半监督裂纹检测方法

基于深度学习的裂纹检测方法严重依赖大量的像素级标注信息,为此提出一种基于半监督学习的裂纹检测方法.该方法将多尺度模块引入到裂纹检测的网络模型中,仅利用小部分的像素级标注数据进行全监督训练.对于无标签数据,融合多种显著性区域检测方法生成伪标签,可以减少对像素级标注信息的依赖.在裂纹数据集上对改进网络进行实验验证,并与常用...     

基于深度学习的雷达目标航迹起始方法

本文提出了一种基于深度学习的雷达目标航迹起始方法,将目标航迹起始问题转化为深度神经网络模型二分类问题—“真实航迹”类和“虚假航迹”类。首先对空间配准后的目标点迹进行环形波门粗关联,得到粗关联暂时航迹;对粗关联暂时航迹进行特征向量建模,获得深度神经网络模型输入向量;利用仿真系统雷达数据,提取神经网络模型训练样本,设计深度全连接神经网络结构,训练网络模型得到优化的模型参数;使用训练好的模型参数实时计算目标起始航迹。仿真试验证明了该算法的有效性。     

基于局部深度一致性的自监督手部姿态估计

基于深度图的3D手部姿态估计通常需要大量人工标注数据以达到高精确度和鲁棒性，然而关节点标注过程冗杂且存在一定误差.现有研究工作使用自监督方法解决对标注数据的依赖，通过在虚拟数据集上预训练网络，并在无标注的真实数据集上进行模型拟合，实现3D姿态估计.自监督方法的关键在于设计模型拟合的能量函数以减小模型在真实数据集上的精度下降程度.为了减小模型拟合难度，本文提出局部深度一致性损失，依据初始姿态估计结果，提取输入与输出深度图的局部表征，将深度图显式地解耦为以关节点为中心的不同区域.通过有针对性地对不同关节点进行局部优化，减少虚拟与真实深度图之间的固有领域误差对网络学习的影响，增加训练的稳定性.本文方法在NYU数据集上相比基础方法平均关节点误差提升了21.9%.     

红外目标检测网络改进半监督迁移学习方法

针对红外数据集规模小,标记样本少的特点,提出了一种红外目标检测网络的半监督迁移学习方法,主要用于提高目标检测网络在小样本红外数据集上的训练效率和泛化能力,提高深度学习模型在训练样本较少的红外目标检测等场景当中的适应性。文中首先阐述了在标注样本较少时无标注样本对提高模型泛化能力、抑制过拟合方面的作用。然后提出了红外目标检测网络的半监督迁移学习流程:在大量的RGB图像数据集中训练预训练模型,后使用少量的有标注红外图像和无标注红外图像对网络进行半监督学习调优。另外,文中提出了一种特征相似度加权的伪监督损失函数,使用同一批次样本的预测结果相互作为标注,以充分利用无标注图像内相似目标的特征分布信息;为降低半监督训练的计算量,在伪监督损失函数的计算中,各目标仅将其特征向量邻域范围内的预测目标作为伪标注。实验结果表明,文中方法所训练的目标检测网络的测试准确率高于监督迁移学习所获得的网络,其在Faster R-CNN上实现了1.1%的提升,而在YOLO-v3上实现了4.8%的显著提升,验证了所提出方法的有效性。     

基于图卷积半监督学习的论文作者同名消歧方法研究

为解决学者与成果的精确匹配问题,该文提出了一种基于图卷积半监督学习的论文作者同名消歧方法。该方法使用SciBERT预训练语言模型计算论文题目、关键字获得论文节点语义表示向量,利用论文的作者和机构信息获得论文的合作网络和机构关联网络邻接矩阵,并从论文合作网络中采集伪标签获得正样本集和负样本集,将这些作为输入利用图卷积神经网络进行半监督学习,获得论文节点嵌入表示进行论文节点向量聚类,实现对论文作者同名消歧。实验结果表明,与其他消歧方法相比,该方法在实验数据集上取得了更好的效果。     

基于主动学习的图像分类技术：现状与未来

图像分类作为计算机视觉领域中的重要研究方向之一，应用领域非常广泛.基于深度学习的图像分类技术取得的成功，依赖大量的已标注数据，然而数据的标注成本往往是昂贵的.主动学习作为一种机器学习方法，旨在以尽可能少的高质量标注数据达到期望的模型性能，缓解监督学习任务中存在的标注成本高、标注信息难以大量获取的问题.主动学习图像分类算法根据样本选择策略，从未标记样本数据集合中选择出信息量丰富，对分类模型训练贡献更高的样本进行标注，以更新已标注训练数据池，如此循环直至满足给定的停止条件或模型标注预算耗尽.本文对近年来提出的主动学习图像分类算法进行了详细综述，并根据所用样本数据处理及模型优化方案，将现有算法分为三类：基于数据增强的算法，包括利用图像增广来扩充训练数据，或者根据图像特征插值后的差异性来选择高质量的训练数据；基于数据分布信息的算法，根据数据分布的特点来优化样本选择策略；优化模型预测的算法，包括优化获取和利用深度模型预测信息的方法、基于生成对抗网络和强化学习来优化预测模型的结构，以及基于Transformer结构提升模型预测性能，以确保模型预测结果的可靠性.此外，本文还对各类主动学习图像分类算法...     

基于AI技术的钢筋数量智能识别技术研究

当前,绝大多数工地清点钢筋等材料使用传统人工方式,人工清点方式耗费人力且容易造成数量统计错误。为解决上述问题,设计了一个基于AI技术的钢筋数量智能识别模型。根据实际环境中拍摄的钢筋图片作为样本集,使用LabelImg标注工具进行数据标注,利用YOLOv3算法训练识别模型,使用PyTorch作为机器学习平台。本系统使用YOLOv3算法构造神经网络进行深度学习从而训练模型,使用Loss函数、mAP函数、计算F₁值等多个参数进行评估模型,利用训练好的模型绘制框图预测钢筋位置以及计算出图中的钢筋总数。经测试,识别率为97.83%。     

基于蒙特卡罗数据集均衡与鲁棒性增量极限学习机的图像自动标注

针对传统图像标注模型存在着训练时间长、对低频词汇敏感等问题,该文提出了基于蒙特卡罗数据集均衡和鲁棒性增量极限学习机的图像自动标注模型.该模型首先对公共图像库的训练集数据进行图像自动分割,选择分割后相应的种子标注词,并通过提出的基于综合距离的图像特征匹配算法进行自动匹配以形成不同类别的训练集.针对公共数据库中不同标注词的数据规模相差较大,提出了蒙特卡罗数据集均衡算法使得各个标注词间的数据规模大体一致.然后针对单一特征描述存在的不足,提出了多尺度特征融合算法对不同标注词图像进行有效的特征提取.最后针对传统极限学习机存在的隐层节点随机性和输入向量权重一致性的问题,提出了鲁棒性增量极限学习,提高了判别模型的准确性.通过在公共数据集上的实验结果表明：该模型可以在很短时间内实现图像的自动标注,对低频词汇具有较强的鲁棒性,并且在平均召回率、平均准确率、综合值等多项指标上均高于现流行的大多数图像自动标注模型.     

一种新型的基于深度学习的时变信道预测方法

针对高速移动正交频分复用系统,提出了一种新型的基于深度学习的时变信道预测方法。为了避免网络参数随机初始化造成的影响,本文方法首先基于数据与导频信息获取较理想的信道估计,利用其对BP神经网络进行预训练处理,以获取理想的网络初始参数;然后,基于预训练获取网络初始值,利用基于导频获取的信道估计对BP神经网络进行再次训练,以获取最终的信道预测网络模型;最后,本文方法基于该预测网络模型通过线上预测实现了时变信道的单时刻与多时刻预测。仿真结果表明,本文方法可以显著地提高时变信道预测精度,且具有较低的计算复杂度。     

基于卷积神经网络迁移学习的飞机目标识别

飞机目标识别是地面情报系统的一项重要关键技术。近年来火热的深度学习方法,如卷积神经网络,展现出对于图像识别任务的优越性能。但是,训练卷积神经网络需要大量的带标签样本以估计规模庞大的模型参数,因而限制了其在雷达目标识别领域中的应用。针对飞机目标识别中的小样本问题,文中引入适用于有限数据场景的迁移学习技术,预先在其他大样本高分辨距离像数据上训练一个初始卷积神经网络模型,再结合当前飞机目标识别任务调优模型参数。在实测数据上的实验结果显示,与仅使用卷积神经网络的方法相比,所提方法可显著提升识别准确率,验证了方法的有效性。     

基于深度学习的乳液泵缺陷检测算法

为了实现对工业产品乳液泵的缺陷检测,本文采集泵顶、泵上端、泵下端、尾管4个角度的样本图像,并基于深度学习中迁移学习和卷积神经网络的原理分别构建各角度的分类模型以检测缺陷样本。首先,使用Mini-ImageNet数据集预训练网络模型。然后,调整模型结构并加载预训练网络的参数,并将乳液泵各角度的训练集和验证集经过图像预处理算法后输入至卷积神经网络中训练,根据训练过程中验证集准确率的变化调整网络超参数,得到最终网络模型。最后,将预处理后的乳液泵测试样本输入至训练好的模型中,检测最终模型的缺陷识别效果。最终4个角度检测准确率均在93%以上,单样本检测用时为2.52s,优于传统方法。本文算法可用于设计乳液泵缺陷检测系统,该系统能与工业结构相结合筛选出有缺陷的泵体,也可拓展到工业其他物件的缺陷检测。     

基于自适应深度稀疏网络的在线跟踪算法

视觉跟踪中,高效鲁棒的特征表达是解决复杂环境下跟踪漂移问题的关键。该文针对深层网络预训练复杂费时及单网络跟踪易漂移的问题,在粒子滤波框架下,提出一种基于自适应深度稀疏网络的在线跟踪算法。该算法利用ReLU激活函数,针对不同类型目标构建了一种具有自适应选择性的深度稀疏网络结构,仅通过有限标签样本的在线训练,就可得到鲁棒的跟踪网络。实验数据表明：与当前主流的跟踪算法相比,该算法的平均跟踪成功率和精度均为最好,且与同样基于深度学习的DLT算法相比分别提高了20.64%和17.72%。在光照变化、相似背景等复杂环境下,该算法表现出了良好的鲁棒性,能够有效地解决跟踪漂移问题。     

采用深度卷积神经网络方法的毫米波图像目标检测

通过收集大量的毫米波图像并建立相应的人体数据集进行检测,提出基于Faster R-CNN深度学习的方法检测隐藏于人体上的危险物品。该方法将区域建议网络和VGG19训练卷积神经网络模型相结合,构建了面向毫米波图像目标检测的深度卷积神经网络。为了提高毫米波图像的处理能力,采用Caffe深度学习框架在图形处理单元上进行训练和测试。实验结果证明了基于Faster R-CNN深度卷积神经网络的目标检测方法能有效检测毫米波图像中的危险物品,并且目标检测的平均准确率约94%,检测速度约为6 frame/s,对毫米波安检系统的智能化发展有着极其重要的参考价值。     

基于5G边缘计算的深度学习架构与应用

针对深度神经模型在网络边缘难以训练的问题,构建了一种基于5G边缘计算的深度学习模型训练架构。架构利用5G边缘计算接入网打通边缘智能设备与边缘计算层的数据通信,模型训练过程采用各边缘计算节点利用本地数据进行全模型训练,再由中心服务器进行模型参数汇集和更新的分布式训练模式,既保证了模型训练的数据集多样性,又减少了网络压力和保障了本地数据隐私,是一种非常具有潜力的深度学习边缘计算架构。     

基于数据扩维的SAR目标识别性能提升技术

卷积神经网络的出现使得深度学习在视觉领域取得了巨大的成功,并逐渐延伸到合成孔径雷达(SAR)图像识别领域。然而,SAR图像样本量不足,难以支撑卷积神经网络的训练需求,并且SAR图像包含大量相干斑噪声及不确定性,网络结构的设计较为困难。所以,深度学习在SAR图像识别领域的应用受到阻碍。针对上述问题,文中提出一种基于数据扩维的SAR目标识别性能提升方法,通过对原始SAR 图像进行相关预处理操作并把处理后图像与原始图像结合,从而将一维的原始数据扩充成多维数据来作为训练样本。该扩维方法不仅间接扩充了样本量来支撑网络训练,同时也在网络训练前加入了“主动学习冶影响,所以无需针对SAR图像特性来构建复杂卷积网络,而采用成熟、简单的网络进行训练就可以达到理想的测试精度。最后,使用MSTAR 数据对该方法进行了性能验证,实验结果显示了所提方法的有效性。     

基于群卷积神经网络的恶意域名检验方法

针对恶意域名检测中存在的随机性大、现实样本少的缺陷,导致深度学习模型训练易出现过拟合的问题,提出了一种基于群卷积神经网络的恶意域名检测方法。首先将域名转换为嵌入词向量表示,然后通过随机维度组合生成随机数据集并构建卷积神经网络组,鉴于Inception结构优势将其加入到网络中,最后针对数据集易出现的类间样本失衡问题,引入了类间平衡系数以抑制模型训练过拟合,提高模型泛化能力。实验结果表明,在采集的域名检测数据集上,所构建的模型能够有效实现恶意域名检测;经过参数优化,相比于浅层模型组合分类器与典型深度神经网络模型LSTM-CNN,群卷积神经网络对所构建的域名检测集检测准确率分别提升了4%、1%,达到98.9%。     

基于双层孪生神经网络的区块链智能合约分类方法

当前通过深度学习方法进行区块链智能合约分类的方法越来越流行,但基于深度学习的方法往往需要大量的样本标签数据去进行有监督的模型训练,才能达到较高的分类性能。该文针对当前可用智能合约数据集存在数据类别不均衡以及标注数据量过少会导致模型训练困难,分类性能不佳的问题,提出基于双层孪生神经网络的小样本场景下的区块链智能合约分类方法：首先,通过分析智能合约数据特征,构建了可以捕获较长合约数据特征的双层孪生神经网络模型;然后,基于该模型设计了小样本场景下的智能合约训练策略和分类方法。最后,实验结果表明,该文所提方法在小样本场景下的分类性能优于目前最先进的智能合约分类方法,分类准确率达到94.7%,F1值达到94.6%,同时该方法对标签数据的需求更低,仅需同类型其他方法约20%数据量。