电网故障处置预案文本中的命名实体识别研究

电网故障处置预案是电网故障处置的重要参考,对电网故障处置预案文本中各类电力设备、名称编号等细粒度的关键实体信息进行抽取,是实现计算机学习理解预案内容并进一步支撑故障处置智能化的重要基础。文中提出一种基于深度学习的电网故障处置预案文本命名实体识别技术,首先采用字向量表征预案文本,然后将注意力机制以及双向长短期记忆网络相结合,有所侧重地提取实体词深层字符特征,最后采用条件随机场求解最优序列化的标注。算例表明:文中所提预案文本命名实体识别模型不依赖人工特征,能够自动高效地提取文本特征,准确识别预案文本中细粒度的实体词,满足预案文本中关键实体信息精确定位和识别的要求。     

一种基于循环神经网络的电网客服语音文本实体识别算法

针对电力领域语音转写文本质量差,不能很好解决电网领域命名实体识别问题,以电网信息通信(information and communications technology,ICT)系统语音转写文本数据为研究对象,构建了一种基于双向长短期记忆(bi-directional long short-term memory,BiLSTM)神经网络融合条件随机场(conditional random field,CRF)面向电力文本特征的实体识别算法。通过与循环神经网络(recurrent neural network,RNN)等神经网络算法的对比验证:BiLSTM-CRF在电网ICT领域实体识别准确率达79%,F1值达80%,优于LSTM(long short-term memory)和其他RNN算法,并能较好地识别转写错误实体。该算法有效提升了领域语音转写文本的实体识别准确率,同时降低了领域语音识别技术成本,为电网客服领域信息检索、智能问答、个性化推荐等自然语言处理应用提供了高质量非结构化样本数据。     

基于BERT和知识蒸馏的航空维修领域命名实体识别

针对军事航空维修领域命名实体识别训练数据少，标注成本高的问题，改进提出一种基于预训练BERT的命名实体识别方法，借鉴远程监督思想，对字符融合远程标签词边界特征得到特征融合向量，送入BERT生成动态字向量表示，连接CRF模型得到序列的全局最优结果，在自建数据集上进行实验，F1值达到0.861。为压缩模型参数，使用训练好的BERT-CRF模型生成伪标签数据，结合知识蒸馏技术指导参数量较少的学生模型BiGRU-CRF进行训练。实验结果表明，与教师模型相比，学生模型以损失2%的F1值为代价，参数量减少了95.2%,运算推理时间缩短了47%。     

基于自然语言处理的弱监督知识获取系统的实现

知识获取多年来一直被认为是阻碍智能系统开发的瓶颈问题,尤其是互联网时代,大量的信息都以非结构化的文本形式存在。本文运用分布式计算思想设计了一个基于互联网大规模语料库的知识自动获取系统。采用弱监督条件下机器学习的方法对信息自动挖掘和获取,实现机器对知识的自动学习和挖掘、新词词典发现、实体关系模板提取、命名实体识别等功能。利用该系统分别对未登录新词发现和地名识别两种应用进行了实验,运用N gram和互信息(PMI)方法分别取得了72.1%和87.28%的准确率。     

基于对比学习的信息缺失手势识别新方法

针对现有深度学习模型识别信息缺失手势需要大量标注数据、更深的网络需要更多参数的问题，首先收集整理了一个信息缺失手势数据集IMG＿NUIST,然后借鉴对比学习思想，提出了一个新的信息缺失手势识别模型CLGR,该模型通过对手势类内和类间差异度的对比约束提高模型特征学习性能。在两个经典数据集(ASL Alphabet和NUS I)和新提出的IMG＿NUIST数据集上进行了广泛实验，消融实验表明对比学习思想能有效地将平均识别准确率提高至98.60%以上且收敛速度显著提升；对比实验表明本文所提模型计算复杂度比其它4个模型平均简化了41.4%,在NUS I和IMG＿NUSIT数据集上的手势识别准确率超过四个对比方法，特别是在NUS I数据集上将识别准确率平均提高了17.35%,在ASL Alphabet数据集上的识别准确度仅比最优结果低0.43%。实验结果说明所提模型对于缺失手部部分信息和杂乱背景等问题的手势识别任务有显著效果，具有收敛速度更快、计算复杂度更少的优秀性能，有很好的实用价值。     

基于WiFi信号的老年人家居行为识别算法

针对老年人家居行为识别中的隐私保护、跌倒检测和识别率低的问题，本文提出了一种新的基于WiFi信号的人体行为识别算法。首先，在模拟家居环境中自主采集了10种老年人日常行为(喝水、跌倒、坐-躺下等);然后对提取到的WiFi信道状态信息用巴特沃斯滤波器降噪，并使用主成分分析方法数据降维；最后将处理后有清晰特征的CSI信号输入到基于注意力的双向长短时记忆模型用于行为分类，高效的双向结构和注意力机制不仅产生了信息更丰富的特征，还提高了行为识别的泛化性能。实验结果表明，与一些基准方法相比，本文算法在公共数据集和自主采集的数据集上都能实现对所有行为的最佳识别性能，准确率分别为98%和96%。     

一种基于多模态主题模型的图像自动标注方法

大部分传统的图像自动标注方法需要训练数据中具有精准的标注词,然而这样的数据通常是需要人工标注的,因此获取成本较高,且存在一定的主观性。该文提出一种全新的图像自动标注方法,通过结合自然语言理解领域实体识别的技术,充分利用图像周边自带环绕文本,将图像视觉特征、环绕文本以及实体抽取所得到的能够描述图像中显著特征的词在概率主题模型中进行联合建模,学习到多种数据模态之间的关联关系,从而实现图像的自动标注。在UIUC Pascal Sentence数据集上的实验证明该方法比传统方法具有更好的图像标注预测以及检索性能。     

基于骨骼的双支融合模型的人体行为识别

针对循环神经网络存在提取特征单一,对特征的空间信息处理不充分的问题,提出一种基于骨骼的双支融合的人体行为识别模型。该模型由双向循环门网络和多尺度的残差网络融合的双支网络中进行特征提取,得到丰富的时间和空间上的特征信息,并且在双向循环门网络中增加注意力机制,进一步提升整个网络的性能,最后将特征信息经过分类器进行分类得到动作。分别使用UCF101和HMDB51数据集进行实验,准确率分别为98.0%和67.8%。通过实验测试,证明该模型能够获得更加完整的特征信息并且具有良好的性能指标。     

基于残差网络的地基云图识别方法研究

地基云的精细化识别对气候预测和气象研究具有重要的意义。针对目前地基云识别准确率低、泛化性差、不利于边缘化部署的问题,提出了基于残差网络的地基云图识别模型,命名为GBcNet。设计的模型由1个卷积层、2个池化层、5个残差块以及1个全连接层构成,利用第1个卷积层和第1个池化层初步提取特征信息并降低特征图大小,通过残差块提取更多的特征信息,同时抑制网络的过拟合和梯度消失,最后利用另1个池化层降低特征图的大小,并通过全连接层输出识别结果。利用数据集对模型进行训练和测试,实验结果表明,GBcNet模型对数据集的综合平均准确率达到了96.02%,11种类别地基云的识别精确率均在93%～99%,且具有更好的泛化性,单个类别和整体识别性能均优于其他模型。进一步采用SWIMCAT数据集对模型进行实验,综合识别准确率达99.7%,证明模型对地基云图识别具有普适性。模型结构简单,相较于其他模型,更有利于边缘化部署。     

面向知识图谱构建的设备故障文本实体识别方法

电力设备在运行维护中积累了大量包含重要实体信息的故障文本,然而文本实体边界模糊、术语较多等特点导致传统实体识别方法训练效率低下,效果难以提升。为此,该文提出一种新的实体识别方法 I-BRC(integrated algorithm of BERT based BiRNN with CRF)。该方法采用字嵌入模型将文本逐字转化为字向量序列以避免分词处理带来的误差累积;利用循环神经网络与概率图模型对文本的序列特征信息进行抽取;集成多个单一类型实体识别器分别独立学习不同类型实体的特征并采用并行预训练机制提升算法训练效率;最后利用多类型识别器对识别结果进行整合。此外,通过调整单一类型实体识别器可以灵活机动地应对不同电力设备的实体识别任务,避免重复训练,节省计算资源。实验表明,所提出的I-BRC仅需3次迭代就可收敛,训练效率大幅度提升;且该模型的F1值、精确率、召回率分别达到了88.0%、86.8%与89.2%,相比传统模型性能提升了7.5%～29.3%,验证了所提模型的有效性与可行性。     

混凝土坝施工文档实体知识智能挖掘方法

混凝土坝施工信息多以文档文本的形式呈现,其体量大、分布广、内在关系复杂,人工操作难以准确、高效地提取信息知识内容,理清错综复杂的施工信息关系.在自然语言处理技术中,命名实体是文本信息知识的载体,实现精确快速的实体识别是施工知识挖掘的重要前提.本文提出一种融合深度学习与关联规则技术的混凝土坝施工文档知识智能识别及挖掘分析...     

面向混凝土坝施工管理的知识图谱智能构建

混凝土坝施工管理知识多以文本的形式记录存储,具有数据量大、碎片化严重、层次性差等特点。本文从非结构化文本数据中智能挖掘施工知识,理清知识间的逻辑关系,提升知识的应用效率是混凝土坝施工管理面临的重要问题。本文提出一种混凝土坝施工管理知识图谱智能生成方法,将海量文本数据转化为可直接利用的知识。融合字词向量、BiLSTM-CRF(Bi-directional Long Short-Term Memory-Conditional Random Field)网络、Attention机制,建立混凝土坝施工管理实体智能识别模型,强化施工实体特征,获取混凝土坝施工管理文本中的实体词语。结合已识别的施工实体,定义实体间关系类型,利用互信息提取实体关系,组合形成施工知识链,构建混凝土坝施工管理知识图谱。该方法应用于实际混凝土坝施工管理文本分析中,经过计算得到混凝土坝施工管理实体智能识别模型的F1值为92.48%,优于其他实体识别模型;利用已识别实体间的关联关系,建立了混凝土坝施工管理知识图谱,形成基于知识图谱的施工知识检索机制,实现施工知识的快速提取,提高了施工知识的应用效率。     

基于时频特征分析的变压器有载分接开关运行状态识别

为了对变压器有载分接开关的运行状态进行识别,该研究首先对其运行状态和故障特征进行总结分析,针对分接开关运行过程中产生的振动信号,利用集合经验模态(EEMD)分解为多个固有模态函数分量(IMF),再经过希尔伯特变换法,结合能量熵提取得到基于时频分析的特征向量。将特征向量输入自适应遗传算法(AGA)优化的BP神经网络模型中进行故障识别,并进行数据仿真,与相空间重构后提取的特征向量(PPDC)进行对比,验证不同网络模型下,所提方法的识别准确率和收敛速度。结果表明,以PPDC故障样本作为模型输入时,AGA算法优化前后的BP神经网络模型的识别准确率分别为81.68%和88.32%,收敛次数为981和363,当以基于时频特征提取的故障样本作为模型输入时,AGA算法优化前后的BP神经网络模型的识别准确率分别为91.66%和96.68%,收敛次数为349和159,AGA算法可显著提高BP神经网络模型的性能。由此可见,可将时频特征提取方法与AGA-BP神经网络结合,实现有载分接开关运行状态的有效识别。     

面向配电网知识图谱的配电调度文本实体链接方法

配电调度文本实体链接是借助配电网知识图谱进行调度文本理解和分析的基础,为此提出一种面向配电网知识图谱的配电调度文本实体链接方法.首先根据配电网知识图谱实体和配电调度文本的特点,构建了配电调度文本的语义、发音和词性特征.然后对基于词汇语义特征的跳跃卷积神经网络(LSF-SCNN)的模型结构进行改进,并应用于调度文本和知识...     

面向电网调度领域的实体识别技术

近年随着电网调度领域数据自动化、智能化管理需求的日益增长,知识图谱成为提供知识管理、智能查询、辅助决策等功能的重要技术.实体作为构成知识图谱的核心要素,识别的准确率将直接影响知识图谱的质量.针对电网调度领域,首先分析电网调度实体识别研究现状,明确了实体识别任务目标,然后根据电网调度领域文本数据特征,设计了同时满足局部特...     

基于LLE降维和BP_Adaboost分类器的GIS局部放电模式识别

在气体绝缘组合电器(gas insulated switchgear,GIS)实体模型中分别放置了针-板、悬浮金属颗粒和绝缘子表面固定金属颗粒放电模型,用超声波传感器采集到其放电波形。对放电波形提取的特征向量进行局部线性嵌入(local linear embedding,LLE)算法降维处理,用降维后的向量作为输入对BP_Adaboost分类器进行训练和测试类型识别。识别结果表明,用这样方法进行GIS绝缘缺陷类型识别可以在减少计算量的同时保持较高的识别率,说明了其在局部放电模式识别应用中的有效性。     

CNN A BLSTM network的双人交互行为识别*

关节点数据结合卷积神经网络用于双人交互行为识别存在图像化过程中对交互信息表达不充分且不能有效建模时序关系问题,而结合循环神经网络中存在侧重于对时间信息的表示却忽略了双人交互空间结构信息构建的问题。为此提出一种新的卷积神经网络结合加入注意机制的双向长短时期记忆网络（CNN A BLSTM network）模型。首先对每个人的关节点采用基于遍历树结构进行排列,然后对视频中的每一帧数据构建交互矩阵,矩阵的中的数值为排列后双人之间所有的关节点坐标间的欧氏距离,将矩阵进行灰度图像编码后所得图像依次送入CNN中提取深层次特征得到特征序列,然后将所得序列送入A BLSTM网络中进行时序建模,最后送入Softmax分类器得到识别结果。将新模型用于NTU RGB D数据集中的11类双人交互行为的识别,其准确率为90%,高于目前的双人交互行为识别算法,验证了该模型的有效性和良好的泛化性能。