基于多头自注意力机制的深度缺陷分派模型

当前,缺陷跟踪系统通过缺陷报告实现缺陷与修复者的匹配。然而,以往的缺陷分派模型过于依赖缺陷报告的文本质量,引入自然语言中大量的冗余信息,并忽略了缺陷报告的元字段作为标签属性时存在于修复者之间的社区关系,使得模型结果表现较差。针对以上问题,本文提出一种基于多头自注意力机制的深度缺陷分派模型MSDBT(Multi-head Self-attention Deep Bug Triage)。对缺陷报告的文本内容以及根据元字段生成的修复者序列进行向量化;通过多头自注意力机制在内部的输入元素之间进行并行注意力计算。在4个开源软件项目上的实验结果表明,MSDBT在召回率指标上较之前模型具有明显的优势。     

基于循环神经网络的多阶段图像去噪方法

图像在采集和传输过程中往往受到噪声污染,去噪任务是图像预处理中的重要步骤.现有的基于深度学习的图像去噪方法往往只进行单次的去噪,容易产生过于平滑或者太多噪点未去除的结果且无法恢复.因此,本文提出了一种基于循环神经网络的多阶段图像去噪方法.该方法包括两个去噪阶段,通过调整两个阶段的训练权重可以使得第1阶段的去噪结果包含部...     

基于循环神经网络的轨迹压缩算法

随着定位技术和存储技术的发展,海量的轨迹被人类记录。如何有效地压缩轨迹中最被人关注的空间路径信息并无损地将原始信息还原,引起了人们的广泛关注。轨迹压缩算法主要分为基于简化线段的压缩和基于路网的轨迹压缩两类,现有算法存在算法假设不合理、压缩能力差等缺点。文中根据路网中轨迹的分布特性以及循环神经网络对变长时序序列的建模能力,提出了基于循环神经网络的轨迹压缩算法,通过深度学习模型高效地概括轨迹分布,同时利用路网结构进一步缩小压缩空间,定量分析了不同输入对算法压缩比的影响。最后通过实验证明,基于循环神经网络的轨迹压缩算法不仅具有比现有算法更高的压缩比,还能支持未经过训练的轨迹数据的压缩;同时验证了终点信息如何对算法压缩比产生影响的假设。     

基于MobileNet卷积神经网络的焊缝缺陷识别

针对焊缝X射线图像缺陷识别传统方法的计算量大与准确度差的问题,提出了基于MobileNet的识别方法。首先对样本图像进行预处理和数量上的增强;然后引入MobileNet结构以解决传统深度卷积神经网络中对计算资源要求高的问题,引入残差结构与ELU激活函数以解决原始MobileNet网络中出现的退化问题与权重偏置更新失效的问题,在训练时应用迁移学习方法,解决小数据集容易过拟合与训练效率低的问题;最后,针对相同数据集,与改进前的网络、AlexNet网络和VGG-16网络进行对比,表明该文方法具备更优的识别准确率和相比传统网络拥有更小的计算量,相比传统网络的缺陷识别方法拥有更大的应用范围。     

基于区域神经网络的TFT-LCD电路缺陷检测方法

对薄膜晶体管液晶显示器（TFT-LCD）边框电路中细微、复杂的缺陷进行检测,一直是自动光学检测（AOI）的一个难点。本文提出基于改进的快速区域神经网络（FasterR-CNN）算法对TFT-LCD边框电路的缺陷进行检测。首先在共享卷积层进行特征提取,然后通过多层的区域提议网络结构生成精确候选区域,根据候选区域的特征和目标分类实现对缺陷的识别和定位。同时设计多种有效的网络结构并详细分析网络层深度及卷积核大小对检测效果的影响,最后进行不同算法的比较。在实际构建的数据集上实验,结果表明本文方法具有良好的检测效果,对6种类别的液晶屏边框电路缺陷识别定位达到平均每张0.12s的检测速度和94.6%的准确率。     

基于U-Net卷积神经网络的轮毂缺陷分割

为实现轮毂缺陷检测自动化,该文依据轮毂X射线图像,提出一种基于U-Net卷积神经网络的自动分割的改进方法。将原始U-Net模型的最大池化操作替换为卷积操作,并加入Dropout层对网络进行优化,提升模型可靠性。同时对带有缺陷的轮毂图像做数据预处理,用于训练改进的U-Net模型。结果表明,该网络在复杂轮毂X射线图像的缺陷识别中表现良好,DICE系数为0.8554,SSIM系数为0.9655,识别速度达到3 ms/张;该方法能较好地实现轮毂射线图像缺陷的自动分割,满足无损检测的自动化需要。     

基于循环神经网络的模糊测试用例生成

模糊测试用例常规的生成方法是随机变异和人工协议分析构造,其分别存在变异盲目效率低和构造复杂代价高的问题。针对上述问题提出运用深度学习技术辅助测试用例生成。利用循环神经网络处理字符文本序列的优势,通过样本数据学习训练结构特征,并预测生成符合结构特征的新数据,与随机变异算法结合构造了自动生成模型。通过以LSTM和GRU算法模型对PDF文件输入型测试用例生成和效果评估,生成的测试用例总体优于常规方法,具有较好的通过率和覆盖率。该方法通过循环神经网络的辅助实现了生成快速高效和构造难度低的优点,达到了生成效果和花费代价的平衡。     

基于卷积神经网络的PCB缺陷检测

印刷电路板(PCB)在生产制造中由于生产工序等问题易导致电路板存在瑕疵缺陷,为提高对电路板缺陷的检测效率,提出了一种基于卷积神经网络(CNN)的电路板缺陷检测网络.该检测网络基于YOLO v4网络进行优化改造,针对于PCB制作精密、复杂,各类缺陷不易检测的难点,在优化后的网络中加入了基于细粒度空间域的长距离全局注意力机...     

基于循环神经网络的实时语音增强算法

基于循环神经网络的RNNoise语音增强算法在非稳态噪声环境中有着优良的噪声抑制效果,但在应对未知噪声时,存在增益估计偏差、频带增益估计过平滑的问题,而基于统计模型的MMSE-LSA语音增强算法,在噪声估计不准确的情况下,也能取得良好的噪声抑制效果.为结合两者的优良特性,将RNNoise中的频带增益估计转换为频带先验信...     

Bug Triaging Based on Tossing Sequence Modeling

Bug triaging, which routes the bug reports to potential fixers, is an integral step in software development and maintenance. To make bug triaging more efficient, many researchers propose to adopt machine learning and information retrieval techniques to identify some suitable fixers for a given bug report. However, none of the existing proposals simultaneously take into account the following three aspects that matter for the efficiency of bug triaging:1) the textual content in the bug reports, 2) the metadata in the bug reports, and 3) the tossing sequence of the bug reports. To simultaneously make use of the above three aspects, we propose iTriage which first adopts a sequence-to-sequence model to jointly learn the features of textual content and tossing sequence, and then uses a classification model to integrate the features from textual content, metadata, and tossing sequence. Evaluation results on three different open-source projects show that the proposed approach has significantly improved the accuracy of bug triaging compared with the state-of-the-art approaches.     

多项式函数型回归神经网络模型及应用

文中利用回归神经网络既有前馈通路又有反馈通路的特点，将网络隐层中神经元的激活函数设置为可调多项式函数序列，提出了多项式函数型回归神经网络新模型，它不但具有传统回归神经网络的特点，而且具有较强的函数逼近能力，针对递归计算问题，提出了多项式函数型回归神经网络学习算法，并将该网络模型应用于多元多项式近似因式分解，其学习算法在多元多项式近似分解中体现了较强的优越性，通过算例分析表明，该算法十分有效，收敛速度快，计算精度高，可适用于递归计算问题领域，该文所提出的多项式函数型回归神经网络模型及学习算法对于代数符号近似计算有重要的指导意义。     

基于循环神经网络的语音识别模型

近年来基于隐马尔可夫模型（HMM）的语音识别技术得到了很大发展。然而HMM模型有着一定的局限性,如何克服HMM的一阶假设和独立性假设带来的问题一直是研究讨论的热点,在语音识别中引入神经网络的方法是克服HMM局限性的一条途径。该文将循环神经网络应用于汉语语音识别,修改了原网络模型并提出了相应的训练方法,实验结果表明该模型具有良好的连续信号处理性能,与传统的HMM模型效果相当,新的训练策略能够在提高训练速度的同时,使得模型分类性能有明显提高。     

一类动态递归神经网络的智能控制器

提出一种改进型动态递归神经网络的自适应控制方法，研究了动态递归网络的学习算法，分析了学习算法的收敛性，并推导了保证算法收敛的有效学习率范围，在此基础上提出了模糊推理自适应学习率方法。计算机仿真实验表明，本文控制方法对于未知、非线性被控对象的控制是有效的。     

基于递归神经网络的散文诗自动生成方法

针对中文散文诗歌的自动生成,提出一种基于循环神经网络的时序性文本生成方法.通过现有语料库构建好一个词语集后,首先给定若干关键词,在聚类模型生成的词语集基础上进行关键词扩展生成首句.在确定首句的基础上,利用上下文模型对已生成内容进行压缩和上文特征获取,最后将之前上下文内容传递给递归神经网络模型实现后续句子的生成.该方法中首句生成的过程利用语言模型中的词汇集扩展,并通过上下文模型获取关联实现上下句的映射关系.本文采用BLEU自动评测方式和人工评测方式,建立起较为标准的评测系统,实验结果证实了该方法的有效性.     

基于改进动态递归神经网络的发酵过程pH值辩识

酒精发酵的pH值具有非线性、时变性和动态性。利用常规辩识方法对pH值进行辩识,一方面,无法准确描述其动态特性;另一方面,由于常规神经网络的权值学习是梯度下降法,在训练过程易陷入局部极小,并且训练速度慢。针对这些问题,将改进的动态递归神经网络应用于pH值的辩识研究。通过实验验证了该算法不但能体现出发酵过程的动态特性,而且通过在动态递归神经网络的权值学习中引入滤波项,能有效地克服常规网络在权值学习过程中的问题。表明该算法对pH值辩识的有效性。     

Bug Prioritization to Facilitate Bug Report Triage

The large number of new bug reports received in bug repositories of software systems makes their management a challenging task.Handling these reports manually is time consuming,and often results in delaying the resolution of important bugs.To address this issue,a recommender may be developed which automatically prioritizes the new bug reports.In this paper,we propose and evaluate a classification based approach to build such a recommender.We use the Na¨ ve Bayes and Support Vector Machine (SVM) classifiers,and present a comparison to evaluate which classifier performs better in terms of accuracy.Since a bug report contains both categorical and text features,another evaluation we perform is to determine the combination of features that better determines the priority of a bug.To evaluate the bug priority recommender,we use precision and recall measures and also propose two new measures,Nearest False Negatives (NFN) and Nearest False Positives (NFP),which provide insight into the results produced by precision and recall.Our findings are that the results of SVM are better than the Na¨ ve Bayes algorithm for text features,whereas for categorical features,Na¨ ve Bayes performance is better than SVM.The highest accuracy is achieved with SVM when categorical and text features are combined for training.     

语音编码中的递归神经网络技术研究

众所周知,线谱对(LSP-LinearSpectrumPair)系数是一种线性预测系数,它表征的是语音谱包络。在时域中它的谱插值性能良好,但是它的插值间隔一般都限制在20～30毫秒之间。为了解决这个问题,本文介绍一种使用递归神经神经网络(RNN-RecurrentNeuralNetworks)来对线谱对系数进行插值的算法。实验结果表明,使用递归神经网络可以使插值的间隔增加到100毫秒而不明显降低合成语音的质量。     

基于时间误差的循环神经网络参数压缩

循环神经网络被广泛应用于各种序列数据处理任务中,如机器翻译、语音识别、图像标注等。基于循环神经网络的语言模型通常包含大量的参数,这一点在一定程度上限制了模型在移动设备或嵌入式设备上的使用。在低秩重构压缩的基础上,增加时间误差重构函数,并采用长短时记忆网络中的输入激活机制,提出了一种基于时间误差的低秩重构压缩方法。多个数据集上的数值实验表明,该方法具有较好的压缩效果。