多机制合并注意力的多路径神经机器翻译方法

注意力机制是目前神经机器翻译的主流技术,目前已提出了多种注意力生成机制,各机制生成的注意力各有优劣,但每种机制都不能充分利用全部已知信息,其结果和理论上的真实注意力具有一定差距,影响翻译质量.本文提出一种基于民主决策的合并注意力生成方法,将多种注意力生成机制所产生的注意力进行加权叠加与归一化后,所生成的值作为新的注意力...     

无监督句对齐综述

无监督句对齐在自然语言处理领域是一个重要而具有挑战性的问题。该任务旨在找到不同语言中句子的对应关系，为跨语言信息检索、机器翻译等应用提供基础支持。该综述从方法、挑战和应用3个方面概括了无监督句对齐的研究现状。在方法方面，无监督句对齐涵盖了多种方法，包括基于多语言嵌入、聚类和自监督或者生成模型等。然而，无监督句对齐面临着多样性、语言差异和领域适应等挑战。语言的多义性和差异性使得句对齐变得复杂，尤其在低资源语言中更为明显。尽管面临挑战，无监督句对齐在跨语言信息检索、机器翻译、多语言信息聚合等领域具有重要应用。通过无监督句对齐，可以将不同语言中的信息整合，提升信息检索的效果。同时，该领域的研究也在不断推动技术的创新和发展，为实现更准确和稳健的无监督句对齐提供了契机。     

基于模型结构先验的神经机器翻译研究

随着国际交流的增加，有必要对机器翻译模型进行研究，以提高英语翻译的质量。研究开发了一个基于分层先验模型结构的神经机器翻译框架模型，并利用定向动态路由对其进行改进。实验结果表明，FRNN+PRNN模型的翻译性能得到了大幅提升，优化后模型在测试集MT04、MT05、MT06上面的翻译结果分值分别为48.13、45.98、42.85,评分值远远高于RNMT模型和优化前模型。优化后模型在人工和自动评价中的翻译质量分值均最高，具有最高的翻译质量和最少的遗漏、重复翻译；NMT、优化前模型、优化后模型的CDR值分别为0.80、0.76、0.73,说明优化后模型具有很好的翻译忠实度和翻译质量。     

基于混合自注意力机制的神经机器翻译

编码器-解码器结构是神经机器翻译最常用的一种框架，许多新型结构都基于此框架进行设计以改善翻译性能。其中，深度自注意力网络是非常出色的一种网络结构，其利用了自注意力机制来捕获全局的语义信息。然而，这种网络却不能有效地区分每个单词的相对位置，例如，依赖单词究竟位于目标单词的左边还是右边，也不能够捕获当前单词的局部语义。为了缓解这类问题，该文提出了一种新型的注意力机制，叫做混合注意力机制。该机制包含了对自注意力网络设计的多种不同的特定掩码来获取不同的语义信息，例如，全局和局部信息，以及左向或者右向信息。最后，该文提出了一个压缩门来融合不同类型的自注意力网络。在三个机器翻译数据集上的实验结果表明，该文方法能够取得比深度自注意力网络更好的结果。     

基于多元信息融合的神经机器译文自动评价方法

机器译文自动评价对推动机器翻译发展和应用有着重要作用。最新的神经机器译文自动评价方法使用预训练语境词向量提取深层语义特征，并将它们直接拼接输入多层神经网络预测译文质量，其中直接拼接操作容易导致特征间缺乏深入融合，而逐层抽象进行预测时容易丢失细粒度准确匹配信息。针对以上问题，该文提出将中期信息融合方法和后期信息融合方法引入译文自动评价，使用拥抱融合对不同特征进行交互中期融合，基于细粒度准确匹配的句移距离和句级余弦相似度进行后期融合。在WMT’21 Metrics Task基准数据集上的实验结果表明，提出的方法能有效提高其与人工评价的相关性，达到与参加评测最优系统的可比性能。     

汉英机译系统中指代的确定

汉语中存在大量指代现象，这些问题的解决对于提高机器翻译译文的质量有着重要作用。对句子以及段落中出现的指代现象进行分析，提出了确定指代的实用方法，对机器翻译中的上下文处理帮了初步探索。     

汉英统计机器翻译中A*搜索算法研究与实现*

分析了基于IBM Model 4的A*搜索算法和启发函数，由于仅靠启发函数难以找到最优译文，因此在搜索中采用了部分宽度搜索，以扩大搜索的范围。将该算法应用于汉英统计机器翻译中，实验结果表明改进后的算法获得了较好的翻译质量和效率。