自然语言处理的计算模型

本文讨论自然语言处理的计算模型。目前已经存在有各种类型的语言计算模型,如分析模型、概率统计模型、混合模型等,这些模型各具特色,并存在其自身的局限性。自然语言处理作为一个不适定问题,我们将讨论求解这类问题的本质困难,面临的挑战,以及解决这些困难的途径。     

SVM和HMM混合模型在人脸识别中的应用

采用支持向量机（SVM）和隐马尔可夫模型（HMM）相结合的方法进行人脸识别。首先对照片中的人脸进行定位,从定位区域提取人脸各个器官的独立基特征,然后使用支持向量机和隐马尔可夫混合模型对定位区域进行人脸识别。利用SVM和HMM结合的优点,取得较高的识别率。     

混合模型在经济时间序列预测中的应用研究

研究经济预测问题,为社会经济发展提供预测依据.由于经济时间序列是一种多维、非线性数据,采用单-的线性或非线性模型都不全面反映特点,导致预测精度不理想.为了提高经济时间序列预测精度,提出一种多变量自回归(CAR)和支持向量机(SVM)相结合的混合预测方法.混合方法首先利用CAR模型对经济时间序列的线性部分进行预测,然后采用支持向量机对非线性部分进行预测,将预测结果组合在-起,得到混合模型的预测结果.实验结果表明,混合模型的预测精度明显优于单独模型;发挥了2种模型的优势,得到一种精度高的经济预测效果.     

遗传支持向量机模型优化在入侵检测中的应用

针对目前入侵检测检测精度低的问题,根据遗传和支持向量机算法的特点,建立了一种遗传支持向量机模型。该模型首先用遗传算法优化支持向量机参数,再用优化后的支持向量机构建入侵检测模型,使用该模型进行入侵检测。实验通过讨论了支持向量机参数的选择对检测精度的影响,选取了合适的参数(c,σ)。结果表明,把这种遗传支持向量机模型用于入侵检测提高了检测精度。     

基于混合模型的中国人名自动识别

本文提出了一种支持向量机(SVM)和概率统计模型相结合的中国人名自动识别方法。该方法首先按字抽取特征向量的属性得到训练集,采用多项式核函数建立SVM人名识别模型,然后在特征空间中计算测试样本到SVM最优超平面的距离,当该距离大于给定的阈值时使用SVM对测试样本进行分类,否则使用概率统计方法。实验表明,采用混合模型,对样本在空间的不同分布使用不同的方法可以取得比单独使用SVM或概率统计更好的分类效果,系统开式综合指标F-值比单纯使用支持向量机方法提高了1.51%。     

支持向量机决策树在隐患预警模型中的应用

危化企业的安全监控数据具有社会价值,对安全隐患进行实时精确的预测是预警研究的热点,本文从人、设备、环境和管理四个维度出发,对安全生产隐患预警的相关指标进行分析,构建隐患预警指标体系,在此基础上,构建了自底向上的基于支持向量机的决策树多分类预警模型,实现对安全等级的的准确分类并用于预警未来的安全生产状态,通过与自顶向下的多分类模型比较,证实本文所采用的预警模型具有较好的实时性和精确度,满足对预警模型的基本要求.     

基于灰度混合核AR-SVM的预警模型及应用

为提高市场偏好预警分析算法的有效性,提出一种基于灰色混合核AR-SVM模型的新方法。使用支持向量机(SVM)算法来构建财务市场风险预警分析模型,该模型存在非极端风险和极端风险两种情况。采用SVM算法找到基于训练集的最优分类过程。SVM模型容易出现极端风险预警,因此由改进的灰色模型处理市场偏好预测问题的错误市场偏好数据。采用混合核函数对SVM算法进行改进,实现样本数据,提高自回归模型的预测性能。SVM算法可以用于提高市场预警分析的准确性。实验结果表明,该方法可以很好地分析市场偏好数据。     

稀疏贝叶斯模型与相关向量机学习研究

虽然支持向量机在模式识别的相关领域得到了广泛应用,但它自身固有许多不足之处.相关向量机是在稀疏贝叶斯框架下提出的稀疏模型,模型没有规则化系数,核函数不要求满足Mercer条件.相关向量机不仅具备良好的泛化能力,而且还能够得到具有统计意义的预测结果.首先介绍了稀疏贝叶斯回归和分类模型,通过参数推断过程,将相关向量机学习转化为最大化边缘似然函数估计,并分析了3种估计方法,给出了快速序列稀疏贝叶斯学习算法流程.     

组合模型在人才需求预测中的应用研究

为了提高人才需求预测精度,提出一种将灰色理论和支持向量机相结合的人才需求预测模型。首先采用灰色预测模型预测人才需求基本变化趋势,然后运用支持向量机对灰色模型预测结果进行修正,以提高人才需求预测精度。结果表明,组合预测模型提高了人才需求的预测精度,更能描述人才需求变化规律,为人才需求预测提供了一种新的预测方法。     

油田预警分析模型的研究与设计

目前我国大部分的石油产区已经进入生产开采的中后期,此时为了能够提高石油的采收率来满足社会生产生活,必须及时有效地对油田的产量进行预警分析。本文提出一种油田预警分析模型,该模型采用支持向量机方法对油田开发过程中的油田区块进行预警,并且对抽油单井进行实时的监控与诊断,分析可能出现的各种问题,进而可以在异常事件初期及时发现生产中的异常情况,以此来进行预警,提前采取预防措施,从而实现油田产量的稳产高产。实验结果证明该模型具有较高的预测准确性。     

自然语言处理中主题模型的发展

主题模型在自然语言处理领域受到了越来越多的关注.在该领域中,主题可以看成是词项的概率分布.主题模型通过词项在文档级的共现信息抽取出语义相关的主题集合,并能够将词项空间中的文档变换到主题空间,得到文档在低维空间中的表达.作者从主题模型的起源隐性语义索引出发,对概率隐性语义索引以及LDA等在主题模型发展中的重要阶段性工作进...     

自然语言处理预训练模型的研究综述

近年来,深度学习技术被广泛应用于各个领域,基于深度学习的预处理模型将自然语言处理带入一个新时代。预训练模型的目标是如何使预训练好的模型处于良好的初始状态,在下游任务中达到更好的性能表现。对预训练技术及其发展历史进行介绍,并按照模型特点划分为基于概率统计的传统模型和基于深度学习的新式模型进行综述;简要分析传统预训练模型的特点及局限性,重点介绍基于深度学习的预训练模型,并针对它们在下游任务的表现进行对比评估;梳理出具有启发意义的新式预训练模型,简述这些模型的改进机制以及在下游任务中取得的性能提升;总结目前预训练的模型所面临的问题,并对后续发展趋势进行展望。     

计算机自然语言处理

系统的有效性取决于系统中包含的智能化程度, 如视觉、听觉、自然语言处理及对话系统等。一个有效的系统应能模拟人类的问题回答和推理过程,并能分析人们对问题的回答。本文介绍一个简单的自然语言接口NLI(National Language Interface), 它能接受、分析用户用自然语言的输入。使用PROLOG语言, 我们正在IBM-PC机上实现这个系统。     

Natural Language Processing for Industry

Recently, natural language processing applications have become very popular in the industry. Examples of such applications include “semantic” enterprise search engines, document categorizers, speech recognizers and – last but not least – conversational agents, also known as virtual assistants or “chatbots”. The latter in particular are very sought-after in the customer care domain, where the aim is to complement the live agent experience with an artificial intelligence able to help users fulfil a task. In this paper, we discuss the challenges and limitations of industrial chatbot applications, with a particular focus on the “human-in-the-loop” aspect, whereby a cooperation between human and machine takes place in mutual interest. Furthermore, we analyse how the same aspect intervenes in other industrial natural language processing applications.     

受控自然语言的应用和处理

自然语言是人类交流最自然的方式。但其复杂性和模糊性常常给有效的交流带来问题。现代社会尤其是当前信息时代面对大量的信息数据,不少工业场景和科研领域以及各种人机交互的应用要求清晰精准、标准化而又较为自然的表达和交流,受控自然语言随着这些需求应运而生。该文讨论受控自然语言及其性质、分类和应用,以及受控自然语言的计算处理方法。该文将以航空工业民用飞机所涉及的英语文本数据为例来阐述受控自然语言在工业场景中的作用和重要性,并且简要讨论受控自然语言更为广泛的意义和价值,涉及其他领域包括当前热门的人工智能等相关的课题。     

Paradigm Shift in Natural Language Processing

Machine Intelligence Research - In the era of deep learning, modeling for most natural language processing (NLP) tasks has converged into several mainstream paradigms. For example, we usually adopt...     

Visual Tools for Natural Language Processing

We describe GATE, the General Architecture for Text Engineering, an integrated visual development environment to support the visual assembly, execution and analysis of modular natural language processing systems. The visual model is an executable data flow program graph, automatically synthesised from data dependency declarations of language processing modules. The graph is then directly executable: modules are run interactively in the graph, and results are accessible via generic text visualisation tools linked to the modules. These tools lighten the ‘cognitive load’ of viewing and comparing module results by relating data produced by modules back to the underlying text, by reducing the amount of search in examining results, and by displaying results in context. Overall, the GATE integrated visual development environment leads to rapid understanding of system behaviour and hence to rapid system refinement, therefore demonstrating the utility of visual programming and visualisation techniques for the development of natural language processing systems.     

Natural Language Processing and the Web

This special issue focuses on applications that innovatively use the Web and Web-scale document collections to create useful resources or applications that let end users navigate the Web more easily. This article is part of a special issue on Natural Language Processing and the Web.     

基于记忆学习方法在自然语言处理中的应用

1 背景介绍在诸多自然语言处理应用问题中,传统手工规则的失败暴露了经典人工智能IF-THEN推理模式在自然语言知识体系尚未完全把握的情况下的缺陷。由此,在一定知识推理机制体系下,自然语言的知识表示和知识获取作为自然语言处理中的关键问题已经成为困扰其形式化的主要瓶颈。