基于分层输出神经网络的汉语语义角色标注

语义角色标注是自然语言处理中的一项重要任务。当下针对中文语义角色标注的主流做法是通过基于特征的统计机器学习实现的。然而,统计机器学习的方法需要引入经验性的人工特征,这在一定程度上增加了工作量。深度学习在自然语言处理领域的应用使得特征的自动学习成为可能。文章尝试了一种适用于语义角色标注的深层神经网络架构,该模型能自然地推广到其他标注任务。实验表明,深度学习算法能够有效地用于语义角色标注任务,但是我们仍然发现,模型对语义层面知识的学习是相当有限的,基于深度学习的方法还不能取代基于人工特征的统计机器学习算法。     

基于图模型的语义角色标注重排序

传统的语义角色标注模型使用的都是本地特征,不利于捕捉一些全局性的标注错误。该文提出使用图模型对语义角色标注结果进行重排序,利用标记传播迭代算法对标注的结果进行重排序,保证全局标注结果的一致性。该文在PropBank上的实验表明,采用重排序后标注性能有了2.4个F值的显著提升。在不使用系统融合技术的情况下,标注的结果是当前世界最好的性能。     

改进PSO算法优化LSSVM模型的短期客流量预测

旅游客流量的准确预测为旅游目的地资源优化配置、景区战略计划制定提供有效依据。为了提高景区日客流量的预测精度,提出基于改进粒子群算法（Particle Swarm Optimization,PSO）优化最小二乘支持向量机（Least Squares Support Vector Machine,LSSVM）的预测方法,针对PSO算法的惯性权重在采取线性递减策略时不能满足粒子寻优非线性变化的缺陷,从种群中粒子的聚合程度以及种群进化中粒子适应度同惯性权重的关系出发,利用对数函数非线性变化的特性,提出基于对数函数的惯性权重自适应调整方法（Adaptive Logarithmic Particle Swarm Optimization,ALPSO）。通过改进的PSO算法优化LSSVM的参数,建立山岳型风景区日客流量的预测模型。以黄山风景区2012-2015年景区每日上山人数为例,实验结果证明,与基于标准PSO算法、正弦粒子群算法（Sinusoidal Particle Swarm Optimization,SPSO）和高斯粒子群算法（Gaussian Particle Swarm Optimization,GPSO）优化的LSSVM模型相比,ALPSO-LSSVM模型的预测性能更好,是准确预测景区日客流量的有效方法。     

Semantic Role Labeling Using a Grammar-Driven Convolution Tree Kernel

Convolution tree kernel has shown promising results in semantic role labeling (SRL). However, this kernel does not consider much linguistic knowledge in kernel design and only performs hard matching between subtrees. To overcome these constraints, this paper proposes a grammar-driven convolution tree kernel for SRL by introducing more linguistic knowledge. Compared with the standard convolution tree kernel, the proposed grammar-driven kernel has two advantages: 1) grammar-driven approximate substructure matching, and 2) grammar-driven approximate tree node matching. The two approximate matching mechanisms enable the proposed kernel to better explore linguistically motivated structured knowledge. Experiments on the CoNLL-2005 SRL shared task and the PropBank I corpus show that the proposed kernel outperforms the standard convolution tree kernel significantly. Moreover, we present a composite kernel to integrate a feature-based polynomial kernel and the proposed grammar-driven convolution tree kernel for SRL. Experimental results show that our composite kernel-based method significantly outperforms the previously best-reported ones.      

基于改进PSO算法的PID参数自整定

研究了比例-微分-积分(PID)控制器参数自整定问题，提出一种基于改进粒子群优化算法的PID控制器参数自整定方法。采用实编码方法和基于指数曲线的非线性惯性因子取值策略，该途径易于实现，并且提高了寻优的速度和精度。仿真实例表明了该方法的有效性。     

一种改进的粒子群算法在BP网络中的应用研究

采用Sigmoid激活函数的三层前向神经网络能够以任意精度模拟复杂的非线性关系,训练算法对神经网络模式分类的性能有较大影响。基于梯度下降的BP网络存在收敛速度慢、易陷入局部极小的缺陷。粒子群算法是一种全局优化算法。本文针对粒子群算法本身存在的不足加以改进,用改进后的粒子群算法对BP网络进行训练,从而克服BP网络的一些缺陷。采用IRIS分类问题验证了本文提出的方法的有效性。实验结果表明本文采用的方法比普通PSO-BP算法效果更好。     

基于最大熵分类器的语义角色标注

语义角色标注是浅层语义分析的一种可行方案.描述了一个采用最大熵分类器的语义角色标注系统,该系统把句法成分作为语义标注的基本单元,用最大熵分类器对句子中谓词的语义角色同时进行识别和分类.最大熵分类器中使用了一些有用的特征及其组合.在后处理阶段,在具有嵌套关系的结果中,只有概率最高的语义角色被保留.在预测了全部能够在句法分析树中找到匹配成分的角色以后,采用简单的后处理规则去识别那些找不到匹配成分的角色.最终在开发集和测试集上分别获得了75.49%和75.60%的F1值,此结果是已知的基于单一句法     

一种改进QPSO优化BP网络的入侵检测算法

为了较好克服量子粒子群算法存在早熟收敛的缺点,在分析算法参数和流程的基础上,提出了一种带变异操作的改进量子粒子群优化算法。针对传统BP算法易于陷入局部极小的不足,将改进的算法应用到BP神经网络的学习过程中,修正BP网络的权值和阈值,提高其收敛性能。并将优化的BP神经网络模型应用于入侵检测中,用标准入侵检测数据对基于不同算法的BP网络进行仿真实验比较。实验结果表明,改进后的BP算法迭代次数少,收敛速度有所提高,在一定程度上提高了入侵检测率。     

基于改进PSO算法的随机投入产出模型?

建立一种基于改进PSO算法的随机投入产出模型,在随机变量分别服从正态分布和指数分布时比较其优化结果,利用改进粒子群算法和标准粒子群算法对模型进行实例求解。仿真实验结果表明,考虑随机变量服从指数分布更符合实际经济运行状况,且计算得到的各行业产出大于随机变量服从正态分布时的情况。     

基于改进粒子群优化算法的BP预测模型

该论文提出了基于改进粒子群优化的BP算法. 在该算法中,通过对粒子群优化算法中的惯性权重的计算方法的改进,同时利用改进的PSO算法替代了BP算法中的梯度下降算法,使得改进后的算法具有不易与陷入局部极小等优点. 并将该算法利用在预测气温上,实验证明： 改进后的算法在预测模型上能够取得较好的预测效果,提高预测精度.     

基于深度神经网络的语义角色标注

该文提出了一个基于多层长短期记忆神经网络的语义角色标注方法,并装置了新颖的“直梯单元”(elevator unit, EU)。EU包含了对单元内部输入和输出的线性连接,使信息可以通畅地在不同层之间传播。通过EU,一个20层的LSTM网络可以得到比较充分的优化。重要的是,这个线性连接包含的“门”函数可以正则和控制信息在时间方向和空间方向上的传播。不同层次的抽象信息也可以被EU直接带到输出层进行语义角色标注。尽管这个模型非常简单,不需要任何额外的特征输入,但是它取得了理想的实验结果,在CoNLL-2005公开数据集上取得了F=81.56%的结果,在CoNLL-2012公开数据集上取得了F=82.53%的结果,比之前最好的结果分别提高了0.5%和1.26%。另外,在领域外的数据集上我们也取得了F值2.2%的显著提升,这是当前世界上最好的性能。该模型比较简洁,非常容易实现和并行,在单一的K40 GPU上取得了每秒11.8K单词的解析速度,远远高于之前的方法。     

An Improved Neural Network with Random Weights Using Backtracking Search Algorithm

This paper proposes a hybrid algorithm by combining backtracking search algorithm (BSA) and a neural network with random weights (NNRWs), called BSA-NNRWs-N. BSA is utilized to optimize the hidden layer parameters of the single layer feed-forward network (SLFN) and NNRWs is used to derive the output layer weights. In addition, to avoid over-fitting on the validation set, a new cost function is proposed to replace the root mean square error (RMSE). In the new cost function, a constraint is added by considering RMSE on both training and validation sets. Experiments on classification and regression data sets show promising performance of the proposed BSA-NNRWs-N.     

基于图模型的中文多谓词语义角色标注方法

针对语义角色标注中的多谓词现象,从图模型角度出发,提出一种中文多谓词语义角色标注方法。对句中的多个谓词进行联合语义分析,并采用随机爬山算法优化图模型。利用句中多个谓词之间的全局特征,提升语义角色的区分度。在中文命题库上的实验结果表明,该方法可以明显提高语义角色标注的分类效果。     

基于树状条件随机场模型的语义角色标注

针对线性条件随机场模型不能清楚表达语义角色内部结构关系的问题,提出一种基于树状条件随机场模型的语义角色标注方法。对句法依存树上的层次依赖关系和兄弟依赖关系进行标注,处理状态变量之间的长距离依赖,利用CRFs模型能添加任意特征的优点,在系统中添加新的组合特征和介词短语角色。在CoNNL 2008 Shared Task语料库上进行实验,结果证明该方法能有效提高系统的准确率和召回率。     

一种基于共享度模型的改进Rete算法

专家系统是人工智能领域的重要分支,其中知识表示和知识推理是专家系统的重要组成部分.Rete算法是一种高效的模式匹配算法,能够解决专家系统中推理效率的问题,但是Rete算法在构建Rete网络和推理过程中存在空间和性能方面问题.本文采取有穷自动机理论的思想,阐述了Rete算法中的模式共享度和节点共享度模型,提出了一种Rete网络构建和推理算法来降低Rete网络的复杂度,提升Rete网络推理的速度.最后实验结果表明,本算法能够降低网络复杂度,提升推理速度.     

应用改进的弹簧质点模型进行图像滤波的算法

为了克服单一使用中值滤波方法去除脉冲噪声会造成图像细节信息丢失的缺陷,提出一种基于弹簧质点模型检测的迭代中值滤波算法.首先将被检测点作为中心点,其周围8个方向的像素点对该中心点的拉力组成一个平面内的弹簧质点模型,根据弹簧质点模型的稳定条件,即平面汇交力系的平衡原理来检测像素点是否为噪声点;然后通过迭代方法,只用信号点来修改噪声点的像素值.实验结果表明,与传统的滤波算法相比,文中算法可以更有效地去除图像中的脉冲噪声并且保留原图像的细节.     

一个改进的角色层次化关系模型及其应用

该文针对传统的RBAC模型的不足,提出私有权限、公有权限和特征权限等概念,且提出一般继承、私有化继承、公有化继承和无特征继承等角色继承方式,并基于这些新的概念和方法建立了一个改进的角色层化关系模型。应用实例说明,新模型在描述同样的角色层次关系时角色数量比传统模型要少,因而比传统模型更加简化和直观,特别适合于在大型角色层次关系情况下的应用。     

PSO在非线性电路及器件参数优化设计中的应用

为了解决非线性电路的一个多参数组合优化问题,使用了一种全局优化搜索方法-粒子群优化方法(PSO)来获取非线性电路及其中非线性器件参数的最优组合.首先对非线性电路建立线性化的数学模型,分析关键参数的基本特性,然后利用粒子群优化方法良好的全局搜索特性以及快速的收敛速度,在整个参数空间进行高效并行搜索来获得参数组合的最优化,以有效降低电路功耗.对典型的非线性分压式偏置电路以及其中BJT参数提取的设计实例证明了该方法的有效性以及其在搜索速度上的优越性.     

基于改进PSO算法的机器人路径规划及实验

针对粒子群优化(PSO)算法存在的优化精度低以及早熟的缺点,提出一种改进的PSO算法用于机器人路径规划.根据梯度下降法中变量沿负梯度方向变化的原则,提出了改进的粒子速度更新模型.为了提高粒子的搜寻效率及精度,增加了自适应粒子位置更新系数.引入ε贪心策略设计了改进的粒子群优化算法.在部分优化测试函数上的多次试验结果表明,所提算法较其他算法模型搜索精度至少提高2倍,收敛速度也有大幅度的提升.将所提算法和改进的DC-HPSO(动态聚类混合粒子群优化)算法应用于静态障碍物下的路径规划仿真和实际试验,结果表明所提模型具有高精度、高效率、高成功率的优点.