语言模型中一种改进的最大熵方法及其应用

最大熵方法是建立统计语言模型的一种有效的方法,具有较强的知识表达能力.但是,在用现有的最大熵方法建立统计模型时存在计算量大的问题.针对这一问题,提出了一种改进的最大熵方法.该方法使用互信息的概念,通过Z-测试进行特征选择.将该方法应用于汉语的义项排歧中,实验表明,该算法具有较高的计算效率和正确率.     

基于边缘特征点互信息熵的医学图像配准方法

基于互信息熵的图像配准方法已经被广泛应用于医学图像配准中,为克服互信息配准方法的不足,结合图像空间结构信息,本文提出一种基于边缘特征点互信息熵的医学图像配准方法,设计了包括互信息熵、图像空间结构和形状特征点等多信息融合的配准新测度。算法首先采用改进的形态学梯度提取医学图像边缘轮廓;然后构造了以边缘区域特征和梯度信息为基础的特征点互信息能量函数,并通过最小化能量函数来获取配准参数;最后,结合梯度下降法优化策略,实现图像配准。实验研究表明,该方法在保证了配准精度的同时,配准速度较快、鲁棒性较好、综合性能优良,具有一定的临床推广价值。     

粒子群与改进的鲍威尔算法相结合的多分辨率三维医学图像配准

为克服传统基于互信息的多模医学图像配准算法容易陷入局部最优的问题,提出了一种改进的多分辨率三维医学图像配准算法.该算法通过高斯滤波将三维医学图像进行多尺度化,形成多分辨率图像金字塔,以Mattes互信息作为配准框架的相似性测度.在图像金字塔的低分辨率层使用粒子群优化算法进行全局变换参数的搜索,然后以全局变换参数作为高分辨率层配准的初始参数,并以鲍威尔优化算法进行优化,完成最终的三维医学图像配准.实验结果表明,改进的算法不仅使待配准两幅图像空间位置对齐,而且较传统互信息算法提高了配准精度,鲁棒性更强,有效地解决了基于互信息的配准算法陷入局部最优的可能.     

基于词频的优化互信息文本特征选择方法

互信息(MI)是一种常用的文本特征选择方法,经典MI方法未考虑同一个特征项在不同类别内频数的差异性,也未考虑同一个特征在同一类别内的不同文本之间分布上的差异性。针对上述不足,以特征项的频数为依据,分别从特征项的类内分布、类间分布上的差异以及类内不同文本之间分布上的差异等角度,通过引入特征项的类内频数因子、类内位置分布因子以及类间分布因子,提出一种改进的MI文本特征选择方法,使得特征项的频数信息在MI模型中得到有效利用,合理改善互信息模型在文本特征选择方面的不足。文本分类实验结果表明,改进MI文本特征选择方法的平均准确率、召回率分别提高约5.2%及4.6%,平均综合评价指标值提高约4.9%,有效提高了模型的文本分类效率。     

基于混合采样机制的互信息分布估计算法

针对二阶分布估计算法的早熟收敛问题,提出一种基于混合采样机制的互信息分布估计算法(MIEDA). MIEDA利用互信息度量变量之间的相关性,形成互信息树的概率模型;采用稀疏模型构建的思想,并基于自私基因理论建立信息奖惩机制,以加快算法的收敛速度;结合反向学习、最优解变异和随机采样形成混合采样机制,以提高算法的采样效率.仿真结果表明,MIEDA比常见的二阶分布估计算法具有更高的稳定性和更强的寻优能力.     

一种基于学习向量量化网络的垃圾邮件过滤方法

伴随着电子邮件的广泛使用,垃圾邮件泛滥成灾,严重影响了人们正常的学习、工作和生活。拳文针对目前的垃圾邮件主要是由多种商业或政治性类别的垃圾邮件组成的特点,利用学习向量量化网络能把多个子类合并成一个复杂大类的特性,构建了一个反垃圾邮件的LVQ神经网络模型,我们对该LVQ网络模型进行了与其他算法的对比试验,试验表明它比基于贝叶斯公式算法和基于神经网络BP算法的过滤器有更好的性能。     

基于相对熵的决策表连续属性离散化算法

该文提出了一种新的决策表连续属性离散化算法.首先使用相对熵来度量条件属性的重要性;;并据此对条件属性按照属性重要性从小到大排序;;然后按排序后的顺序;;考察每个条件属性的所有断点;;将冗余的断点去掉;;从而将条件属性离散化.该算法易于理解;;计算简单;;算法的时间复杂性为O(3kn2)。     

具有个人信息的对话生成模型研究

赋予聊天机器人个人信息对于提供自然的对话至关重要,对此提出具有个人信息的对话模型,包括问题分类、个人信息回复和开放域对话三个模块.在问题分类模块中,分析测试不同分类方法的效果;个人信息回复模块利用BiLSTM进行语义信息编码,训练采用对比损失函数,同时实验对比多种匹配模型;开放域对话模型以最大互信息为目标函数,减少无意...     

基于Web数据的本体概念抽取

本体论(Ontology)在知识管理及语义网(Semantic Web)中越来越重要,但建造本体往往需要耗费大量的时间,且建造完成后本体的维护对知识管理者来说也是费时的工作。自动创建领域Ontology可以克服手工方法的不足,成为当前的研究热点之一;而概念是本体中最重要的组成部分之一,从半结构化的Web文档中自动抽取概念的效率和准确度的高低,直接决定了自动建造的本体的质量,提出一种自动的本体概念抽取模型,此模型不依赖于领域词典或核心本体,并且能达到快速有效地通过对中文Web文本挖掘自动地构建及更新领域本体概念的目的。     

基于改进PCNN和互信息熵的自动图像分割

脉冲耦合神经网络(PCNN)由于其良好的脉冲传播特性在图像分割中得到了广泛应用。针对其需要人机交互通过实验确定其相关参数等问题,改进PCNN模型,以像素对比度作为链接矩阵,以互信息作为迭代终止的判决依据,提出基于改进脉冲耦合神经网络的自动图像分割。实验结果表明,该方法实时性好、自适应性强,分割出的目标轮廓清楚。