基于条件互信息的多维时间序列图模型

在多维时间序列的图模型中引入信息论方法, 提出了多维时间序列中各分量之间直接线性联系存在性的互信息检验．定义了线性条件互信息图, 图中的结点表示多维时间序列的分量, 结点间的边表示各分量之间存在的直接线性相依关系．提出了分量之间条件线性联系存在性的信息论检验方法．图中边的存在性用基于线性条件互信息的统计量检验, 统计量的显著性用置换检验决定．应用到实例中的结果表明本文的方法能迅速准确的捕捉各分量之间的直接线性联系.     

基于互信息的RBF神经网络结构优化设计

以设计最小RBF网络结构为着眼点,提出了一种基于互信息的RBF神经网络结构优化算法.该算法用k近邻统计法估计隐节点输出矩阵与输出节点输出矩阵之间的互信息,获得每个隐节点与输出节点之间的相关性度量,删除相关性最小的隐节点,进而达到优化网络结构的目的.该算法具有自恢复机制,在简化网络结构的同时能有效保证网络的信息处理能力.在人工数据集和真实基准数据集上的仿真实验验证了该算法的有效性与稳定性.     

基于改进遗传算法的神经网络非线性模型的辨识

对非线性系统的辨识现在大多采用动态BP算法采训练权值,存在收敛速度慢、易陷入局部极小值、全局搜索能力弱等缺点.为了克服动态BP算法的上述缺点,采用改进的遗传算法对非线性系统进行建模仿真实验,结果表明该方法有效.     

基于改进互信息的译文选择技术研究

提出了一种改进互信息的译文选择方法,认为词语的译文的选择不是孤立进行的,上下文对译文的选择有着重要的意义,通过对已有的互信息公式加入翻译模型特征进行改进,结合翻译模型与互信息来选择最佳译文,经过BLEU(BiLingual Evaluation Understudy)作为机器评价准则的实验结果表明,该方法优于传统的互信息词语译文选择的方法.     

实用神经网络的生物模拟器

实用神经网络的生物模拟器张丰满美国．Ｊｕｎｉａｔａ学院计算机科学系张志浩电子科技大学计算机系（６１００５４）神经网络模拟器ＳＩＭＵＬＡＴＯＲ我们开发ＳＩＭＵＬＡＴＯＲ模拟器，是用来模拟单独神经元和神经网络的特性，两者变化的情况均用细胞膜电压表示。Ｎａ...     

向量自回归模型Granger因果图的条件互信息辨识与应用

Grangerl因果性是衡量系统变量间动态关系的重要依据．传统的两变量Grangerl因果分析法容易产生伪因果关系,且不能刻画变量间的即时因果性．本文利用图模型方法研究时间序列变量间的Grangerl因果关系,建立了时间序列Granger因果图,提出Grangerl因果图的条件互信息辨识方法,利用混沌理论中的关联积分估计条件互信息,统计量的显著性由置换检验确定．仿真结果证实了方法的有效性,并利用该方法研究了空气污染指标以及中国股市间的Grangerl因果关系．     

实用神经网络的生物模拟器 待续

本文介绍一种能模拟单个神经元、触突以及系统的模拟器Ｓｉｍｕｌａｔｏｒ。用它模拟在生物界所熟知的一种无脊椎软体类似海参的食肉类动作Ｐｌｅｕｒｏ－ｂｒａｎｃｈｅａ。它的各种形为如吞食食物，遇敌退缩等用Ｆｏｒｔｒａｎ７７版本编程并在Ｓｕｎ３／５０工作站上进行模拟获得了满意结果。     

基于互信息的文本分类改进方法研究

传统的LDA主题模型没有考虑词频对主题分类的影响,使得主题分布向高频词倾斜。为了综合考虑词频和主题间的相关性,文中利用互信息能够表达变量间相关性的特点,在互信息基础上改进作为特征选择方法,利用评价函数评价特征词的权重值改进LDA算法分类过程,提高对主题分类贡献度高的特征词的作用。通过在新闻语料库上的分类实验证明了该方法的有效性,同时表明分类的准确率也有所提高。     

基于最大联合条件互信息的特征选择

在高维数据如图像数据、基因数据、文本数据等的分析过程中,当样本存在冗余特征时会大大增加问题分析复杂难度,因此在数据分析前从中剔除冗余特征尤为重要。基于互信息（MI）的特征选择方法能够有效地降低数据维数,提高分析结果精度,但是,现有方法在特征选择过程中评判特征是否冗余的标准单一,无法合理排除冗余特征,最终影响分析结果。为此,提出一种基于最大联合条件互信息的特征选择方法（MCJMI）。MCJMI选择特征时考虑整体联合互信息与条件互信息两个因素,两个因素融合增强特征选择约束。在平均预测精度方面,MCJMI与信息增益（IG）、最小冗余度最大相关性（mRMR）特征选择相比提升了6个百分点;与联合互信息（JMI）、最大化联合互信息（JMIM）相比提升了2个百分点;与LW向前搜索方法（SFS-LW）相比提升了1个百分点。在稳定性方面,MCJMI稳定性达到了0.92,优于JMI、JMIM、SFS-LW方法。实验结果表明MCJMI能够有效地提高特征选择的准确率与稳定性。     

基于最大互信息的混沌时间序列多步预测

针对混沌时间序列的多步预测,提出了基于最大互信息（MMI）的建模方法.首先建立时间延迟、嵌入维数和预测步长在相空间的最大信息量模型;然后利用遗传算法求解并确定混沌时间序列的最佳预测结构;最后对Mackey-Glass系统和月太阳黑子的仿真实验表明,MMI可以确定更好的预测结构,提高了混沌时间序列的预测精度.     

基于最大加权区域互信息的声呐图像检索系统

针对声呐图像检索的实际需求,设计基于最大加权区域互信息的声呐图像检索系统。对声呐图像进行分割,产生n个子区域;计算例图与图像库中各个图像子区域之间的互信息,结合声呐图像目标物体的特点,对区域互信息进行加权;取加权区域互信息中的最大值作为图像互信息,并照其大小进行图像排序,经门限处理后,将排在前面的图像作为检索结果输出。仿真实验结果表明:基于最大加权区域互信息的检索方法更加适用于声呐图像检索,尤其是在处理两幅背景相同前景不同或者前景相同背景不同的图像时更有优势。     

基于贝叶斯网络和互信息的检索用户模型

个性化信息服务越来越成为信息检索领域研究的热点.将贝叶斯网络和互信息相结合,用于个性化检索的用户建模中,建立了一个能同时表达特征词的统计分布和特征词间的语义相关性的用户模型.模型以贝叶斯网络结构为框架,包含了特征词的概率统计信息和特征词间互信息,并引入了时间机制.实验结果表明,用该模型进行信息检索,在查全率和查准率方面都得到了提高.     

基于样条金字塔和互信息的快速图像配准*

采用高精度B样条生成金字塔,大幅降低了计算复杂度,通过Parzen窗计算联合直方图并在此基础上导出目标函数的Hessian矩阵表达式,将具备二次收敛性的Newton方法引入到优化过程从而大大提高了配准速度。对普通光学和多谱图像的配准实验表明,该算法大幅提高了互信息模型下的配准速度,且精度较高。     

基于互信息量的分类模型

针对分类数据集中属性之间的相关性及每个属性取值对属性权值的贡献程度的差别,提出基于互信息量的分类模型以及影响因子与样本预测信息量的计算公式,并利用样本预测信息量预测分类标号。经实验证明,基于互信息量的分类模型可以有效地提高分类算法的预测精度和准确率。     

基于互信息的贝叶斯网络结构学习算法

结构学习是贝叶斯网络的重要分支之一,而由数据学习贝叶斯网络是NP-完全问题,提出了一个由数据学习贝叶斯网络的改进算法。该算法基于互信息知识构造初始无向图,并通过条件独立测试对无向边添加方向;同时提出了一个针对4节点环和5节点环的局部优化方法来构造初始框架,最后利用贪婪搜索算法得到最优网络结构。数值实验结果表明,改进的算法无论是在BIC评分值,还是在结构的误差上都有一定的改善,并且在迭代次数、运行时间上均有明显降低,能较快地确定出与数据匹配程度最高的网络结构。     

基于互信息学习贝叶斯网络等价类*

由数据构造贝叶斯网络结构是NP-难问题,根据互信息和条件独立测试,提出了一种构建最优贝叶斯网络结构的新算法。数值实验表明,新算法能较快地确定出与数据匹配程度最高的网络结构,从而能更高效地学习贝叶斯网络结构。     

基于生物刺激神经网络的多机器人编队方法

多机器人编队控制是多机器人协作领域的重要研究内容之一,如何实现多机器人朝同一目标移动的同时保持队形是多机器人编队的一个热点和难点问题。针对这一问题,提出一种新的基于生物刺激神经网络的多机器人动态编队方法,采用基于leader-referenced编队模型实时计算各机器人的虚拟目标位置,利用生物刺激神经网络进行机器人导航。最后进行仿真实验,实验结果表明该方法在实现多机器人实时避障并保持队形的同时,朝同一目标移动,而且可以很快实现队形变换,具有较好的实时性和灵活性。     

基于潜在狄利克雷分配模型和互信息的无监督特征选取法

为解决互信息(MI)在特征选取中的类别缺失和倾向低频词问题,提出 LDA-σ方法。该方法使用潜在狄利克雷分配模型(LDA)提取潜在主题,以“词—主题”间互信息的标准差作为特征评估函数。在Reuters-21578语料集上提取特征词并进行分类,LDA-σ方法的微平均F1最高达0.9096;宏平均F1优于其他算法,最高达0.7823。实验表明,LDA-σ方法可用于文本特征选取。