一种基于高阶累积量的因果结构学习算法

从观测数据中学习因果结构具有重要的应用价值。目前,一类学习因果结构的方法是基于函数因果模型假设,通过检验噪声与原因变量的独立性来学习因果结构。然而,该类方法涉及高计算复杂度的独立性检验过程,影响结构学习算法的实用性和鲁棒性。为此,提出了一种在线性非高斯模型下,利用高阶累积量作为独立性评估的因果结构学习算法。该算法主要分为两个步骤,第一个步骤是利用基于条件独立性约束的方法学习到因果结构的马尔可夫等价类,第二个步骤是定义了一种基于高阶累积量的得分,该得分可以判别两个随机变量的独立性,从而可以从马尔可夫等价类中搜索到最佳独立性得分的因果结构作为算法的输出。该算法的优势在于：a)相比基于核方法的独立性检验,该方法有较低的计算复杂度;b)基于得分搜索的方法,可以得到一个最匹配数据生成过程的模型,提高学习方法的鲁棒性。实验结果表明,基于高阶累积量的因果结构学习方法在合成数据中F₁得分提高了5%,并在真实数据中学习到更多的因果方向。     

面向多元时间序列的群体因果关系发现算法

从多元时间序列观测数据中学习多个变量之间的因果关系是许多专业领域中的重要基本问题。现有的多元时间序列因果关系发现方法通常从每个个体的观测数据中学习个体因果关系,没有考虑部分个体之间可能存在相同的因果关系,导致样本利用不足。提出一种面向多元时间序列的群体因果关系发现算法。该算法分为2个阶段：第一阶段基于因果关系对个体之间的相似性进行度量,并把多个个体划分成多个群体,且无须指定群体的个数;第二阶段基于变分推断方法充分利用每个群体内的所有个体数据,从而学习群体因果关系。实验结果表明,该算法在多组不同参数生成的仿真数据上均具有较好的表现,与对比算法相比,AUC评分提升了5%～20%。在真实数据集中,该算法能够较好地区分具有不同因果关系的群体,并且能够学习到不同群体之间不同的因果关系,表明算法不仅具有因果关系发现能力,而且还具有多元时间序列聚类能力。     

基于条件独立性的LiNGAM模型剪枝算法

如何根据观察数据来推断因果网络结构是统计学和机器学习领域的重要问题。近年来学者们取得了许多研究成果,Li NGAM算法是其中一种经典的线性因果推断算法。但Li NGAM算法采用的剪枝策略时间复杂度较高,且在稀疏图上准确率低。为此,提出一种基于条件独立性测试的剪枝算法来解决这个问题。该算法首先将变量根据因果顺序重新排列,再按照该次序采用偏相关系数检验变量之间的条件独立性。大量的实验结果表明,基于条件独立性的剪枝算法在稀疏图上比Li NGAM的剪枝算法获得更高的准确率与执行效率。     

基于因果自回归流模型的因果结构学习算法

因果自回归流模型已经在非独立噪声等场景的因果方向推断问题上取得了一定的进展,但在多个结点的场景下仍存在全局结构搜索带来的准确度低和计算时间复杂度高的问题。面向非时序观察数据设计一种两阶段因果结构学习算法。在第一阶段,基于观测数据的条件独立性,对完全无向图通过条件独立性检验得到基本的因果骨架;在第二阶段,基于因果自回归流模型,通过标准化流的方法计算骨架中每条无向边在不同方向上的边缘似然概率,进而通过比较边缘似然概率进行因果方向推断。实验结果表明：该算法在多组不同参数生成的仿真因果结构数据集上均有较好的表现,与现有的主流因果结构学习算法相比,F1值平均提升15%～28%;在真实因果结构数据集实验中,该算法能够较为完整准确地学习到变量间的因果关系,与主流的因果结构学习算法相比,F1值平均提升28%～48%,具有更强的鲁棒性。     

混合加噪声模型与条件独立性检测的因果方向推断算法

从可观测的变量中推导出潜在的因果关系是人工智能领域的热点研究之一。传统的基于独立性检测的方法是通过检测V结构来确定一组马尔科夫等价类而非最终的因果关系;而加噪声模型算法却只能适应于低维度的因果网络结构。为此,提出一种采取分治策略的混合加噪声模型与条件独立性检测的因果方向推断方法。首先是将一个n维因果网络分解成n个诱导子网络,分别归入三种基本结构（单度结构、非三角结构和存在三角的结构）中的一种,从理论上分别证明其有效性;其次对每个诱导子网络进行基于加噪声模型算法与条件独立性检测相结合的方向推断;最后把所有子网络合并起来构建成完整的因果关系网络。实验表明,该方法比传统的因果关系推断方法更加有效。     

高斯混合概率假设密度滤波器在多目标跟踪中的应用

实现了基于随机集和点过程理论在目标数未知或随时间变化的多目标跟踪滤波算法.研究成果包括:(1)分析了基于随机有限集的多目标跟踪模型;(2)分析推导了基于随机集和点过程理论的概率假设密度滤波递推表达式;(3)实现了在线性高斯条件下的概率假设密度滤波的一种解析滤波算法;(4)仿真实验验证了算法的性能,比较了在杂波强度和检测概率变化的情况下和联合概率数据互联算法相关性能;(5)指出了算法的一些不足以及改进的研究方向.     

L^2DLNB：懒惰学习双层朴素贝叶斯分类器

尽管朴素贝叶斯简单而且在很多数据集上效果很好，但是其属性独立性假设在现实世界中并不总是成立的，当这一假设不成立时，其结果很差。通过分析和研究，提出了一种放宽这种独立性假设的新算法——懒惰学习双层朴素贝叶斯分类器L^2DLNB，该算法使用基于条件互信息的懒惰学习方法，在求不同类标的似然度时，使用不同的属性依赖关系，从而能够更准确地计算出各类标似然度。实验结果表明此算法在一些数据集上取得了更好的分类精度。     

基于多组典型相关变量的因果关系发现算法

现有的因果关系发现算法主要基于单个观察变量本身之间的因果关系,无法适用于多组观察变量,为此提出了一种多组典型相关变量的因果关系发现算法。首先,引入多组典型相关变量建立多组典型相关变量的线性非高斯无环模型并提出对应的目标函数;然后,采用梯度上升的方法求解目标函数,构建多组典型相关变量的因果关系网络。模拟实验验证了该算法的有效性,并在移动基站数据上发现了一批有价值的多组无线网络性能指标间的因果关系。     

一种新的稳态监测算法及其应用研究

本文基于滤波法的思想,引进了一种新的数据稳态监测算法启发式算法,介绍了该算法的实现过程,它不需要CST和MTE的区间稳态假设,判断方法不需要限制时域位置,可以沿着时间轴移动时间窗口来判断时间窗内过程是否处于稳态,与滤波法有类似之处。它拓展了滤波法的适用范围,其优点在于该算法不但可以用于判断历史时间窗内过程是否处于稳态,同时也可持续地监测最新的实时测量数据是否处于稳态。该算法在自主开发的工业数据平台中得到应用,应用结果表明,该算法简单可靠,对实时过程数据的稳态监测能给出满意的结果。     

基于互信息的适用于高维数据的因果推断算法

推断数据间存在的因果关系是很多科学领域中的一个基础问题。然而现在暂时还没有快速有效的方法对高维数据进行因果推断。为此,提出了一种基于互信息的适应于高维数据的因果推断算法,该算法采取将高维网络结构学习问题分解成每一个节点的因果网络结构学习问题的策略。在第一阶段,利用基于互信息的条件独立性测试算法寻找目标节点的父子节点;在第二阶段,利用一种混合的方向识别算法对目标节点与其父子节点之间的方向进行判别,所有节点迭代完后得到一个完整的因果网络。数据实验表明,该算法在高维数据的情况下要优于目前其他的算法。     

面向临床检验指标的非同步时间序列聚类算法研究

对临床检验指标时间序列进行聚类,从中发现临床检验指标变化趋势相似的患者群体,对开展精准医疗具有非常重要的价值。考虑到不同患者的检验次数及检验时间点不完全同步,首先通过对非同步时间序列进行预处理,实现不同时间序列维度及时间点的同步化。在此基础上,通过引入一个用户自定义参数即噪声点占有率NoisePro,对DBScan算法进行改进,提出了一种基于密度划分思想的非同步临床检验指标时间序列聚类LabTS-CLU算法。最后利用某三甲医院十余万糖尿病患者近10年的糖化血红蛋白时间序列数据集进行实验,结果证明了所提算法的有效性。     

基于趋势转折点边界面积的时间序列分段算法

时间序列数据具有数据量大、维度高等特点,对时间序列数据进行挖掘之前通常先进行分段预处理。传统的基于特殊点分段算法往往只关注该特殊点相邻点或相邻特殊点的变化情况,不能有效表示该特殊点左右两侧的中长期变化趋势,本文提出一种基于趋势转折点边界面积的时间序列分段算法。该方法首先找出趋势转折点,之后寻找该点左右两侧维持趋势的边界点,在寻找边界时允许轻微波动,最后计算这三点构成的面积,以此代表该点的重要性。该算法在真实工业生产数据上实验效果良好,并通过不同领域公共数据集与其他算法进行比较,证明算法有效。     

互信息匹配的半朴素贝叶斯分类器

由于作为朴素贝叶斯分类器的主要特征的条件独立性假设条件过强且在不同数据集上表现出的差异,所以独立性假设成为众多改进算法的切入点。但也有研究指出不满足该假设并没有对分类器造成预想的影响。从降低后验概率的估计误差入手提出一种条件熵匹配的半朴素贝叶斯分类器。实验证明,该方法能有效提高朴素贝叶斯分类器的性能。     

基于滑动窗口均值先验的非同构动态贝叶斯网络转换点检测算法*

为了放宽动态贝叶斯网络中的同构假设,提出非同构贝叶斯网络.基于此种情况,文中提出结合先验知识的可逆跳转的马尔可夫链蒙特卡洛算法(APK-RJ-MCMC).算法基本假设为如果一个时间点左右窗口中数据均值间的欧氏距离越大,则这个时间点作为转换点的可能性越高.基于上述假设,可得到关于每个时间点作为转换点可能性的粗略估计,将其作为先验知识调控可逆跳转的马尔可夫蒙特卡洛采样技术(RJ-MCMC)采样转换点时的生成、消除、转换动作的提议概率之比,进而调节状态跳转时的接受概率.在人工数据集和基因数据集上的实验表明,相比其它算法,APK-RJ-MCMC在转换点检测上具有更高的检测后验概率.     

不同类变量下属性聚类的朴素贝叶斯分类算法

朴素贝叶斯（NB）分类算法虽是一种简单且有效的分类方法,但其条件属性独立性假设忽略了属性变量间存在的相关性。考虑到条件独立性假设对分类效果的影响,提出一种新的将条件属性进行聚类的分组技术,不仅避免了传统朴素贝叶斯算法假设各条件属性间独立的这一缺陷,而且反映出了在不同类别情况下条件属性间具有的不同依赖程度。经过对UCI的几个数据集的仿真实验,结果表明了新算法的有效性。     

基于K近邻的增量式聚类算法

大多数聚类算法都是在静态情况下运行,使其不允许添加任何增量数据。提出了一种基于K近邻(KNN)的增量聚类算法,算法包含两个创新点,利用K近邻的思想和样本紧密度两个条件处理增量数据;根据簇特征的变化分裂或合并簇。实验表明:提出的算法既可以发现新簇,又能有效规避噪声点,且能够处理非球形的数据集。     

基于条件信息熵的自主式朴素贝叶斯分类算法

朴素贝叶斯是一种简单而高效的分类算法,但其条件独立性和属性重要性相等的假设并不符合客观实际,这在某种程度上影响了它的分类性能。如何去除这种先验假设,根据数据本身的特点实现知识自主学习是机器学习中的一个难题。根据Rough Set的相关理论,提出了基于条件信息熵的自主式朴素贝叶斯分类方法,该方法结合了选择朴素贝叶斯和加权朴素贝叶斯的优点。通过在UCI数据集上的仿真实验,验证了该方法的有效性。     

解决地质非平稳性的新方法

在传统的储层随机建模中,获得具有代表性的统计数据需要平稳的训练图像,因此,建模中都基于平稳性假设。针对非平稳地质现象是普遍存在的这一事实,首先提出了四种不同的多点地质统计学算法来模拟非平稳现象,然后从方法和应用的角度具体阐述了用存在的模型作为训练图像结合核函数新的多点模拟方法。结果发现,该方法能很好地捕获真实空间地质体的空间差异性。同时,这个算法具有很重要的实践意义,解决了基于地质过程储层模型的井数据条件化的问题。     

面向故障间格兰杰因果发现的霍克斯过程研究

现有因果关系建模方法应用于故障事件序列时,难以有效引入因果先验,使得算法结果过于稠密,同时在稀疏、时间精度低的数据上因果关系可靠性较差。将不同故障类型事件的因果关系建模为基于霍克斯过程的格兰杰因果关系,提出一种面向故障序列的格兰杰因果发现的霍克斯过程模型。将霍克斯过程拓展到离散时间域,解决低时间精度数据的建模问题,并通过构造基于贝叶斯信息准则的目标函数,保证因果结构稀疏性,进而利用基于EM算法与爬山法的迭代优化算法引入因果先验,提高模型的可靠性。实验结果表明,该方法在由不同参数生成的模拟数据上均表现突出,且在两个通信网络的真实数据集中,F1评分相比ADM4、MLE-SGL、TSSO和PCMCI算法提升15.18%以上。而通过引入根因标注和因果依赖性先验,算法的F1评分进一步提升22.43%以上,验证了引入先验的有效性。     

一种高效的合作实时事务并行检验点算法

许多数据和活动上都有很强时间性的应用在地理上同时具有分布性,这种应用需求使得分布式实时数据库的研完成为数据库研究领域的热点。在实时事务执行时,事务故障或数据竞争会导致事务重启,为了减少因重启而损失的工作量,可以采用检验点技术以利于事务时间正确性的满足。在一些分布式实时数据库应用中,不同结点的事务通过消息交换形成合作关系,当某一事务记检验点时,为保证合作事务间的全局一致性,相关事务也要相应地记检验点。传统的协同检验点方法没有考虑应用的定时约束,不能很好地支持分布式实时事务处理。本文提出了一种高效的并行协同检验点方法,该算法既具有最小协同检验点特性又使全局检验点过程延时最小。实验表明该算法减少了全局检验点阻塞时间,有利于分布式实时事务截止期的满足。