Bayesian网中概率参数学习方法

Bayesian网已经成为AI领域的研究热点,并在现代专家系统、诊断系统及决策支持系统中发挥着至关重要的作用.Bayesian网的研究主要集中在三个方面:知识表示、学习与推理.概率知识是Bayesian网坚实的数学基础,从数据中学习分布参数使得Bayesian网逐步走向现实应用.本文介绍和比较了概率参数学习的各种常用方法,并探求了它们在不同应用背景下的优缺点.基于经典统计学的方法理论成熟,计算简单,但它只利用了实例数据集合所提供的信息,无法加入专家知识,对实例数据的依赖性大;基于Bayesian有机结合了两类信息,对实例数据的依赖性降低,学习结果更加准确.参数学习是Bayesian网学习的基础,是Bayesian网结构学习必不可少的部分.     

遗传规划和最小二乘法在数据拟合中的应用

为了分析和预测数据,需要预先确定其拟合函数模型.最小二乘法是一种常用的对测量数据进行数据拟合的方法,但当拟合函数模型未知时,该方法即失效.提出了一种联合遗传规划和最小二乘法寻求拟合模型的方法.利用遗传规划方法只需给出数据点及允许误差即可得到匹配的拟合函数式,并可对复杂函数式合理地简化.以此结果作为最小二乘法的拟合函数模型,进一步估计其中的参数,实现了对测量数据的更精确拟合.文中给出了应用实例,说明了本方法的有效性.     

DF关系数据库的函数依赖研究

数据间的函数依赖关系一直是关系数据库理论研究中的重要课题,同样,DF关系数据库中也存在着函数依赖关系.首先,基于DF关系理论给出了DF关系数据模型的定义,并介绍了属性值的表示方法;然后,用动态模糊等价关系及其隶属函数来描述动态模糊函数依赖,给出了DF数据库中函数依赖的基本定义,以及基于DF蕴涵关系的公理系统,并证明其推理规则是正确和完备的;最后讨论了DF关系的规范化设计.     

基于对象增量的不完备混合信息系统动态属性约简算法

属性约简是粗糙集理论在信息处理和自动化控制领域中的重要应用,然而实际应用环境下,数据的采集是源源不断地并且采集到的数据包含了不同的数据类型,同时数据传输过程中也存在着数据丢失的情况,使得最终得到的信息系统是不完备混合类型的,并且时刻处于增加更新之中。针对这一情形,提出一种条件信息熵的不完备混合型信息系统动态属性约简算法。文中首先介绍了不完备混合型信息系统的条件熵模型以及条件熵的属性约简,然后提出了不完备混合型信息系统条件熵随论域增加时的增量式更新计算,该计算方法通过旧信息系统的条件熵进一步计算新信息系统的条件熵,理论证明了这种增量式计算具有很高的计算效率,最后基于这种增量式计算,设计出了条件熵的不完备混合型信息系统动态属性约简算法。实验分析表明,所提出的动态属性约简算法相比较于传统的静态属性约简算法具有很高的动态属性约简性能,同时与同类型的动态属性约简算法相比具有较好的优越性。     

一种基于数据并行的过程神经网络训练算法

针对过程神经网络时空聚合运算机制复杂、学习周期长的问题,提出了一种基于数据并行的过程神经网络训练算法.该方法基于梯度下降的批处理训练方式,应用MPI并行模式进行算法设计,在局域网内实现多台计算机的机群并行计算.文中给出了基于数据并行的过程神经网络训练算法和实现机制,对不同规模的训练函数样本集和进程数进行了对比实验,并对...     

Bayesian网转化为神经元网

Bayesian网目前广泛应用于专家系统中,用于处理大量以条件概率为形式的数据.本文借用神经元网络结构,根据专家给定的相关模型和部分观察集使用后向传播对条件概率进行估计,并在训练中,保持Bayesian网特性不变,应用Occam修剪法则,在化简过程中提炼其中的规律.实践表明,对于复杂的问题,由化简的因果模型得出的神经元网络更有效.     

一种基于自组织过程神经网络的动态样本半监督学习算法

针对时变信号模式分类和未标记样本信息的有效利用问题,提出了一种基于自组织过程神经网络的动态样本半监督学习算法.根据获得的已标记和未标记的过程函数样本信号,分别构建基于竞争学习规则和有教师示教方法的自组织过程神经网络模型,利用该网络的自组织特性,实现动态样本的分类标识.文中分析了算法的信息处理机制,给出了具体的实现步骤....     

基于遗传与粒子群算法的Markov逻辑网学习研究

Markov逻辑网（MIJN）是一种重要的统计关系模型，目前其学习问题主要采用确定性的优化方法，所求的解不够简洁、易陷入局部极值．针对这些问题，本文定义谓词模板、子句模板以缩小搜索空间，提出一种采用子句模板编码的遗传算法来学习MLN结构，并用粒子群算法学习MLN的权参数．文中设计了适应度函数和相应的遗传算子，保证算法不断向好的逻辑子句结构进化．理论分析与实验结果都表明本文的算法可以学习到较优解．     

低压配电网台区宽带载波数据交互方法

为解决交互过程中的数据丢失问题,开展低压配电网台区宽带载波数据交互方法的设计研究。将交互过程中的最小延时作为控制目标,建立低压配电网台区宽带载波数据交互目标函数,为确保交互过程中最小延时目标达成,提出针对目标函数的不同约束条件;引进WEB技术,建立通信前端服务器与用户端界面之间的通信申请,由服务器将申请数据通过http传输到前端,生成对应的浏览界面,完成对端数据交互链路的构建;建立低压配电网台区宽带载波单支路等效模型,根据模型中不同节点之间的连接,设计宽带载波数据交互补偿。选择某大型电力企业作为试点单位,在其低压配电网台区部署实验,实验结果证明：设计的交互方法应用效果良好,该方法可以有效控制数据在交互过程中的丢失量。     

径向基函数神经网络的一种有效的在线学习方法

本文提出了一种径向基函数神经网络的有效在线学习方法。该学习方法不仅能根据输入信息的增加而动态地分配网络资源,而且能有效回收网络的冗余资源。在学习过程中网络的参数可以自适应地序贯进行调整。文中详细论述了这种神经网络的学习准则、动态增减隐节点算法和参数调整算法。同时通过分析和实验说明网络具有较强的映射能力和预测性能。     

包含隐变量的贝叶斯网络增量学习方法

提出了一种贝叶斯网络增量学习方法——ILBN.ILBN将EM算法和遗传算法引入到了贝叶斯网络的增量学习过程中,用EM算法从不完整数据计算充分统计量的期望,用遗传算法进化贝叶斯网络的结构,在一定程度上缓解了确定性搜索算法的局部极值问题.通过定义新变异算子和扩展传统的交叉算子,ILBN能够增量学习包含隐变量的贝叶斯网络结构.最后,ILBN改进了Friedman等人的增量学习过程.实验结果表明,ILBN和Friedman等人的增量学习方法存储开销相当,但在相同条件下,学到的网络更精确;实验结果也证实了存在不完整数据和隐变量时,ILBN的增量学习能力.     

多贝叶斯网络分类器集成模型研究

提出了一种多贝叶斯网络集成的分类和预测方法.把专家知识作为"疫苗",利用免疫遗传算法和约束信息熵适应度函数相结合的方法进行贝叶斯网络结构的学习,得到多个反映同一样本数据集的、网络结构复杂度折衷的、满意的贝叶斯网络结构.然后,给出了多贝叶斯网络分类器集成模型,把学习得到的贝叶斯网络进行集成,代表"专家"对未知类别的不完全数据进行群决策的分类和预测,提升贝叶斯网络分类器的泛化能力.最后,结合贝叶斯推理工具GeNIe软件,通过实例说明该方法的合理性和有效性.     

基于动态云贝叶斯网络的舰艇防空目标威胁评估

针对目标威胁评估中信息表达的不确定性以及威胁评估模型专家网络结构的主观性,提出一种基于结构学习的动态云贝叶斯网络评估模型.首先,利用云模型良好的知识表达能力定量描述不确定连续性信息;其次,使用爬山算法进行结构学习,综合专家提出的网络结构构建贝叶斯网络;接着引入时间变量,将其扩展成为动态贝叶斯网络,然后用最大似然概率估计...     

基于混合方式的贝叶斯网络结构学习

基于最大主子图分解技术和遗传算法,提出了一种混合方式的贝叶斯网络结构学习算法。该算法首先根据领域知识和观察数据构造网络的无向独立图,并对其进行最大主子图分解,再利用遗传算法学习每个子图的结构,同时进行合并修正得到最优的贝叶斯网络结构。分解过程将一个学习大网络问题转化为小子图的学习问题,降低了搜索空间。仿真结果表明,新算法的学习效果与运行效率均有明显提高。     

基于复数因子分析模型的步进频数据压缩感知

认知雷达发射高距离分辨率步进频信号通常需要较长的观测时间。为了节省时间资源,该文提出一种贝叶斯重构算法,用较少的步进频信号脉冲得到的频点缺失频域数据,重构出相应的全带宽频域数据。首先利用复数贝塔过程因子分析(Complex Beta Process Factor Analysis, CBPFA)模型对一组全带宽频域数据进行统计建模,求解得到其概率密度函数;然后在目标被跟踪且姿态变化不大的情况下,只发射步进频信号的部分脉冲,根据先前CBPFA模型得到的概率密度函数,对频点缺失的频域数据利用压缩感知理论和贝叶斯准则解析地重构出相应的全带宽频域数据。基于实测1维高分辨距离(High Range Resolution, HRR)数据的重构实验,证明了该文提出方法的性能。     

Structural Learning of Bayesian Networks using a modified MDL score metric

Bayesian networks are tools as they represent probability distributions as graphs. They work with uncertainties of real systems. Since last decade there is a special interest in learning network structures from data. However learning the best network structure is a NP-Hard problem, so many heuristics algorithms to generate network structures from data were created. Many of these algorithms use score metrics to generate the network model. This paper address learn the structure of ALARM pattern benchmark using K-2 algorithm and a modified MDL as score metric. Results shown that score metrics with parameters that strength the tendency to select simpler network structures are better than score metrics with weaker tendency to select simpler network structures and that modified MDL gives better results than original MDL.     

循环神经网络的语音识别算法

通常采用具有前向连接权的连接网络便可实现静态输入输出模式对的联想,但是为了使网络记忆序列信息状态,必须考虑引入反馈连接权。本文构造一个具有动态神经元的多层网络结构,动态神经元带有多时延的局部反馈。此网络结构用于记忆时间序列信息,同时,相应地我们推导一种更有效、更便于实现的网络学习算法。最后,为了测试所提出网络学习动态时变数据的能力,选择几个不同参数的动态神经元模型,进行了一系列实验。     

基于BD度量的简单贝叶斯优化学习算法

贝叶斯优化算法是利用贝叶斯网络匹配进化种群的优良解集而产生新的染色体来体现种群的进化.在贝叶斯网络对种群进行匹配的过程中,贝叶斯网络结构越复杂,种群的进化信息描述越完整,进化质量越高,但运算速度相对来说越慢;相反,贝叶斯网络越简单,算法描述的种群的进化信息越少,进化质量越差,但却能够提高算法的运算速度.基于此,给出了简单贝叶斯优化与复杂贝叶斯优化定义.针对简单贝叶斯网络提出了基于BD度量的三步结构学习算法,并给出了一个利用这种算法进行贝叶斯网络结构学习的例子.     

Evolutionary fuzzy neural networks for hybrid financial prediction

In this paper, an evolutionary fuzzy neural network using fuzzy logic, neural networks (NNs), and genetic algorithms (GAs) is proposed for financial prediction with hybrid input data sets from different financial domains. A new hybrid iterative evolutionary learning algorithm initializes all parameters and weights in the five-layer fuzzy NN, then uses GA to optimize these parameters, and finally applies the gradient descent learning algorithm to continue the optimization of the parameters. Importantly, GA and the gradient descent learning algorithm are used alternatively in an iterative manner to adjust the parameters until the error is less than the required value. Unlike traditional methods, we not only consider the data of the prediction factor, but also consider the hybrid factors related to the prediction factor. Bank prime loan rate, federal funds rate and discount rate are used as hybrid factors to predict future financial values. The simulation results indicate that hybrid iterative evolutionary learning combining both GA and the gradient descent learning algorithm is more powerful than the previous separate sequential training algorithm described in.     

一种面向最经济服务流的可视化动态贝叶斯网络模型

将面向最经济服务的流演算机制引入到动态贝叶斯网络结构的学习中,提出一种面向最经济服务流的可视化动态贝叶斯网络分解协调模型(SFO-DBNs)及具体实现算法;该算法把Ford-Fulkerson流分解算法推广到多源、多汇的情况下,并加入了时间片t因素对服务流稳定性约束,可以把一个描述复杂大系统流演算的贝叶斯网络动态协调分...