用快速EM算法实现小波系数的高斯浊合分布模型

提出了一种小波系数的高斯混合分布模型。该模型用两个分量的高斯混合分布来拟合小波域每个高频频带系数的分布：其中，先验概率小方差大的分布代表了少量幅值较大的小波系数，先验概率大方差小的分布代表了大量幅值较小的小波系数，该文采用了基于特征的快速EM逄法完成对高斯混合分布参数的求解，实验结果证明了模型的有效性。     

基于EM算法的高斯混合模型参数估计

讨论在一般的混合分布条件下,用EM算法,在最小熵原理的优化准则下的数据拟合问题。简单推导有限混合高斯分布的EM算法,并针对其收敛速度慢的缺点设计一种有效的选取参数初始值的方法。实验结果表明,该方法有助于EM算法以较快的速度在参数真值附近收敛。     

基于EM算法的高斯混合模型参数估计

讨论在一般的混合分布条件下,用EM算法,在最小熵原理的优化准则下的数据拟合问题。简单推导有限混合高斯分布的EM算法．并针对其收敛速度慢的缺点设计一种有效的选取参数初始值的方法。实验结果表明,该方法有助于EM算法以较快的速度在参数真值附近收敛。     

高斯混合模型参数估值算法的优化

EM算法是高斯混合模型参数估值的常用方法,该算法有局部收敛的特性,易造成模型的参数估计对于初值较为敏感,往往得到一个局部的最优值.为了对EM算法进行优化,文中将具有全局寻优和并行搜索特性的遗传算法与EM算法相结合,对其加以改进,并用到语音转换过程之中,最后通过仿真实验分析了算法的性能,结果表明使用优化算法得出的高斯混合模型所转换出来的语音,相对于传统EM估计算法得出的高斯混合模型所转换出来的语音,具有较小的失真测度值,证明使用该优化算法能够改善转换后的语音质量.     

高斯混合模型聚类中EM算法及初始化的研究

EM算法是参数估计的重要方法,其算法核心是根据已有的数据来迭代计算似然函数,使之收敛于某个最优值。EM算法收敛的优劣很大程度上取决于其初始参数。运用EM算法来实现高斯混合模型聚类,如何初始化EM参数便成为一个关键的问题。在比较其他的初始化方法的基础上,引入“binning”法来初始化EM。实验结果表明,应用binning法来初始化EM的高斯混合模型聚类优于其它传统的初始化方法。     

图像小波系数的高斯混合模型研究

图像小波系数的统计分布具有非高斯特性,可以用高斯混合模型进行描述。提出了一种随像素自适应调整的混合高斯模型,每个系数建模为两个均值为零、方差不同的正态分布之和,利用局部贝叶斯阈值对小波系数进行分类,通过当前系数邻域窗中两类系数的信息,得到大、小方差以及有关概率的模型参数估计。将此模型应用于图像去噪,根据贝叶斯后验均值估计理论设计了Wiener滤波器。通过与三种代表性去噪算法的比较实验,表明了这种基于模型的滤波算法的有效性。     

一种快速、贪心的高斯混合模型EM算法研究

针对传统EM算法存在初始模型成分数目需要预先指定以及收敛速度随样本数目的增长而急剧减慢等问题,提出了一种快速、贪心的高斯混合模型EM算法。该算法采用贪心的策略以及对隐含参数设置适当阈值的方法,使算法能够快速收敛,从而在很少的迭代次数内获取高斯混合模型的模型成分数。该算法通过与传统EM算法、无监督EM算法和鲁棒EM算法的聚类结果进行比较,实验结果证明该算法具有很强的鲁棒性,并且能够提高算法的效率以及模型成分数的准确性。     

基于差分进化算法的高斯混合模型参数估计

EM算法用于高斯混合模型参数估计时,具有对初始值敏感、易于陷入局部极小等缺点。将差分进化算法引入高斯混合模型参数估计问题,提出一种基于差分进化算法的高斯混合模型参数估计方法。该方法直接对模型参数进行编码,待优化目标函数简单且物理意义明显,具有算法实现容易、运行效率高及收敛速度快等优点。实验结果表明。新方法具有很强的全局搜索能力,参数估计精度更高、更稳定。     

基于EM算法的高斯混合模型在鸢尾花数据集的应用

高斯混合模型是一种含隐变量的概率图模型,其参数通常由EM算法迭代训练得到.本文在简单推导高斯混合模型的EM算法后,将使用高斯混合模型对鸢尾花(iris)数据集进行分类判别.同时,针对EM算法受初始值影响大的问题,使用了K均值聚类算法作为其初始值的估计方法.在得到K均值聚类算法和EM算法的分类判别结果后,对比两种算法的判...     

基于鲁棒高斯混合模型的加速EM算法研究*

针对传统鲁棒高斯混合模型EM算法存在模型成分参数难以精确获取最优解以及收敛速度随样本数量的增加而快速降低等问题,提出了一种基于鲁棒高斯混合模型的加速EM算法。该算法采用隐含参量信息熵原理对高斯模型分量个数进行挑选以及使用Aitken加速方法减少算法的迭代次数,当接近最优解时,EM步长的变化极为缓慢,这时使用Broyden对称秩1校正公式进行校正,使算法快速收敛,从而能够在很少的迭代次数内精确获取高斯混合模型的模型成分数。文中算法通过与传统鲁棒EM算法和无监督的EM算法的聚类结果进行比较,实验证明该算法对初始值的设定并不敏感(成分数c无需预先设定),并且能够降低算法运算时间,提高聚类模型成分数(类簇)的正确率。     

A Greedy EM Algorithm for Gaussian Mixture Learning

Learning a Gaussian mixture with a local algorithm like EM can be difficult because (i) the true number of mixing components is usually unknown, (ii) there is no generally accepted method for parameter initialization, and (iii) the algorithm can get trapped in one of the many local maxima of the likelihood function. In this paper we propose a greedy algorithm for learning a Gaussian mixture which tries to overcome these limitations. In particular, starting with a single component and adding components sequentially until a maximum number k, the algorithm is capable of achieving solutions superior to EM with k components in terms of the likelihood of a test set. The algorithm is based on recent theoretical results on incremental mixture density estimation, and uses a combination of global and local search each time a new component is added to the mixture. This revised version was published online in August 2006 with corrections to the Cover Date.     

基于协方差的高斯混合模型参数学习算法

对混合高斯模型参数估计问题的算法通常是基于期望最大(Expectation Maximization)给出的。在混合高斯模型的因素协方差矩阵已知、因素各分量独立的前提下,给出了基于协方差矩阵的机器学习算法,简称CVB(Covariance Based)算法,并进行了一定的数学分析。最后给出了与期望最大算法的实验结果比较。实验结果表明,在该条件下,基于协方差的算法优于期望最大算法。     

应用小波系数GSM统计模型的混合傅里叶-小波图像降噪

提出一种混合傅里叶-小波图像降噪算法,该算法的主要步骤是：先在傅里叶域中降噪,然后在小波域中滤除剩余的噪声。小波域中要滤除的是有色噪声,为了考虑有色噪声小波系数间的相关性,采用GSM（Gaussian scale mixture）统计模型描述图像小波系数的统计特性。实验证明该算法能有效提高降噪效果。     

一种快速、鲁棒的有限高斯混合模型聚类算法

有限混合模型聚类是一种基于概率模型的有效聚类方法。针对高斯混合模型的聚类算法,分别对模型的成分混合系数及样本所属成分的概率系数施加熵惩罚算子,实现对模型成分数的两级控制,快速消除无效成分,使算法能在很少的迭代次数内收敛到确定解。传统算法对初始值(成分数目c需事先指定)的设置非常敏感,容易导致EM算法陷入局部最优解或收敛到解空间的边界,而文中的算法对初始值的设定没有特殊的要求,实验证明其具有很好的鲁棒性。     

基于小波域混合高斯模型的自相似流量合成算法

自相似流量特性对网络性能具有重要影响，流量建模与合成是网络性能评价的基本环节．提出了一种基于小波域混合高斯模型的自相似流量建模与合成方法：小波变换的近似Karhunen—Loeve（K-L）变换特性可以有效去除流量过程的长程相关，而混合高斯模型准确地描述了小波系数的非高斯分布．对合成流量进行了统计分析以及排队性能仿真．实验表明该方法能够更准确地对通信流量进行建模和合成，并且具有运算量小（O（N））、流量生成快速等优点．     

零一膨胀二项混合回归模型的改进EM算法

首先对存在过多0和1的观测数据提出了零一膨胀混合回归模型,由于EM算法一般会使得估计收敛到局部最优解上,所以提出了一种修正EM算法,对具有有限混合成分的零一膨胀二项回归模型（ZOIB）的参数进行估计。最后通过模拟研究说明该方法的有效性。     

基于EM算法的混合模型的参数估计

介绍了极大似然参数估计，然后介绍了混合模型极大似然参数估计的EM算法实现，最后利用计算机仿真实验验证了此算法的有效性和收敛性．     

图像线状模式的有限混合模型及其EM算法

针对能够用回归模型刻画的图像特征,提出一个有限混合识别模型.该模型由有限个回归类构成,每个类的模型误差可以是正态的,也可以是满足一定条件的任意分布.文中给出了估计线性回归类参数的EM算法,该算法可推广到高维情形.     

关于自适应高斯混合背景模型的更新算法的研究

采用自适应高斯混合方法为背景建模的难点是对背景模型的维持与更新。目前,背景模型的更新算法很多,但算法中各参数的取值通常是依据经验而定。本文对背景信号进行了分析,根据背景信号的特点,给出了背景更新算法中各参数值的选取方案,并提出了一种新的背景模型更新算法。