基于在线分裂合并EM算法的高斯混合模型分类方法*

为了解决传统高斯混合模型中期望值EM处理必须具备足够数量的样本才能开始训练的问题,提出了一种新的高斯混合模型在线增量训练算法。本算法在Ueda等人提出的Split-and-Merge EM方法基础上对分裂合并准则的计算进行了改进,能够有效避免陷入局部极值并减少奇异值出现的情况;通过引入时间序列参数提出了增量EM训练方法,能够实现增量式的期望最大化训练,从而能够逐样本在线更新GMM模型参数。对合成数据和实际语音识别应用的实验结果表明,本算法具有较好的运算效率和分类准确性。     

基于高斯混合模型的遥感影像连续型朴素贝叶斯网络分类器

提出了一种新的嵌入高斯混合模型(GMM,Gaussian Mixture Model)遥感影像朴素贝叶斯网络模型GMM-NBC(GMMbased Na ve Bayesian Classifier)。针对连续型朴素贝叶斯网络分类器中假设地物服从单一高斯分布的缺点,该方法将地物在特征空间的分布用高斯混合模型来模拟,用改进EM算法自动获取高斯混合模型的参数;高斯混合模型整体作为一个子节点嵌入朴素贝叶斯网络中,将其输出作为节点(特征)的中间类后验概率,在朴素贝叶斯网络的框架下进行融合获得最终的类后验概率。对多光谱和高光谱数据的分类实验结果表明,该方法较传统贝叶斯分类器分类效果要好,且有较强的鲁棒性。     

基于混合PSO的高斯混合模型地形分类

提出了一种基于改进的混合粒子群优化(particle swarm optimization,PSO)算法的高斯混合模型地形分类方法。高斯混合模型的求解通常是使用期望最大化算法(expectation maximization,EM),然而EM算法易陷入局部最优,收敛速度不稳定且对初值敏感。因此引入混合PSO算法,并对其进行了一系列改进。实验结果表明:改进后的算法较其它优化算法提高了全局搜索能力和收敛速度,利用该算法求解高斯混合模型可以提高参数估计的精度,并且在户外场景图像的地形分类实验中所提出的地形分类方法也表现优良。     

一种基于GMM-EM的非平衡数据的概率增强算法

非平衡数据的分类问题是机器学习领域的一个重要研究课题.在一个非平衡数据里,少数类的训练样本明显少于多数类,导致分类结果往往偏向多数类.针对非平衡数据分类问题,提出一种基于高斯混合模型-均值最大化方法(GMM-EM)的概率增强算法.首先,通过高斯混合模型(GMM)与均值最大化算法(EM)建立少数类数据的概率密度函数;其次,根据高概率密度的样本生成新样本的能力比低概率密度的样本更强的性质,建立一种基于少数类样本密度函数的过采样算法,该算法保证少数类数据集在平衡前后的概率分布的一致性,从数据集的统计性质使少数类达到平衡;最后,使用决策树分类器对已经达到平衡的数据集进行分类,并且利用评价指标对分类效果进行评判.通过从UCI和KEEL数据库选出的8组数据集的分类实验,表明了所提出算法比现有算法更有效.     

基于半监督分类的BGP异常检测

异常边界网关协议(BGP)事件会影响网络的稳定性和可靠性,而网络环境下未标记样本较有标记样本容易获得,对此提出了基于半监督分类的异常检测框架.主要研究了高斯混合模型和直推式支持向量机,使用Slammer蠕虫相关BGP数据进行了实验,并对算法性能作了比较.实验证明半监督分类算法在BGP异常检测中切实可行.     

半监督学习机制下的说话人辨认算法

针对说话人辨认中训练语音有限时系统泛化能力差的问题,提出一种基于半监督学习的复合高斯混合模型算法。通过复合高斯混合模型对所有说话人的特征分布统一建模,基于半监督学习机制下的EM算法对学习样本进行学习。实验证明,该算法能够充分利用未标记样本对系统进行有效的自适应更新,改善系统的性能,获得比传统高斯混合模型更高的识别率,提高系统的泛化能力。     

基于EM算法的高斯混合模型在鸢尾花数据集的应用

高斯混合模型是一种含隐变量的概率图模型,其参数通常由EM算法迭代训练得到.本文在简单推导高斯混合模型的EM算法后,将使用高斯混合模型对鸢尾花(iris)数据集进行分类判别.同时,针对EM算法受初始值影响大的问题,使用了K均值聚类算法作为其初始值的估计方法.在得到K均值聚类算法和EM算法的分类判别结果后,对比两种算法的判...     

一种针对非平衡数据的贝叶斯分类算法

借鉴半监督分类的思想,本文提出一种基于改进EM算法的贝叶斯分类模型,对移动通信网络中存在的大量随机缺失的非平衡数据进行分类。首先,从实际数据中经过初步统计分析得到能在一定程度上反应变量状态的先验概率,并以此作为贝叶斯分类模型的初始值进行EM迭代训练,从而减少EM算法的迭代次数并改善EM算法对初始值的敏感性以及局部收敛的缺陷;然后,利用对历史移动通信数据进行训练得到的叶斯网络分类模型,对测试数据进行预测分类。实验结果表明,该方法大大提高了移动通信数据中负类样本的预测成功率,与传统的数理统计分析方法相比较,表现出了更好的性能。     

基于流相关性的网络流量分类

网络流量分类技术对网络安全管理起着非常重要的作用。随着网络和信息技术的发展,传统的基于端口号和深度包检测分类方法的局限性愈发明显,不能对现有的流量进行准确分类。提出一种基于流相关性的半监督网络流量分类算法,并使用MDL-CON高斯混合模型作为聚类模型,通过聚类过程中利用流之间的相关性提高模型的准确度。采用MDL准则解决了高斯混合模型需要人为预先设定类簇数目和高度依赖于初始值的问题。实验结果表明,利用该方法来处理流量分类问题可取得理想的分类效果。     

基于鲁棒高斯混合模型的加速EM算法研究*

针对传统鲁棒高斯混合模型EM算法存在模型成分参数难以精确获取最优解以及收敛速度随样本数量的增加而快速降低等问题,提出了一种基于鲁棒高斯混合模型的加速EM算法。该算法采用隐含参量信息熵原理对高斯模型分量个数进行挑选以及使用Aitken加速方法减少算法的迭代次数,当接近最优解时,EM步长的变化极为缓慢,这时使用Broyden对称秩1校正公式进行校正,使算法快速收敛,从而能够在很少的迭代次数内精确获取高斯混合模型的模型成分数。文中算法通过与传统鲁棒EM算法和无监督的EM算法的聚类结果进行比较,实验证明该算法对初始值的设定并不敏感(成分数c无需预先设定),并且能够降低算法运算时间,提高聚类模型成分数(类簇)的正确率。     

基于邻域场拉普拉斯混合模型图像分割的研究

针对高斯混合模型（GMM）不能有效处理重尾噪声下图像拖尾情况,提出了基于拉普拉斯（Laplacian）分布的有限混合模型图像分割方法。与标准拉普拉斯混合模型（LMM）将像素点作为孤立个体不同的是,该方法充分考虑了相邻像素点间的空间关系。相较传统混合模型参数估计采用的EM算法,该方法采用梯度下降法优化参数。实验结果表明在处理重尾噪声时,该方法与标准LMM算法和GMM算法相比,鲁棒性更好,分割更精确有效。     

基于DBN-HMM的人体动作识别

动作识别使得机器能够对人体动作的意图进行判别理解，进而实现高效的人机交互。提出一种肢体角度模型，实现在三维空间中对人体动作进行表示，该模型具有一定的不变性，计算复杂度低。针对传统的基于混合高斯的隐马尔可夫模型（GMM-HMM）的动作识别，提出深度置信网络模型（DBN）和隐马尔可夫模型相结合的动作识别模型，构建了一种非线性的基于条件限制玻尔兹曼机（CRBM）的DBN深度学习模型，深层次结构使其建模能力更强，且能够结合历史信息建模，更适用于动作识别。实验表明该算法具有较高的识别结果。     

基于体半径函数的网格分割算法

为解决现有网格分割算法对表面局部特征和噪声敏感的问题,定义一种刻画模型体属性的测度——体半径,该测度具有姿态不变性和噪声鲁棒性.在此基础上,提出一种网格层次分割算法.计算模型顶点的体半径值,采用二状态高斯混合模型对体半径分布拟合,进行连通分量标注,获取模型的各子部件,结合图切分技术得到有视觉意义的分割结果.实验结果表明...     

一种基于 Bernoulli混合模型的不完整数据文本分类方法

在Bernoulli混合模型和期望最大化(EM)算法的基础上给出了一种基于不完整数据的改进方法。首先在已标记数据的基础上通过Bernoulli混合模型和朴素贝叶斯算法得到似然函数参数估计初始值, 然后利用含有权值的EM算法对分类器的先验概率模型进行参数估计,得到最终的分类器。实验结果表明,该方法在准确率和查全率方面要优于朴素贝叶斯文本分类。     

Target detection algorithm for dance moving images based on sensor and motion capture data

The effectiveness of classification based on motion capture data to identify the human skeleton dance types. The goal is based on the body joint's information is to perform the characteristic posture obtained by the ultra-high Kinect sensor, identifying for each dance. The proposed Target Detection (TD) algorithm is used to dance moving object identification based on the improved Gaussian Mixture Model (GMM). The proposed Target Detection (TD) algorithm based on a Gaussian Mixture Model is a widely used method for modeling background from a Kinect sensor moving objects. The used data set contains six folk dance sequences and their variations. Gesture recognition scheme using a plurality of time constraints, spatial information, and spatial distribution characteristics to create a training data set appropriate application. The Gaussian Mixed Model distribution background model account, the algorithm, and their frame difference can be extracted in straight lines to obtain target dance areas with less background and background photo station under motor damage conditions. Through real-time Target Detection (TD) algorithm dance moving images based on the Gaussian Mixture Model (GMM), these two algorithms effectively detect dance moving image targets.     

改进的Online EM背景减除算法

为有效提取复杂场景中的运动前景,提出基于贝叶斯理论的Dirichlet共轭先验,结合在线最大似然估计(Online EM)改进基于高斯混合模型参数的背景减除算法.改进算法避免了陷入局部最值,在线自适应地调整高斯个数,并生成运动全景图,实验结果表明,该算法能有效提高前景检测率.     

基于聚类和排序高斯混合模型的说话人确认

基于高斯混合模型(GMM)-通用背景模型(UBM)结构的说话人确认系统不能完全表现说话人的个性特征信息。为此,将聚类方法和排序高斯混合模型相结合,对每个高斯分量按照对应排序值顺序排列,并对UBM进行训练。基于NIST 06 8side-1side数据库的实验结果表明,该方法能在基本保持系统识别性能的前提下,降低UBM的训练运算量。     

基于K均值聚类的图割医学图像分割算法

图割是一种同时基于区域和边界的交互式图像分割算法。传统的基于高斯混合模型的图割具有时间慢和描述组织中灰度分布不准确的缺点。为此,提出一种基于K均值聚类的图割算法。通过用改进的图割来分割仿体的和真实的脑部核磁共振图像,显示出该方法的有效性。该方法不但能提高图割在分割时的速度,在有噪音和灰度不均匀的图像上也能在较短的时间内得到更准确且鲁棒的结果。     

融合时空信息的运动目标检测算法

传统运动目标检测算法在处理诸如树叶晃动、水面波纹等动态场景时效果不理想。为此,针对动态场景下所存在的背景扰动问题,提出一种融合时间和空间信息的运动目标检测算法。该算法通过增量式主成分分析提取空间上图像的背景信息,结合三帧差分法所提取的时域信息进行融合决策以提取运动目标。实验结果表明,该算法能够在动态场景中有效提取运动目标,且检测结果优于混合高斯模型算法。     

A robust and outlier-adaptive method for non-rigid point registration

In this paper, a flexible probabilistic method is introduced for non-rigid point registration, which is motivated by the pioneering research named Coherent Point Drift (CPD). Being different from CPD, our algorithm is robust and outlier-adaptive, which does not need prior information about data such as the appropriate outlier ratio when the point sets are perturbed by outliers. We consider the registration as the alignment of the data (one point set) to a set of Gaussian Mixture Model centroids (the other point set), and initially formulate it as maximizing the likelihood problem, then the problem is solved under Expectation–Maximization (EM) framework. The outlier ratio is also formulated in EM framework and will be updated during the EM iteration. Moreover, we use the volume of the point set region to determine the uniform distribution for modeling the outliers. The resulting registration algorithm exhibits inherent statistical robustness and has an explicit interpretation. The experiments demonstrate that our algorithm outperforms the state-of-the-art method.