贝塔混合模型的变分贝叶斯学习及应用

贝塔混合模型（Beta Mixture Model,BMM）是一种重要的非高斯概率模型,常用于有界数据的统计分析.但是由于其表达式复杂,BMM的参数估计比较困难.针对该问题,本文提出一种高效的变分贝叶斯学习方法进行参数估计.该方法采用形式简单的自由分布,通过不断最大化初始变分目标函数的下界,迭代逼近得到真实的贝叶斯后验分布.在合成数据集与实际数据集上进行实验,实验结果证明了所提出算法的有效性和可行性.     

混合逆狄利克雷分布的变分学习及应用

混合逆狄利克雷分布是正的非高斯数据分析中一个重要的统计模型.但是利用常用的统计方法比如极大近似然估计、矩估计等往往很难得到模型参数估计的显性解析式.本文提出一个变分贝叶斯学习算法,它能够在估计参数的同时自动确定混合分量数.在合成数据集及实测数据集上的实验结果表明利用变分贝叶斯推理来估计混合逆狄利克雷分布是一种非常有效的方法.     

基于修正小波阈值的图像变分分解

Daubechies等人(2004)首先提出了图像的变分分解和小波软阈值之间的联系。小波软阈值会对图像边缘造成过度光滑,使重构图像在边缘附近产生吉布斯震荡现象,为克服该问题,本文用具有更高正则性的分段n次多项式小波阈值和指数阈值做图像分解,得到图像分解的变分泛函的近似最小值。当n越大时,图像分解的变分问题的近似最小值越逼近精确最小值。这样得到了图像的变分分解和修正小波阈值之间的联系。实验结果表明该模型用于图像分解的有效性。     

玉米光谱变分模态分解及其铜铅污染的VMD-CR-ED测度模型

农作物重金属污染监测是当今高光谱遥感研究的重要内容之一.重金属污染会引发农作物光谱畸变,但不同污染程度的作物光谱在形态上仍具有极高相似度,所以监测其畸变的关键问题之一是如何提取相似光谱间污染的弱差信息.本研究将变分模态分解(VMD)理论引入到光谱信息弱变化监测中,并结合包络线去除(CR)与欧式距离(ED)方法构建了光谱弱差信息的VMD-CR-ED测度模型,通过与光谱角(SA)与光谱相关系数(SCC)等常规光谱测度算法进行应用比较,证明VMD-CR-ED模型在有效区分玉米叶片的不同胁迫程度方面更具有优越性.同时,分析了VMD-CR-ED模型与玉米叶片光谱8个特征子波段的相关性.最后,基于检验数据验证了VMD-CR-ED测度模型在农作物铜铅污染监测方面具有可行性和可靠性.     

基于优化变分模态分解的混合储能平抑风电波动策略

为解决风力发电随机、间歇特性造成的功率波动问题,文中提出将氢气储能和超级电容器组合成混合储能系统接入风电场中,以平抑风电波动。采用滑动平均滤波确定并网功率和混合储能功率;在储能功率分配方面,针对现有VMD算法参数选择上存在主观性和经验性的问题,提出使用灰狼优化算法对分解个数K及惩罚项α进行寻优,避免分解后各模态之间发生频率混叠的现象。此外,为将各储能设备荷电状态维持在合理范围内,避免过度充放电,采用模糊控制对功率指令进行二次修正。最后以新疆某地区的风电场数据为依据,在Matlab/Simulink中进行仿真,仿真结果表明所提策略具有有效性。     

基于BIC准则和Gibbs采样的有限混合模型无监督学习算法

针对有限混合模型无监督学习算法分布元个数未知,本文提出了一种基于BIG准则和Cibbs采样的无监督学习算法,通过Gibbs采样算法对混合模型的参数进行估计,进一步计算观测数据的Bayes信息准则(BIC)指标,确定混合分布元个数.仿真实验以高斯混合分布为例,分别利用具有不同个数的分布模型拟合观测数据,分析表明,该算法能...     

基于剪切波的变分图像放大方法

针对图像放大的Chambolle 变分模型会出现阶梯效应的现象, 文中提出了一种基于Shearlet光滑分解空间的变分模型。利用有界变差空间和Shearlet分解空间的关系,特别是Shearlet分解空间的半范与加权Shearlet系数之间的等价关系,将所求的变分问题转化为基于Shearlet域的变分问题,其解归结于简单的Shearlet阈值。实验仿真表明,该方法放大后的图像有效地消除了阶梯块效应,保持了更多的细节,具有更高的峰值信噪比。     

基于混合高斯变分自编码网络的异常检测算法

异常数据是指偏离大量正常数据点的数据,往往会对各类系统产生负面影响,存在较大风险。异常检测作为一种有效的防护手段,能够检测数据中的异常,为各类系统的正常运转提供重要支撑,具有重要的现实意义。提出了一种基于混合高斯变分自编码网络的异常检测算法,该算法首先使用混合高斯先验构建变分自编码器,对输入数据进行特征提取,然后以混合高斯变分自编码器构建深度支持向量网络,压缩特征空间,并寻找最小超球体分离正常数据和异常数据,通过计算数据特征到超球体中心的欧氏距离衡量数据的异常分数,并以此进行异常检测。最后在基准数据集MNIST和Fashion-MNIST上评估了该算法,平均AUC分别达到了0.954和0.937。实验结果表明,所提出的算法取得了较好的异常检测效果。     

连续的变分图生成模型

学习图中节点的嵌入表示是很多任务的基础,比如链接预测,节点分类和图可视化。之前的图嵌入方法主要是静态图,但是现实生活中很多图都是动态的,随着时间变化而且时间是连续的。由于静态的方法只能学习到单个时间点上图的结构,无法捕捉到图在时间上的依赖,很多动态的方法无法处理不规则时间间隔的问题。针对以上问题,提出了一种连续时间上的动态图生成方法（continuous variational graph generative model,CVGGM)。方法建立在变分自动编码机之下,使用时间嵌入方法得到输入,使用信息传递得到节点邻居的信息,使用连续的长短期记忆网络学习时间上的依赖,生成潜在变量作为节点的表示。实验中使用了3个现实世界的数据集,并且在链接检测和链接预测上达到了很好的效果。     

基于变分主题模型的半监督文本分类

为解决实际应用场景中常面临的数据标注不足的问题,提出一种基于变分主题模型的半监督文本分类模型。首先使用无监督变分主题模型挖掘出语义信息集中的文档-主题分布,作为有效的文档特征表示,再通过半监督方式训练分类器。基于神经网络的变分主题模型相较传统的主题模型,不仅可以得到合理的主题,而且推断速度更快。在20NewsGroup等数据集上的实验结果表明,所提出的模型仅使用30%的训练数据就可以取得与使用90%训练数据的半监督基线模型相当甚至更好的结果,证明了所提出模型的正确性和实用性。     

Variational learning for finite Beta-Liouville mixture models

In the article, an improved variational inference （VI） framework for learning finite Beta-Liouville mixture models （BLM） is proposed for proportional data classification and clustering. Within the VI framework, some non-linear approximation techniques are adopted to obtain the approximated variational object functions. Analytical solutions are obtained for the variational posterior distributions. Compared to the expectation maximization （EM） algorithm which is commonly used for learning mixture models, underfitting and overfitting events can be prevented. Furthermore, parameters and complexity of the mixture model （model order） can be estimated simultaneously. Experiment shows that both synthetic and real-world data sets are to demonstrate the feasibility and advantages of the proposed method.     

Text‐Independent Speaker Verification Using Variational Gaussian Mixture Model

This paper concerns robust and reliable speaker model training for text‐independent speaker verification. The baseline speaker modeling approach is the Gaussian mixture model (GMM). In text‐independent speaker verification, the amount of speech data may be different for speakers. However, we still wish the modeling approach to perform equally well for all speakers. Besides, the modeling technique must be least vulnerable against unseen data. A traditional approach for GMM training is expectation maximization (EM) method, which is known for its overfitting problem and its weakness in handling insufficient training data. To tackle these problems, variational approximation is proposed. Variational approaches are known to be robust against overtraining and data insufficiency. We evaluated the proposed approach on two different databases, namely KING and TFarsdat. The experiments show that the proposed approach improves the performance on TFarsdat and KING databases by 0.56% and 4.81%, respectively. Also, the experiments show that the variationally optimized GMM is more robust against noise and the verification error rate in noisy environments for TFarsdat dataset decreases by 1.52%.     

基于高斯混合模型的多目标跟踪航迹相关算法

文中引入了高斯混合模型的概念,根据其统计特性,针对边扫描边跟踪雷达中的多目标跟踪问题,提出了一种新的判断航迹相关的算法。首先,证明了点迹服从高斯混合分布;然后,利用混合模型可以用作聚类分析工具的特性,推导出了点迹与当前航迹进行匹配判断的相关原则。此外文中还结合这种新算法修正了用于航迹起始和航迹结束的滑窗法,最后给出了典型环境下的仿真结果,证明了该算法的可行性。     

利用高斯混合模型实现概率密度函数逼近

针对图像的概率分布密度函数的不确定,利用有限高斯混合模型逼近图像的概率分布密度函数。理论上证明了有限高斯混合模型可以以任意精度正逼近实数上的非负黎曼可积函数,特别可以逼近任意的概率分布密度函数。实例表明有限高斯混合模型逼近已知分布密度函数或未知分布密度函数时,具有逼近精度高等优点,为函数逼近提供了理论和技术支持。     

Unsupervised Texture Segmentation Based on Artificial Immune Gaussian Mixture Models Network

We propose a novel unsupervised texture image segmentation scheme based on an Artificial immune Gaussian mixture models network （AIGMMN）, witch is really a mixture-of-mlxtures models. Starting from this algorithm, we coarsely group the homogeneous blocks into the known texture classes by the Fuzzy C-mean （FCM） clustering algorithm. Then we refinedly determine the heterogeneous blocks classification by AIGMMN. The new algorithm incorporates Expectation-maximization （EM） with the ideas of the Artificial immune clonal selection （AICS）, which can get a global optimal value and overcome the local maximum problems associated with the traditional EM algorithm. Moreover, the new algorithm is capable of determining the optimal number of components automatically in each subnet mixture model, which can approximate the non-gaussian multimodal densities distribution. We compare the proposed method with two common mixturebased segmentation methods for both synthetic and natural texture images, and achieve an overall improvement in performance.     

一种结合位置信息的混合模型图像分割方法

提出了一种新的受位置约束的混合模型图像分割方法。该方法在独立混合模型的基础上,采用空间滤波方法对像素所属分量的后验概率进行修正,在混合模型中隐含地加入了像素的空间位置信息。这种结合位置信息的方法为混合模型的分量选择提供了一种有效的实现方式。与其它的受位置限制的混合模型相比,该方法没有引入额外的模型参数,并且无需采用模型选择准则,可以实现自动的混合分量个数的选择。     

自适应高斯混合模型及说话人识别应用

高斯混合模型采用固定混合数结构的建模方法并不符合说话人语音特征分布的多样性,从而出现过拟合或者欠拟合的情况并影响系统的识别性能。提出一种混合数可变的自适应高斯混合模型并将其应用于说话人识别。模型训练中根据说话人语音特征参数分布的聚类特性,采用吸收合并与分裂机制动态调整混合数以获得更加精确的拟合性能,提高系统识别率。实验结果显示,在特征参数MFCC和BFCC（Bilinear Frequency Cepstrum Coefficients）下相对误识率分别下降了41.41%和22.21%。