最大期望模拟退火的贝叶斯变分推理算法

针对贝叶斯变分推理收敛精度低和搜索过程中易陷入局部最优的问题,该文基于模拟退火理论(SA)和最大期望理论(EM),考虑变分推理过程中初始先验对最终结果的影响和变分自由能的优化效率问题,构建了双重EM模型学习变分参数的初始先验,以降低初始先验的敏感性,同时构建逆温度参数改进变分自由能函数,使变分自由能在优化过程得到有效控制,并提出一种基于最大期望模拟退火的贝叶斯变分推理算法.该文使用收敛性准则理论分析算法的收敛性,利用所提算法对一个混合高斯分布实例进行实验仿真,实验结果表明该算法具有较优的收敛结果.     

基于块稀疏贝叶斯模型的ISAR成像方法

传统ISAR稀疏成像主要针对独立散射点散射系数的重构问题,然而实际情况下目标散射点之间并不是独立存在的,而是以区域或块的形式存在,在该情形下利用常用的稀疏重构算法并不能完全地刻画块状目标的真实结构,因此该文考虑采用块稀疏重构算法进行目标散射系数重建。基于块稀疏贝叶斯模型和变分推理的重构方法(VBGS),包含了稀疏贝叶斯学习(SBL)方法中参数学习的优点,其利用分层的先验分布来表征未知信号的稀疏块状信息,因而相对于现有的恢复算法能够更好地重建块稀疏信号。该方法基于变分贝叶斯推理原理,根据观测量能自动地估计信号未知参数,而无需人工参数设置。针对稀疏块状目标,该文结合压缩感知(CS)理论将VBGS方法用于ISAR成像,仿真实验成像结果表明该方法优于传统的成像结果,适合于具有块状结构的ISAR目标成像。     

大规模MIMO系统上行链路时间-空间结构信道估计算法

针对大规模多入多出(MIMO)系统上行链路非平稳空间相关信道的估计问题,该文利用信道的时间-空间2维稀疏结构信息,应用狄利克雷过程(DP)和变分贝叶斯推理(VBI),设计了一种低导频开销和计算复杂度的信道估计迭代算法,提高了信道估计精度。由于平稳空间相关信道难以适用于大规模MIMO系统,该文借助于狄利克雷过程构建了非平稳空间相关信道先验模型,可将具有空间关联的多个物理信道映射为具有相同时延结构的概率信道,并应用变分贝叶斯推理设计了低导频开销和计算复杂度的信道估计迭代算法。实验结果验证了所提算法的有效性,且具有对系统关键参数鲁棒性的优点。     

基于贝叶斯自动相关性确定的稀疏重构正交频分复用信号时延估计算法

针对复杂环境下,单测量矢量(SMV)条件下的正交频分复用(OFDM)时延估计问题,该文提出了一种基于贝叶斯自动相关性确定(BARD)的稀疏重构时延估计算法。该算法运用贝叶斯框架,从进一步挖掘有用信息的角度入手,引入不对称的自动相关性确定(ARD)先验,融入参数估计过程中,有效提升了低信噪比(SNR)和SMV条件下的时延估计精度。该算法首先基于OFDM信号物理层协议数据单元估计出的信道频域响应构造稀疏化实数域表示模型,然后对模型中的噪声和稀疏系数矢量进行概率假设,同时引入自动相关性确定先验;最后根据贝叶斯框架,通过期望最大化(EM)算法求解超参数,实现对时延的估计。仿真实验表明,该算法具有更好的估计性能,在信噪比较高时更加贴近克拉美罗界(CRB)。同时基于通用软件无线电外设(USRP),利用实际信号对所提算法进行了有效性地验证。     

基于参数解耦的变分贝叶斯自适应卡尔曼滤波

针对噪声协方差矩阵失配情况下的状态估计问题,本文基于变分贝叶斯框架,提出了一种适用于过程噪声协方差矩阵和测量噪声协方差矩阵均未知条件下的参数解耦的变分贝叶斯自适应卡尔曼滤波算法。所提算法选取预测误差协方差矩阵作为变分优化变量,并引入了其马尔可夫演化模型,构造了参数解耦的变分推断模型。同时,采用固定点迭代优化实现状态、预测误差协方差矩阵和测量噪声协方差矩阵的联合后验概率分布求解,并设计了算法的收敛性判断准则。仿真结果验证了算法的有效性。     

基于改进鲸鱼优化策略的贝叶斯网络结构学习算法

针对当前贝叶斯网络结构学习算法易陷入局部最优和寻优效率低的问题,该文提出一种基于改进鲸鱼优化策略的贝叶斯网络结构学习算法。该算法首先提出一种新的方法建立较优的初始种群,然后利用不产生非法结构的交叉变异算子构建适用于贝叶斯网络结构学习的改进捕食行为,同时采用动态调节参数增强算法个体寻优的能力,通过适应度排序更新种群,最终获得最优的贝叶斯网络结构。仿真结果表明,该算法具有全局收敛性,寻优效率高,精确率高于其它同类优化算法。     

基于变分方法的超分辨率

基于全变分先验和变分分布.提出一个新颖的超分辨率算法,使用分级的贝叶斯框架,能够同时计算出重建的高分辨率图像和模型参数.本算法利用变分推论给出变量的后验分布近似.因为能够同时估计出模型参数,是自动的过程,无需对参数人工调节.实验结果表明所提算法在重建质量上优于当前主流的算法.     

有限贝塔刘维尔混合模型的变分学习及其应用

由于贝塔刘维尔分布的共轭先验分布中存在积分表达式,贝叶斯估计有限贝塔刘维尔混合模型参数异常困难.本文提出利用变分贝叶斯学习模型参数,采用gamma分布作为近似的先验分布并使用合理的非线性近似技术,得到了后验分布的近似解.与常用的EM算法相比,该方法能够同时估计模型参数和确定分量数,且避免了过拟合的问题.在合成数据集及场景分类问题上进行了大量的实验,实验结果验证了本文所提方法的有效性.     

具有聚类结构相似性的非参数贝叶斯字典学习算法

利用图像结构信息是字典学习的难点,针对传统非参数贝叶斯算法对图像结构信息利用不充分,以及算法运行效率低下的问题,该文提出一种结构相似性聚类beta过程因子分析(SSC-BPFA)字典学习算法。该算法通过Markov随机场和分层Dirichlet过程实现对图像局部结构相似性和全局聚类差异性的兼顾,利用变分贝叶斯推断完成对概率模型的高效学习,在确保算法收敛性的同时具有聚类的自适应性。实验表明,相比目前非参数贝叶斯字典学习方面的主流算法,该文算法在图像去噪和插值修复应用中具有更高的表示精度、结构相似性测度和运行效率。     

基于贝叶斯信息准则的极化干涉SAR图像非监督分类

该文提出一种利用贝叶斯信息准则自动确定聚类类别数的极化干涉SAR非监督分类算法。该方法首先利用Shannon熵特征对极化干涉SAR图像进行初始分类,然后利用期望最大化(Expectation-Maximization, EM)算法和标号代价(LabelCost)优化算法对分类结果进行迭代优化,同时通过贝叶斯信息准则(Bayesian Information Criterion, BIC)自动确定非监督分类的最佳类别数。实验结果表明该算法能够较准确地确定分类类别数,并具有较为满意的分类效果。     

Computationally efficient variational Bayesian method for PAPR reduction in multiuser MIMO‐OFDM systems

This paper investigates the use of the inverse‐free sparse Bayesian learning (SBL) approach for peak‐to‐average power ratio (PAPR) reduction in orthogonal frequency‐division multiplexing (OFDM)‐based multiuser massive multiple‐input multiple‐output (MIMO) systems. The Bayesian inference method employs a truncated Gaussian mixture prior for the sought‐after low‐PAPR signal. To learn the prior signal, associated hyperparameters and underlying statistical parameters, we use the variational expectation‐maximization (EM) iterative algorithm. The matrix inversion involved in the expectation step (E‐step) is averted by invoking a relaxed evidence lower bound (relaxed‐ELBO). The resulting inverse‐free SBL algorithm has a much lower complexity than the standard SBL algorithm. Numerical experiments confirm the substantial improvement over existing methods in terms of PAPR reduction for different MIMO configurations.     

Heuristic Sarsa algorithm based on value function transfer

With the problem of slow convergence for traditional Sarsa algorithm,an improved heuristic Sarsa algorithm based on value function transfer was proposed.The algorithm combined traditional Sarsa algorithm and value function transfer method,and the algorithm introduced bisimulation metric and used it to measure the similarity between new tasks and historical tasks in which those two tasks had the same state space and action space and speed up the algorithm convergence.In addition,combined with heuristic exploration method,the algorithm introduced Bayesian inference and used variational inference to measure information gain.Finally,using the obtained information gain to build intrinsic reward function model as exploring factors,to speed up the convergence of the algorithm.Applying the proposed algorithm to the traditional Grid World problem,and compared with the traditional Sarsa algorithm,the Q-Learning algorithm,and the VFT-Sarsa algorithm,the IGP-Sarsa algorithm with better convergence performance,the experiment results show that the proposed algorithm has faster convergence speed and better convergence stability.     

基于自适应的增广状态-交互式多模型的机动目标跟踪算法

现有的增广状态-交互式多模型算法存在着依赖于量测噪声协方差矩阵这一先验信息的问题。当先验信息未知或不准确时,算法的跟踪性能将会下降。针对上述问题,该文提出一种自适应的变分贝叶斯增广状态-交互式多模型算法VB-AS-IMM。首先,针对增广状态的跳变马尔科夫系统,该文给出了联合估计增广状态和量测噪声协方差矩阵的变分贝叶斯推断概率模型。其次,通过理论推导证明了该概率模型是非共轭的。最后,通过引入一种“信息反馈+后处理”方案,提出联合后验密度的次优求解方法。所提算法能够在线估计未知的量测噪声协方差矩阵,具有更强的鲁棒性和适应性。仿真结果验证了算法的有效性。     

基于EM-SBL迭代的稀疏SIMO信道频域盲均衡算法

针对单输入多输出系统下稀疏信道均衡问题,提出了一种新的基于最大似然准则的频域迭代均衡算法.首先将多天线联合均衡问题建模为非完整观测数据集下频域信号序列的最大似然估计问题,利用期望最大化算法进行近似迭代求解,最终得到各个单频信号加权求和形式的均衡输出表达式.在每次迭代过程中,算法依次完成均衡输出的更新和信道参数联合条件后验分布的更新.考虑到信道固有的稀疏特性,在求解信道参数联合条件后验时,引入具有稀疏促进作用的先验分布对信道系数加以约束,使用稀疏贝叶斯学习迭代求解信道参数联合条件后验.仿真结果表明,本文算法具有较好的收敛特性和稳态性能,在中高信噪比条件下可以获得接近信道已知条件下的稳态系统误符号率性能.     

组合字典下超宽带穿墙雷达自适应稀疏成像方法

针对现有超宽带穿墙雷达稀疏成像算法大多只采用点目标稀疏基表示模型和稀疏优化的正则化参数不能被自适应调整以及目标位置不在划分网格上带来虚假像的问题,该文提出一种基于贝叶斯证据框架的自适应稀疏成像方法。该方法首先利用组合字典独立稀疏表示场景中的点目标和扩展目标,然后在建立的偏离网格稀疏表示模型的基础上分层最大化各参数的似然函数,用第1层推理结合共轭梯度算法估计组合字典的各稀疏表示系数,用第2层推理估计正则化参数和目标的偏离网格量,最终通过迭代优化参数的设置得到问题的求解。仿真和实验结果表明,该方法不仅同时自适应增强穿墙场景中的点目标和扩展目标,还消除了偏离网格目标引起的虚假像。     

一种基于Kriging模型和受限差分进化的电磁结构快速优化算法

进化算法在各类电磁结构优化设计中有着广泛的应用，但由于需要在参数空间中进行随机搜索并仿真试探，优化效率普遍较低.针对这一问题，提出受限差分进化（Differential Evolution，DE）算法与Kriging代理模型相结合的电磁结构快速优化算法.算法根据参考设计结果建立圆柱管道空间，通过参数变换将进化区域限制在管道内部.Kriging模型学习管道内样本及其仿真数据，代替电磁仿真快速预测进化产生下一代种群的响应.相比整个参数空间，该算法DE寻优和Kriging学习的区域被显著减小，优化效率得到提升.通过一个波导双孔定向耦合器的优化设计，表明该方法的求解质量和收敛速度优于现有算法.     

Bayesian class discovery in microarray datasets

A novel approach to class discovery in gene expression datasets is presented. In the context of clinical diagnosis, the central goal of class discovery algorithms is to simultaneously find putative (sub-)types of diseases and to identify informative subsets of genes with disease-type specific expression profile. Contrary to many other approaches in the literature, the method presented implements a wrapper strategy for feature selection, in the sense that the features are directly selected by optimizing the discriminative power of the used partitioning algorithm. The usual combinatorial problems associated with wrapper approaches are overcome by a Bayesian inference mechanism. On the technical side, we present an efficient optimization algorithm with guaranteed local convergence property. The only free parameter of the optimization method is selected by a resampling-based stability analysis. Experiments with Leukemia and Lymphoma datasets demonstrate that our method is able to correctly infer partitions and corresponding subsets of genes which both are relevant in a biological sense. Moreover, the frequently observed problem of ambiguities caused by different but equally high-scoring partitions is successfully overcome by the model selection method proposed.