一种基于递增估计GMM的连续优化算法

目前的分布估计算法(estimation of distribution algorithms)中概率模型的学习或多或少存在着对先验知识的依赖,而这些先验知识往往是不可预知的.针对这一问题,文中提出采用集成学习(ensemble learning)的思想实现EDAs中概率模型结构和参数的自动学习,并提出了一种基于递增学习策略的连续域分布估计算法,该算法采用贪心EM算法来实现高斯混合模型(GMM)的递增学习,在不需要任何先验知识的情况下,实现模型结构和参数的自动学习.通过一组函数优化实验对该算法的性能进行了考查,并与其它同类算法进行了比较.实验结果表明该方法是有效的,并且,相比其它同类EDAs,该算法用相对少的迭代,可以得到同样或者更好的结果.     

基于转移概率的分布估算算法在p-median问题上的应用

分布估算算法(EDA)是近几年出现的一种启发式进化算法,在组合优化问题中得到了广泛、有效的应用.概率模型直接决定着该算法的性能,如何构建一个高性能的概率模型成为分布估算算法的研究核心.把转移概率模型引入分布估算算法,并对p-median问题进行求解,结果表明,基于转移概率模型的分布估算算法能够有效地求解p-median问题,并极大地提高了算法的效率与精确性.     

概率二维主分量分析

二维主分量分析是一种直接面向图像矩阵表达方式的特征抽取与降维方法. 提出了一个基于二维主分量分析的概率模型. 首先, 通过对此产生式概率模型参数的最大似然估计得到主分量(矢量); 然后, 考虑到缺失数据问题, 利用期望最大化算法迭代估计模型参数和主分量. 混合概率二维主分量分析模型在人脸聚类问题上的应用表明概率二维主分量分析模型能作为图像矩阵的密度估计工具. 含有缺失值的人脸图像重构实验阐述了此模型及迭代算法的有效性.     

基于多维EDA算法的低碳分布式装配流水车间调度

针对低碳分布式装配置换流水车间调度问题(LC＿DAPFSP),建立以同时最小化总能耗和总完工时间为优化目标的数学模型,进而提出一种多维分布估计算法(MEDA)以进行求解.首先,采用随机方法和启发式算法共同生成初始化种群;其次,建立基于矩阵立方体的概率模型,用于合理学习并积累优质解的块结构信息和序关系信息,同时设计有效采样机制对概率模型采样以生成新种群,从而合理引导算法搜索方向并发现可行解空间中的优质解区域;然后,为平衡算法的全局探索与局部开发能力,提出基于问题特性的变邻域局部搜索方法,可对全局搜索发现的优质解区域进行细致搜索;最后,通过仿真实验与算法对比验证MEDA是求解LC＿DAPFSP的有效算法.     

基于潜在语义分析的场景分类优化决策方法

针对传统pLSA模型中语义建模和参数求解不足的问题,提出一种基于先验信息的pLSA场景分类方法.首先对概率模型中的参数矩阵增加同类场景数据的低秩性及单幅图像相对语义主题的稀疏性约束,建立基于先验信息的优化决策模型;然后采用非精确增广拉格朗日乘子法给出模型参数求解算法;最后将基于潜在语义分析的场景分类方法应用到较大规模的场景分类任务中.与其他基于pLSA模型的分类算法进行比较的实验结果表明,文中方法便于产生低维空间中紧致有效的场景语义表示,避免了EM算法收敛性欠佳引起的局部最优问题,具有更好的场景分类性能.     

一种求解多维背包问题的混合分布估计算法

针对多维背包问题（MKP）,提出一种基于分布估计算法的混合求解算法,该算法基于优势种群构建概率模型,并基于概率模型采样产生新个体;同时,提出一种基于MKP问题信息的修复机制,有效修复采样后种群中的不可行解．另外,设计了一种自适应的局部搜索操作,以增强算法的局部搜索能力,基于标准测试集的仿真结果和算法比较验证了所提出的混合算法的有效性和鲁棒性．     

基于贝叶斯统计推断的离散分布估计算法

将贝叶斯统计推断理论引入分布估计算法概率模型中,提出一种基于贝叶斯统计推断的离散分布估计算法。根据离散优化问题中解的分布规律建立先验概率模型,将优势群体的概率模型和二元边缘分布算法中森林结构的概率模型相结合,得出条件概率模型,利用贝叶斯统计推断,并结合上述2种概率模型建立后验概率模型,以指导新群体的产生。仿真结果表明,该算法求解gr21旅行商问题的收敛速度大于EDAs1算法,在种群规模、最大运行代数等参数固定的情况下,分别分析结合速率和学习速率对算法性能的影响,得出当其值取0.2时,算法性能最稳定。     

求解不相关并行机调度的一种自适应分布估计算法

针对不相关并行机调度问题, 提出一种基于信息熵的自适应分布估计算法. 根据问题特性, 设计了面向工件机器分配的概率模型及其基于增量学习的更新方式, 学习速率基于信息熵进行调整. 为了增强算法局部寻优能力, 采用基于关键机器的邻域结构进行局部搜索; 同时讨论了信息熵与学习速率的关系, 并探讨了关键参数对算法性能的影响. 基于标准算例的测试结果与算法比较, 验证了学习速率的自适应调整机制以及所提出算法的有效性.     

一种多目标优化的多概率模型分布估计算法

提出了一种用于多目标优化的多概率模型分布估计算法,该算法在进化的每一代中使用多个概率模型来引导多目标优化问题柏拉图(Pareto)最优域的搜索.分布估计算法使用概率模型引导算法最优解的搜索,而使用多个概率模型可以保持所得多目标优化问题最优解集的多样性.该算法具有很强的寻优能力,所得结果可以很好地覆盖Pareto前沿.实验通过优化一组测试函数来评价该算法的性能,并与其它多目标优化算法进行了比较,结果表明该算法相比于其它同类算法可以更好地解决多目标优化问题.     

目标语义概率模型在类目标识别和地物场景分析中的算法研究

基于文本分析统计模型提出了图像类目标的语义概率模型,并且将这种概率模型应用于目标识别和复杂场景下的地物分析.首先将图像表示成多个特征局部区域的集合,然后根据目标语义概率模型得到图像、特征局部和目标语义之间的概率关系,通过计算后验概率可以实现目标语义类别的识别.目标概率模型通过EM算法获得模型估计参数.实验结果显示,在识别复杂背景中的目标达到了很好的效果.场景分析中根据图像中各局部区域与目标语义的概率分布可以实现场景中感兴趣区域的标注,实验结果说明此方法有可行性.     

空间约束层次加权Gamma混合模型的SAR图像分割

目的 合成孔径雷达（SAR）图像中像素强度统计分布呈现出复杂的特性,而传统混合模型难以建模非对称、重尾或多峰等特性的分布。为了准确建模SAR图像统计分布并得到高精度分割结果,本文提出一种利用空间约束层次加权Gamma混合模型（HWGaMM）的SAR图像分割算法。方法 采用Gamma分布的加权和定义混合组份;考虑到同质区域内像素强度的差异性和异质区域间像素强度的相似性,采用混合组份加权和定义HWGaMM结构。采用马尔可夫随机场（MRF）建模像素空间位置关系,利用中心像素及其邻域像素的后验概率定义混合权重以将像素邻域关系引入HWGaMM,构建空间约束HWGaMM,以降低SAR图像内固有斑点噪声的影响。提出算法结合M-H（Metropolis-Hastings）和期望最大化算法（EM）求解模型参数,以实现快速SAR图像分割。该求解方法避免了M-H算法效率低的缺陷,同时克服了EM算法难以求解Gamma分布中形状参数的问题。结果 采用3种传统混合模型分割算法作为对比算法进行分割实验。拟合直方图结果表明本文算法具有准确建模复杂统计分布的能力。在分割精度上,本文算法比基于高斯混合模型（GMM）、Gamma分布和Gamma混合模型（GaMM）分割算法分别提高33%,29%和9%。在分割时间上,本文算法虽然比GMM算法多64 s,但与基于Gamma分布和GaMM算法相比较分别快600 s和420 s。因此,本文算法比传统M-H算法的分割效率有很大的提高。结论 提出一种空间约束HWGaMM的SAR图像分割算法,实验结果表明提出的HWGaMM算法具有准确建模复杂统计分布的能力,且具有较高的精度和效率。     

基于接入概率的LTE小区重选优化算法分析

在3G网络中,UE(用户设备)在建立RRC(无线资源控制)连接之前会进行接入等级检查。在一些具有低接入概率的小区中,UE可能会由于低接入概率而尝试多次接入服务小区,从而导致较高的失败连接次数和更长的接入延迟。提出一种基于接入概率的小区重选优化算法对于小区重选R准则算法进行优化,进而使处于服务小区内低接入概率的UE更容易重选到高接入概率的邻小区,并通过建模和仿真分析了算法的性能;结合接入概率对小区重选中的相关参数进行了分析,提出合适的参数设置。     

A bi-population based estimation of distribution algorithm for the flexible job-shop scheduling problem

In this paper, an effective bi-population based estimation of distribution algorithm (BEDA) is proposed to solve the flexible job-shop scheduling problem (FJSP) with the criterion to minimize the maximum completion time (makespan). The BEDA stresses the balance between global exploration and local exploitation. In the framework of estimation of distribution algorithm, two sub-populations are used to adjust the machine assignment and operation sequence respectively with a splitting criterion and a combination criterion. At the initialization stage, multiple strategies are utilized in a combination way to generate the initial solutions. At the global exploration phase, a probability model is built with the superior population to generate the new individuals and a mechanism is proposed to update the probability model. At the local exploitation phase, different operators are well designed for the two sub-populations to generate neighbor individuals and a local search strategy based on critical path is proposed to enhance the exploitation ability. In addition, the influence of parameters is investigated based on Taguchi method of design of experiment, and a suitable parameter setting is determined. Finally, numerical simulation based on some widely used benchmark instances is carried out. The comparisons between BEDA and some existing algorithms as well as the single-population based EDA demonstrate the effectiveness of the proposed BEDA in solving the FJSP.     

An effective hybrid EDA-based algorithm for solving multidimensional knapsack problem

In this paper, an effective hybrid algorithm based on estimation of distribution algorithm (EDA) is proposed to solve the multidimensional knapsack problem (MKP). With the framework of EDA, the probability model is built with the superior population and the new individuals are generated based on probability model. In addition, an updating mechanism of the probability model is proposed and a mechanism for initializing the probability model based on the specific knowledge of the MKP is also proposed to improve the convergence speed. Meanwhile, an adaptive local search is proposed to enhance the exploitation ability. Furthermore, the influences of parameters are investigated based on Taguchi method of design of experiment and the importance of repair operator is also studied via simulation testing and comparisons. Finally, numerical simulation is carried out based on the benchmark instances, and the comparisons with some existing algorithms demonstrate the effectiveness of the proposed algorithm.     

A Hybrid Estimation of Distribution Algorithm for Unrelated Parallel Machine Scheduling with Sequence-Dependent Setup Times

A hybrid estimation of distribution algorithm (EDA) with iterated greedy (IG) search (EDA-IG) is proposed for solving the unrelated parallel machine scheduling problem with sequence-dependent setup times (UPMSP-SDST). For makespan criterion, some properties about neighborhood search operators to avoid invalid search are derived. A probability model based on neighbor relations of jobs is built in the EDA-based exploration phase to generate new solutions by sampling the promising search region. Two types of deconstruction and reconstruction as well as an IG search are designed in the IG-based exploitation phase. Computational complexity of the algorithm is analyzed, and the effect of parameters is investigated by using the Taguchi method of design-of-experiment. Numerical tests on 1640 benchmark instances are carried out. The results and comparisons demonstrate the effectiveness of the EDA-IG. Especially, the bestknown solutions of 531 instances are updated. In addition, the effectiveness of the properties is also demonstrated by numerical comparisons.      

一种基于EEMD域统计模型的话音激活检测算法

该文提出了一种基于EEMD域统计模型的话音激活检测算法。算法首先利用总体平均经验模态分解(Ensemble Empirical Mode Decomposition,EEMD)对带噪语音进行分解,得到信号的本征模式函数(Intrinsic Mode Function,IMF)分量,选择与原信号的相关性最高的两个分量相加组成主分量;然后对主分量进行频域分解,引入统计模型,求出EEMD域特征参数;最后利用噪声与语音的EEMD域特征参数的不同来进行语音激活检测。实验结果表明,在不同信噪比情况下,本文算法性能优于目前常用的 VAD算法,特别在噪声强度大时体现出明显的优势。     

基于ＥＥＭＤ域统计模型的话音激活检测算法

提出了一种基于EEMD域统计模型的话音激活检测算法。算法首先利用总体平均经验模态分解(Ensemble empirical mode decomposition,EEMD)对带噪语音进行分解,得到信号的本征模式函数(Intrinsicmode function,IMF)分量,选择与原信号的相关性最高的两个分量相加组成主分量;然后对主分量进行频域分解,引入统计模型,求出EEMD域特征参数;最后利用噪声与语音的EEMD域特征参数的不同来进行语音激活检测。实验结果表明,在不同信噪比情况下,本文算法性能优于目前常用的VAD算法,特别在噪声强度大时体现出明显的优势。     

用于多维数据实视图选择的分布估计算法

在数据仓库中,为选择合适的视图加以实体化,提出一种新的分布估计算法。在解空间随机产生初始群体,根据适应值选择部分好的解集,利用这些优势群体建立概率模型并估计联合概率分布,再从新的概率分布中抽样得到下一代。实验结果表明,该算法能减少查询响应时间和视图维护代价,并且其寻优性能优于经典遗传算法。     

基于Earley算法的多功能雷达文法概率快速学习算法

针对基于随机上下文无关文法（SCFG）建模的多功能雷达（MFR）概率学习问题,在传统Inside-Outside（IO）算法和Viterbi-Score（VS）算法的基础上,提出一种基于Earley算法的多功能雷达文法概率快速学习算法。该算法通过对截获的雷达数据进行预处理,构造可以反映派生过程的Earley剖析表,并且基于最大子树概率原则从剖析表中提取出最优剖析树,利用改进的IO算法和改进的VS算法对文法概率进行学习,实现MFR参数估计,得到文法参数后,再利用Viterbi算法对MFR状态进行估计。理论分析和实验仿真表明,与IO算法和VS算法相比,改进算法在保持估计精度的同时,可以有效降低计算复杂度和减少运行时间,验证了Earley算法能够提高文法概率的学习速度。     

安全性可控的生成式文本隐写算法

生成式文本隐写算法通过对候选池中的单词进行控制性选择映射来隐藏秘密信息,通常包含3个模块：文本生成模型、候选池概率分布截断和隐写嵌入算法。由于不同时刻文本生成模型输出的概率分布差异巨大,现有算法通常采用top-k或top-p对候选池单词的概率分布进行截断,以减少低概率的生成词,提高生成文本的安全性。当文本生成模型输出的候选池概率分布过于集中（over-concentrated）或过于平坦（over-flat）时,原有的top-k或top-p截断方式不足以应对概率分布的变化,容易产生概率较低的词或忽略概率较高的词,导致生成文本的安全性指标出现异常。针对此类问题,提出了安全性可控的生成式文本隐写算法,在候选池中根据秘密信息控制性选择生成词时,所提算法基于困惑度和KL散度的参数约束,动态进行候选池概率分布的截断,使候选池中所有单词都满足参数约束,提高了生成文本的安全性。实验结果表明,所提算法生成的隐写文本困惑度和KL散度可控;在相同KL散度情况下,生成文本的困惑度较现有算法下降最高达20%～30%;可以同时控制困惑度和KL散度,在指标合理的情况下,使生成的文本同时满足困惑度和KL散度两个指标。在使用3种文本隐写分析算法检测生成的隐写文本时,检测准确率均在50%左右,表现出很好的统计安全性。