基于关联熵系数的粗糙Vague集相似性度量方法

粗糙Vague集是将粗糙集和Vague集理论相互融合以处理不确定性信息的一种理论工具。本文在深入研究Vague集及粗糙模糊集的关联熵、关联熵系数及集合相似性度量方法基础上,将关联熵和关联熵系数的概念引入到粗糙Vague集,并详细讨论了它们的主要性质,同时证明了关联熵系数满足粗糙Vague集相似度的定义,可用于粗糙Vague集的相似性度量。最后通过实例验证了粗糙Vague集的关联熵系数用于度量粗糙Vague集之间相似性程度的有效性,该理论为粗糙Vague集相似性度量提供了一种新方法。     

转置容错熵编码

为提高视频传输的鲁棒性,通过对容错熵编码(EREC)方法的研究,提出一种将数据块进行转置操作的容错熵编码(TEREC)方法。将数据进行空频变换编码,如小波变换或者离散余弦变换(DCT),优先传输所有数据块中的低频系数。由于变换后的低频系数对解码的重要性高于高频系数,在通过不等差错保护信道编码后,可以明显降低丢包造成的解码错误。容错熵编码和转置容错熵编码的对比结果表明,使用后者能使性能得到平均2dB的提高。     

最大熵试验法及其应用

通过加大载荷或者减少承载能力, 使受试样本的试验熵大大增加, 从而可使试验所需的总样本量大大减少. 从这点出发, 文中提出并开发了最大熵试验法, 并针对各种不同情况, 给出了载荷强化系数和散差的确定方法. 最后, 对最大熵试验与传统成败型 (F=0) 试验的等价关系给出了证明, 并通过一个实例, 说明最大熵试验法的工程应用.     

睡眠脑电的关联维数和样本熵分析

睡眠分期特征的正确提取是睡眠分析的基础.本研究首先将关联维数方法应用于睡眠脑电信号,发现随着睡眠的加深,脑电信号的关联维数减小:然后介绍了一种新的非线性方法--样本熵,并将该算法应用于脑电信号,统计发现:样本熵与关联维数的变化趋势相同,可以用来提取睡眠分期特征.进而改变数据段长度,分析其对两种算法的影响,发现关联维数方法对数据段长度变化的影响较样本熵明显.     

Renyi熵与Tsallis熵的等价关系

描述了Tsallis熵和Renyi熵的等价关系及其在图像分割领域的应用.Tsallis熵和Renyi熵在图像分割中的应用是两种重要的全局阈值选取方法,是Shannon熵的广义形式,不仅在形式上具有等价关系,而且在应用于图像分割中也具有特殊的等价关系.这种特殊的等价关系应用在图像分割时只需任选一种熵来选取阈值.还讨论了它们自带的参数的取值对阈值选取的影响,这个参数可以针对不同类型的图像进行调节,可以得到很好的分割效果.     

基于模糊熵的聚类有效性函数

模糊熵描述了一个模糊集的模糊性程度本文将模糊熵应用于聚类有效性的判决,指出用于聚类有效性判决的划分系数是一个基于模糊熵的判决标准.通过几个数据对不同模糊熵公式的判决功能进行了比较实验.     

Tsallis熵的参数在图像阈值分割中的应用

Tsallis熵引入非广延参数q,用于描述集合元素间的长程关联,在图像分割中有着广泛应用.从数学原理与实证两方面分析了q参数的作用,并确定了它的合理取值范围.对于目标和背景之间不存在明显关联的图片,用两个具有不同q参数的Tsallis熵分别描述目标集合与背景集合,提出一种新的双q值算法,选择合适的q值确定这两个集合各自的像素灰度关联强度.通过对一系列红外图片的阈值分割,验证了该算法的有效性.     

HEVC 熵编码算法优化

新一代视频编码标准HEVC提供了更加灵活的编码工具选择,在提高压缩率的同时也提高了编码的计算复杂度。由于可选择更大的变换单元以及编码中更强的系数间依赖关系,在率失真优化（RDO）模式选择过程中,HEVC熵编码的计算复杂度显著高于H．264/AVC。为了解决这一问题,本文对HEVC熵编码算法进行优化,通过优化熵编码的上下文空间选择过程、非零系数的编码结构,以及对不同大小的变换矩阵进行整体优化。实验结果表明,本文提出的优化算法能够在保证视频编码质量基本不变的同时,平均降低约43％的熵编码时间。     

加权熵最大优化分带分析方法及在模式分类中的应用

针对信号分带优化的问题,提出功率谱加权熵最大分带分析方法.该方法在限定分带数目的条件下,以加权熵最大为优化标准,获得信号在频域的信息量最大的分带边界.在此基础上,建立功率谱加权熵最大分析模型,同时给出其实现算法.进而,依据功率谱加权熵最大的原则,提出功率谱加权熵最大分带倒谱系数分类特征,设计以线性分类距离为优化标准的权系数学习算法.并在地面目标识别的应用中取得较好效果.     

基于熵的模糊信息测度研究

模糊信息测度(Fuzzy Information Measures,FIM)是度量两个模糊集之间相似性大小的一种量度,在模式识别、机器学习、聚类分析等研究中,起着重要的作用.文中对模糊测度进行了分析,研究了基于熵的模糊信息测度理论:首先,概述了模糊测度理论,指出了其优缺点;其次,基于信息熵理论,研究了模糊熵理论,建立了模糊熵公理化体系,讨论了各种模糊熵,在此基础上,提出了模糊绝对熵测度、模糊相对熵测度等模糊熵测度;最后,基于交互熵理论,建立了模糊交互熵理论,进而提出了模糊交互熵测度.这些测度理论,不仅丰富与发展了 FIM理论,而且为模式识别、机器学习、聚类分析等理论与应用研究提供了新的研究方法.     

一种基于相对熵的图象分割算法

提出了一种基于相对熵的图象分割算法，该算法的主要思想是通过相对熵来选择阈值，现场颗粒物料图象作为一个应用实例，在本文中得到验证，实验结果表明，提出的算法优于基于局部熵的图象分割算法。     

QUADRATIC TSALLIS ENTROPY BIAS AND GENERALIZED MAXIMUM ENTROPY MODELS

In density estimation task, Maximum Entropy (Maxent) model can effectively use reliable prior information via nonparametric constraints, that is, linear constraints without empirical parameters. However, reliable prior information is often insufficient, and parametric constraints becomes necessary but poses considerable implementation complexity. Improper setting of parametric constraints can result in overfitting or underfitting. To alleviate this problem, a generalization of Maxent, under Tsallis entropy framework, is proposed. The proposed method introduces a convex quadratic constraint for the correction of (expected) quadratic Tsallis Entropy Bias (TEB). Specifically, we demonstrate that the expected quadratic Tsallis entropy of sampling distributions is smaller than that of the underlying real distribution with regard to frequentist, Bayesian prior, and Bayesian posterior framework, respectively. This expected entropy reduction is exactly the (expected) TEB, which can be expressed by the closed‐form formula and acts as a consistent and unbiased correction with an appropriate convergence rate. TEB indicates that the entropy of a specific sampling distribution should be increased accordingly. This entails a quantitative reinterpretation of the Maxent principle. By compensating TEB and meanwhile forcing the resulting distribution to be close to the sampling distribution, our generalized quadratic Tsallis Entropy Bias Compensation (TEBC) Maxent can be expected to alleviate the overfitting and underfitting. We also present a connection between TEB and Lidstone estimator. As a result, TEB–Lidstone estimator is developed by analytically identifying the rate of probability correction in Lidstone. Extensive empirical evaluation shows promising performance of both TEBC Maxent and TEB‐Lidstone in comparison with various state‐of‐the‐art density estimation methods.     

熵函数法中的计算技巧

In this paper, some computational skills are presented to calculate thevalues of functions and gradients involved in entropy function methodsso that the overflow phenomena can be avoided.     

模式识别的最大熵方法

本文提出了模式识别的最大熵方法,其基本思 想是求出最大熵概率分布,再求出条件概率分布,进而作出二值分类．它的特点是能最大限 度的利用已有信息作出最合理的推测．和其它方法相比较,该方法的突出优点是在小样本情 况下仍能保持很好的识别率．     

关于Vague集的模糊熵及其构造

本文分析了Vague集的性质,给出了将Vague集变换为Fuzzy集的转换函数,并讨论了其性质。分析了关于Vague集的模糊熵的直观特性,在此基础上我们给出了Vague集的模糊熵的定义。最后给出了一个关于Vague集的模糊熵的构造方法。     

A GENERALIZATION OF ENTROPY USING DEMPSTER-SHAFER THEORY

This paper considers a “body of evidence” on a finite set X, determined by a “basic probability assignment” (BPA) on X. This land of information on the set AT is ambiguous and so, in the applications, it is important to measure the degree of uncertainty involved in each BPA. In fact, several measures of uncertainty and entropy have been formulated and investigated in the setting of Dempster-Shafer Theory of Evidence. In this paper, we use the formal analogy underlying many of those measures of uncertainty. This moves us to define a family of fuzzy measures associated with each BPA. Thus, we propose a general formulation of the entropy of a BPA. Several known measures of entropy (including measures of imprecision and of randomness), as well as other new measures, are subsumed under our general scheme as particular cases. The basic properties of all those measures of entropy are also studied.     

"关于Vague集的模糊熵及其构造"的注记

讨论了文[1，2]中将vague集变换为fuzzy集的转换函数的作用，指出了vague集就是一类特殊的L-模糊集，分析了文[1，2]中提出的vague集的模糊熵概念的不足，在此基础上，基于对不确定性信息处理的背景，提出了一种模糊正熵和模糊负熵的概念，并讨论了它们的性质。     

基于同伦方程的交叉熵BP算法

提出一种建构在同伦方程基础上的交叉熵BP算法,在原有的交叉熵函数基础上,通过同伦方程的参数逐步调节权值,使收敛达到最佳效果.同时其激活函数采用广泛意义的函数,有利于拓展函数使用空间,并结合动量项使收敛效果更佳.实验结果表明,改进后的算法与原始的加动量项算法相比有较好的收敛速度,陷入极小点的几率也大为降低.     

基于模糊最大熵原则的地图图像分割

在分析地图图像特征的基础上，结合直方图和最大模糊熵原则，提出地图图像分割的自动阈值算法，通过多幅真实地图的实验表明，用该算法分割得到的黑版黑不但保持了线划的连续性，而且对边缘的定位准确，便于识别。     

局部熵差图象匹配并行算法

本文围绕局部熵差图象匹配并行化算法的设计,提出了一种新颖的拆叠求和算法,设计了求图象的局部熵的并行算法和局部熵差图象匹配并行算法,经模拟实验表明,本文设计的并行算法具有很好的并行效率。