信息熵在粗糙集中衍生的几个概念

随着对粗糙集理论研究的的深入,基于信息论的信息熵陆续被引入到粗糙集研究中,陆续产生了一些如条件熵、联合熵、知识熵、决策熵、知识粗糙熵、粗集粗糙熵等新的概念,尽管丰富了粗糙集理论和应用,但使用中存在语义不统一的地方,甚至缺乏必要的说明和证明。对这些有价值的新概念作了系统的、严格的、规范的定义及阐述,给出了它们的公式表示,同时,通过相关熵的运算揭示彼此间的关系,最后指出这些熵的应用范畴,以便研究人员在清楚概念的基础上作进一步研究。     

基于邻域粗糙互信息熵的非单调性属性约简

属性约简是粗糙集理论一项重要的应用,目前已广泛运用于机器学习和数据挖掘等领域,邻域粗糙集是粗糙集理论中处理连续型数据的一种重要方法.针对目前邻域粗糙集模型中属性约简存在的缺陷,构造一种基于邻域粗糙集的邻域粗糙熵模型,并基于此给出邻域粗糙联合熵、邻域粗糙条件熵和邻域粗糙互信息熵等概念.邻域粗糙互信息熵是评估属性集相关性的一种重要的方法,具有非单调性变化的特性,对此,提出一种基于邻域粗糙互信息熵的非单调性属性约简算法.实验分析表明,所提出算法不仅比目前已有的单调性属性约简算法具有更优越的属性约简结果,而且具有更高的约简效率.     

K粒度模糊粗糙集模型的不确定性研究

粗糙集扩展模型的研究是粗糙集理论研究的一个重要问题,在引入了K粒度粗糙关系基础上定义了K粒度粗糙集模型并给出了K粒度分割概念,文章从信息熵的角度给出K粒度粗糙集模型的粗糙熵的不确定度量方法,讨论了该模型随知识分类粒度变化与粗糙熵之间的关系,证明了知识分类粒度呈细分时粗糙熵具有单调递增性,并且以实例验证了此模型理论的有效性与正确性,该模型使得粗糙集处理数据的范围扩展到了实域.在此基础上定义了K粒度模糊粗糙集模型,并研究了其结构及性质,最后给出了K粒度模糊粗糙集模型依参数0<β≤α≤1的扩展模型,并研究了模型的性质与粗糙度之间的关系.     

粗糙集中的知识熵

从信息熵的角度对粗糙集理论进行研究，用熵理论的方法来讨论粗糙集中的一些基本概念，并从粗糙集的角度证明知识熵的一些性质，在知识熵与粗糙集理论之间建立映射关系，为寻找高效的决策规则建立了知识熵的基础。     

优势关系下序信息系统的信息量与粗糙熵

在基于优势关系的序信息系统中引入了知识的信息量和知识粒度的概念,得到了它们的若干性质和定理.证明了在知识约筒过程中,信息量的变化趋势是递减的.考虑到导致粗集粗糙性的原因,将粗糙度和信息量结合起来,提出了一种新的粗集粗糙熵来刻画粗糙集的粗糙性,得到了粗糙集的粗糙熵随着序信息系统约简的变细而单调减少的结论,该结论为序信息系统的知识发现奠定了一定的理论基础.     

序信息系统的知识粗糙熵与粗集粗糙熵

在序信息系统中引入了知识粗糙熵和粗集粗糙熵的概念,得到了它们的有关性质,并证明了二者都随着知识确定程度的增强而单调下降的结论,从而给出了序信息系统的信息解释。进一步通过讨论它们之间的联系说明了粗集的粗糙熵可以更精确地度量粗集地粗糙程度。这些结论为序信息系统的知识发现奠定了一定的理论基础。     

格值信息系统的粗糙熵与不确定度量

在格值信息系统中引入知识粗糙熵、粗集粗糙熵与不确定度量的概念,得到了相应的重要性质。证明了在格值信息系统中,知识粗糙熵随着知识颗粒变大、分类变粗而单调增大,或者随着知识颗粒变小、分类变细而单调减小。进一步通过讨论它们之间的联系说明了粗集的粗糙熵可以更精确地度量粗集的粗糙程度。这些结论为格值信息系统的知识发现奠定了一定的理论基础。     

一种基于粗糙熵的知识约简算法

描述了知识的粗糙性,提出了知识的粗糙熵概念,建立了信息系统中知识与粗糙熵之间的关系,并通过知识的粗糙熵对属性的重要性进行了定义。在此基础上,提出了基于粗糙熵的知识约简算法,该算法的时间复杂性为O(｜R｜3｜U｜2)。通过例子分析,表明该算法是有效的。     

决策表知识约简及其条件熵特征刻画

建立决策表中知识与粗糙熵之间的关系,由此提出决策概念集的条件粗糙熵概念,进而推广为知识的条件熵,并证明知识的条件熵随信息粒度的变小而单调减少的规律,在此基础上给出以不等式为条件的约简判定定理.以此得到知识约简过程中启发式搜索的条件,结合分层递减的思想,设计基于条件熵的决策表知识约简算法.应用实例分析的结果表明,该算法是有效的.     

信息系统不确定性的粗糙边界熵度量方法

不确定性度量是粗糙集理论研究的重要内容之一。分析了目前粗糙集不确定性度量主要方法的不足,给出了基于边界域的粗糙集粗糙边界熵的定义。证明了这种粗糙边界熵随着知识粒度的减小而单调减小,而且当负域的知识颗粒被细分时,粗糙边界熵不变。给出了粗糙边界熵的两条性质。