一种优化的不完备信息系统知识约简算法

以不完备信息系统为研究对象,对传统粗糙熵及相应知识约简算法的局限性进行了分析;通过引入概率计算公式,重新定义了不完备熵概念,能够更加精确地度量知识的不确定性;利用粗糙熵和不完备熵联合对属性重要性进行了定义.在此基础上提出了优化的知识约简算法,该算法的时间复杂度是多项式的.通过实例说明,该算法比传统的基于粗糙熵的算法能得到更优的最小约简.     

决策表知识约简及其条件熵特征刻画

建立决策表中知识与粗糙熵之间的关系,由此提出决策概念集的条件粗糙熵概念,进而推广为知识的条件熵,并证明知识的条件熵随信息粒度的变小而单调减少的规律,在此基础上给出以不等式为条件的约简判定定理.以此得到知识约简过程中启发式搜索的条件,结合分层递减的思想,设计基于条件熵的决策表知识约简算法.应用实例分析的结果表明,该算法是有效的.     

一种基于粗糙熵的信息系统属性约简算法

在信息系统中,研究了知识的粗糙性,定义了一种粗糙熵度量方法,并证明了知识的粗糙熵随着划分的增大而单调增加的结论,给出了属性的重要性度量方法,在此基础上提出了一种基于粗糙熵的启发式属性约简算法。实例验证表明,该算法能有效地从信息系统中获取最优属性约简。     

基于粒度粗糙熵与改进蜂群算法的特征选择

经典的人工蜂群(artificial bee colony, ABC)算法面临着收敛速度慢、易陷入局部最优等不足,因此基于该算法来进行特征选择还存在很多问题.对此,提出了一种基于粒度粗糙熵与改进蜂群算法的特征选择方法FS＿GREIABC.首先,将粗糙集中的知识粒度与粗糙熵有机地结合起来,提出一种新的信息熵模型——粒度粗糙熵;其次,将粒度粗糙熵应用于ABC算法中,提出一种基于粒度粗糙熵的适应度函数,从而获得了一种新的适应度计算策略;第三,为了提高ABC算法的局部搜索能力,将云模型引入到跟随蜂阶段.在多个UCI数据集以及软件缺陷预测数据集上的实验表明,相对于现有的特征选择算法, FS＿GREIABC不仅能够选择较少的特征,而且具有更好的分类性能.     

基于相对熵的一种属性约简算法

知识约简是粗糙集理论研究的主要内容之一。在信息系统中引入了知识的相对熵的概念,证明了在知识相对约简过程中相对熵的变化趋势是递减的;利用相对熵的概念,定义了属性的相对重要性,提出了一种基于相对熵的新的属性约简启发式算法,该算法的时间复杂度为O(｜C｜3｜U｜2),通过例子分析,表明该算法是有效的。     

格值信息系统的粗糙熵与不确定度量

在格值信息系统中引入知识粗糙熵、粗集粗糙熵与不确定度量的概念,得到了相应的重要性质。证明了在格值信息系统中,知识粗糙熵随着知识颗粒变大、分类变粗而单调增大,或者随着知识颗粒变小、分类变细而单调减小。进一步通过讨论它们之间的联系说明了粗集的粗糙熵可以更精确地度量粗集的粗糙程度。这些结论为格值信息系统的知识发现奠定了一定的理论基础。     

概念格中基于粗糙熵的属性约简方法

属性约简是概念格理论的研究重点内容之一。通过将粗糙熵引入概念格理论中,定义了一种粗糙熵约简。首先,基于所有概念外延定义了形式背景的粗糙熵,并分析了它的性质;其次,定义了形式背景的粗糙熵约简,并揭示了粗糙熵约简与概念格约简之间的关系;在此基础上,基于属性重要度设计了计算粗糙熵的启发式算法,并通过实验验证了该算法的有效性。     

序信息系统的知识粗糙熵与粗集粗糙熵

在序信息系统中引入了知识粗糙熵和粗集粗糙熵的概念,得到了它们的有关性质,并证明了二者都随着知识确定程度的增强而单调下降的结论,从而给出了序信息系统的信息解释。进一步通过讨论它们之间的联系说明了粗集的粗糙熵可以更精确地度量粗集地粗糙程度。这些结论为序信息系统的知识发现奠定了一定的理论基础。     

一种新的粗集粗糙性度量方法

基于等价关系和一般二元关系,通过引入粗集边界熵概念,利用粗集边界的知识粗糙性和粗集本身的粗糙度刻画粗集粗糙性,为粗集粗糙性提供了一种更为合理的度量方法,为粗糙集中概念的获取和刻画提供了理论依据.     

优势关系下序信息系统的信息量与粗糙熵

在基于优势关系的序信息系统中引入了知识的信息量和知识粒度的概念,得到了它们的若干性质和定理.证明了在知识约筒过程中,信息量的变化趋势是递减的.考虑到导致粗集粗糙性的原因,将粗糙度和信息量结合起来,提出了一种新的粗集粗糙熵来刻画粗糙集的粗糙性,得到了粗糙集的粗糙熵随着序信息系统约简的变细而单调减少的结论,该结论为序信息系统的知识发现奠定了一定的理论基础.     

不同知识粒度下粗糙集的不确定性研究

粗糙集的不确定性度量方法,目前主要包括粗糙集的粗糙度、粗糙熵、模糊度和模糊熵.在不同知识粒度下,从属性的角度,给出了分层递阶的知识空间链,发现在分层递阶的知识粒度下部分文献中定义的粗糙集的粗糙熵和模糊度随知识粒度的变化规律不一定符合人们的认识规律.从信息熵的角度提出了一种粗糙集不确定性的模糊度度量方法,证明了这种模糊度随知识粒度的减小而单调递减,弥补了现有粗糙熵和模糊度度量粗糙集不确定性的不足.最后,分析了在不同知识粒度下粗糙度和模糊度的变化关系.     

基于条件信息熵的决策表约简

Rough集理论是近年来发展起来的一种有效地处理不精确、不确定、含糊信息的数学理论方法，在机器学习、数据挖掘、智能数据分析、控制算法获取等领域取得了很大的成功。研究者从不同的角度对这个理论进行研究。本文将从信息论观点出发对Rough集理论的基本概念和主要运算进行分析讨论，通过与Rough集理论的代数观点进行比较分析，得到这两种观点下的一些等价性质和不同的特性，并基于条件信息熵提出决策表的约简算法。     

不完备信息系统中基于模糊测度的知识不确定性度量

考虑到不完备信息系统中属性的相似关系和缺失值对系统不确定性的影响,如果仍然利用分块大小来衡量知识的信息量或粗糙性将变得不合理。本文在信息系统中定义了模糊测度系统信息熵、知识粗糙熵和粗集粗糙熵,证明了模糊测度粗糙熵的合理性及其性质,并举例说明如何选择合理的测度计算模糊测度粗糙熵,最后运用到知识的约简,为信息系统的约简提供了一种新的途径。     

基于广义粗集覆盖约简的粗糙熵

在广义粗集覆盖约简理论中,由于集合的上下近似是由其覆盖约简来确定的,因此有必要寻求一种新的度量来刻画知识和粗集的粗糙性.通过引入信息熵以刻画广义粗集覆盖约简的知识粗糙性以及粗集粗糙性,提出了一种新的知识粗糙性和粗集粗糙性度量.得到知识粗糙熵和粗糙集的粗糙熵都随广义覆盖约简的变细而单调减少的结论,从信息论观点出发,对不完备信息系统粗集理论进行了探讨.     

粗糙集不确定性度量的矩阵运算

粗糙集的不确定性度量是粗糙集理论的重要研究内容之一。结合模糊理论和粒计算理论改进了粗糙集的不确定性度量方法。通过集合的相对知识粒度及边界熵给出了粗糙集的粗糙性度量函数与模糊性度量函数,随着近似空间知识粒的细分,粗糙集的粗糙度与模糊度均满足单调递减的性质。利用矩阵理论提出了易于实现的粗糙性度量与模糊性度量的矩阵算法。     

信息熵在粗糙集中衍生的几个概念

随着对粗糙集理论研究的的深入,基于信息论的信息熵陆续被引入到粗糙集研究中,陆续产生了一些如条件熵、联合熵、知识熵、决策熵、知识粗糙熵、粗集粗糙熵等新的概念,尽管丰富了粗糙集理论和应用,但使用中存在语义不统一的地方,甚至缺乏必要的说明和证明。对这些有价值的新概念作了系统的、严格的、规范的定义及阐述,给出了它们的公式表示,同时,通过相关熵的运算揭示彼此间的关系,最后指出这些熵的应用范畴,以便研究人员在清楚概念的基础上作进一步研究。