信息系统属性约简的比较研究

属性约简是粗糙集理论研究的核心问题之一。利用信息熵定义了信息系统的熵约简,从代数与信息熵两种不同角度出发对属性约简进行讨论。通过比较分析,分别在信息系统、协调与不协调决策表中得到这两种观点下属性约简的一些等价关系和蕴含关系,揭示了不同意义下属性约简的本质联系。     

关于决策表约简的CEBARKNC算法改进

CEBARKNC算法是基于条件信息熵的决策表约简算法,但是该算法对于某些决策表的约简是不完全的。通过对CEBARKNC算法的分析,找出该算法的约简不完全的原因,并讨论了启发信息的构造,进而在此基础上提出了以粗糙集的代数理论为基础,以条件信息熵为属性约简的启发式信息的改进算法。     

不一致决策表信息熵约简与代数约简的核计算与转化

对不一致决策表,信息熵约简与代数约简有时会得到不同的属性约简和核属性,当前的方法多为先将不一致决策表转化为一致决策表,再对后者寻求高效算法.本文基于等价差别矩阵具有相同的核属性和属性约简的思想,提出一种以条件属性等价类构造简化的代数约简差别矩阵,从差别矩阵内部进行比较与分析,发现只须将信息熵约简差别矩阵中由同时为矛盾对象所产生的可辩识属性集剔除,即可转化为简化的代数约简差别矩阵,从而得到将信息熵约简核属性转化为代数约简核属性的新方法,理论分析与数值算例都验证了其正确性.     

基于相对可辨识矩阵的决策表属性约简算法

针对现有属性约简算法存在的问题,利用信息论和粗糙集理论,提出一种基于相对可辨识矩阵的决策表属性约简算法.该算法以核属性为基础,通过建立相对可辨识矩阵,利用条件信息熵作为启发式信息,减少属性约简过程中的搜索空间,逐个添加条件信息熵最大的属性,直到找出最小约简为止,并分析了该算法的时间复杂度.实例分析结果表明,该算法能有效地对决策表属性进行约简.     

垂直分布多决策表下基于条件信息熵的近似约简

目前粗糙集理论研究主要针对单个决策表,而有关分布式环境下的核求解和属性约简研究的报道不多,为此提出垂直分布多决策表下基于条件信息熵的近似约简算法.该算法在各局部站点并行求相应的条件信息熵,并通过传送部分等价类的策略,可有效降低通讯代价,提高垂直分布多决策表下基于条件信息熵的近似约简效率 .算法分析和实验结果表明,所提出的算法是有效可行的.

     

不完备决策表属性约简的CIEARAWCC算法

不完备信息系统中的属性约简是粗集理论应用的难点。通过引入信息熵和条件信息熵,对信息系统中属性的必要性进行了定义,提出了一种基于条件信息熵的属性约简启发式算法。通过引入相对正域,有效地解决了不一致系统属性约简过程中产生的冗余属性问题,并分析了该算法的时间复杂度。最后,通过实例说明该算法能得到不完备决策表的最小相对约简。     

一个有效的基于信息熵的启发式属性约简算法

基于信息熵的属性约简算法都是以信息熵为启发信息设计的,其时间复杂度并不理想.为降低算法的时间复杂度,引入简化决策表的定义,设计了一个求简化决策表的算法,其时间复杂度为O(|C||U|).以快速缩小简化决策表的搜索空间为目的,定义了一个新的、较为合理的、度量属性的信息量,并给出了它的递归计算方法,其时间复杂度为P(| U/C|).同时证明了简化决策表上基于信息量的属性约简与原决策表上基于信息熵的属性约简是等价的.然后以属性的信息量为启发信息,设计了一个基于信息熵的快速属性约简算法,其时问复杂度降为max(O(|C||U|),O(|C|2|U/C|)),并用一个实例说明算法的有效性,实验结果表明新算法不仅具有高效性,且能处理大型决策表.     

基于差别函数的决策表属性约简算法研究

属性约简是粗糙集的核心内容,该文分析了基于差别函数的决策表属性约简存在的优缺点,在他人提出的改进的基于差别函数的决策表属性约简算法的基础上,进一步对约简结果处理,通过对其平均信息熵的大小衡量,选择具有巨大信息量的约简作为最后的单一约简。     

粗糙集和信息熵的属性约简算法及其应用

阐述粗糙集理论和信息熵的基本概念,并为寻找属性约简的有效方法,提出一种基于粗糙集和信息熵的属性约简算法。在决策表中添加某个属性引起的互信息变化的大小,以反映该属性的重要性,并求相对约简。研究表明,该算法不仅能得到最优的决策规则,而且能够减少信息系统所需的搜索空间,得到更优的属性约简效果。     

基于差别函数的决策表属性约简算法研究

属性约简是粗糙集的核心内容,该文分析了基于差别函数的决策表属性约简存在的优缺点,在他人提出的改进的基于差别函数的决策表属性约简算法的基础上,进一步对约简结果处理,通过对其平均信息熵的大小衡量,选择具有巨大信息量的约简作为最后的单一约简。     

对代数观Rough集理论的信息观解释

Rough集理论的代数观点和信息论观点在不相客容决策表中的不等价性导致了这两种观点得出的结论不一致。我们研究了使这两种观点等价的条件,定义一种新的决策表信息熵计算方法,在此方法的基础上给出了Routh集理论代数观的一种新的信息观解释,并证明了这种新的信息观与代数观是等价的。新的信息观定义为寻找高效的知识约简算法奠定了基础。     

一种基于信息论的决策表连续属性离散化算法

连续属性离散化方法对后续阶段的机器学习和数据挖掘过程有着重要的意义。提出一种新的针对决策表的离散化算法,在该算法中,首先将信息熵用作判断标准,从候选断点集中选择合适的断点,然后删除一些冗余的断点来优化离散结果,在删除过程中为了尽可能保证决策表分类能力不变,使用不一致率对该过程进行控制。最后选取多组实验数据,使用当前流行的分类算法——支持向量机(SVM)对离散化后的数据进行分类预测,并与其它离散算法进行对比,结果表明本算法是有效的。     

两种新的决策表属性约简概念

经典粗糙集理论属性约简的两种定义在对不相容决策表约简时会出现不一致性，本文通过分析这种不一致性，提出了平均决策强度和决策熵的概念，并由此给出了两种新的属性约简定义．通过理论分析和实例验证，用这两种新的属性约简定义对不相容决策表约简的结果是一致的，并且该约简结果更能客观地反映决策表的“决策能力”的实质．     

一种基于信息粒度的动态属性约简求解算法

动态属性约简是粗糙集理论的重要研究内容之一.针对动态决策表构造了一种基于信息粒度的动态属性约简模型,详细分析了决策表中出现新属性动态增加时信息粒度的增量式计算方法;在此基础上,以信息粒度作为启发信息,设计了一种动态属性约简求解算法,该算法能有效利用原决策表的属性约简结果和信息粒度来降低算法的计算复杂度,并使得约简结果具有较好传承性;最后通过算例分析和实验比较进一步验证了本算法的可行性和有效性.     

基于信息观点的约简算法比较

在相关文献的基础上,给出了三种不同条件嫡的性质,进而研究了基于三种条件墒的不同搜索策略的约简的算法之间的关系,包括对一致和不一致决策表约简的执行时间、约简质量和分类性能的比较。理论分析和实验结果表明三种条件嫡不同性质导致了三种条件嫡的约简算法存在各自的优缺点。上述工作为用户根据实际需要选择合适的约简算法提供了有益的参考。     

一种基于条件熵的决策表属性约简算法

以分类为基础提出一种基于条件熵的决策表属性约简算法。通过条件熵的计算在属性约简的同时将原决策表逐层分解成相对于决策属性来说尽量均匀的子决策表,从而缩小了数据规模;随后对算法的时间复杂度进行了分析;实验表明,该算法在效率方面优于传统算法。     

Approaches to knowledge reduction of covering decision systems based on information theory

In this paper, we propose some new approaches for attribute reduction in covering decision systems from the viewpoint of information theory. Firstly, we introduce information entropy and conditional entropy of the covering and define attribute reduction by means of conditional entropy in consistent covering decision systems. Secondly, in inconsistent covering decision systems, the limitary conditional entropy of the covering is proposed and attribute reductions are defined. And finally, by the significance of the covering, some algorithms are designed to compute all the reducts of consistent and inconsistent covering decision systems. We prove that their computational complexity are polynomial. Numerical tests show that the proposed attribute reductions accomplish better classification performance than those of traditional rough sets. In addition, in traditional rough set theory, MIBARK-algorithm [G.Y. Wang, H. Hu, D. Yang, Decision table reduction based on conditional information entropy, Chinese J. Comput., 25 (2002) 1-8] cannot ensure the reduct is the minimal attribute subset which keeps the decision rule invariant in inconsistent decision systems. Here, we solve this problem in inconsistent covering decision systems.     

基于新的条件熵的决策表约简方法

分析了在知识约简过程中现有条件熵的不足,在一致和不一致对象分开的基础上,定义了一种新的条件熵概念,以弥补现有信息熵的不足,在此基础上给出了以不等式为条件的约简判定定理;然后以条件属性子集的条件熵来度量其对决策分类的重要性,提出了一种新的知识约简启发式方法.应用实例分析的结果表明,基于新的条件熵的属性重要性是一种更准确、更有效的启发式信息,该方法时间复杂度较低,有助于搜索最小或次优知识约简.     

一种基于条件熵的决策表属性约简并行算法*

本文以分类为基础提出了一种基于条件熵的决策表属性并行约简算法。该算法通过条件熵的计算在属性约简的同时将原决策表逐层分解为相对于决策属性来说尽量均匀的子决策表,从而实现了属性约简的并行计算。本文随后对该算法的时间复杂度进行了分析,实验表明,该算法在效率方面优于传统算法。