基于条件信息熵的决策表约简

Rough集理论是近年来发展起来的一种有效地处理不精确、不确定、含糊信息的数学理论方法，在机器学习、数据挖掘、智能数据分析、控制算法获取等领域取得了很大的成功。研究者从不同的角度对这个理论进行研究。本文将从信息论观点出发对Rough集理论的基本概念和主要运算进行分析讨论，通过与Rough集理论的代数观点进行比较分析，得到这两种观点下的一些等价性质和不同的特性，并基于条件信息熵提出决策表的约简算法。  

粗糙集理论中概念与运算的信息表示*

粗糙集理论对知识进行了形式化定义,为知识处理提供了一套严密的分析工具,但在代数表示下,粗糙集理论的本质不易被理解,并且,尚无高效的知识约简算法.该文首先建立了知识与信息之间的关系;然后,在此基础上给出了粗糙集理论中概念与运算的信息表示;最后,证明了知识约简在信息和代数两种不同表示下是等价的.这些结论有助于人们深刻理解粗糙集理论的本质,同时,为寻找高效的知识约简算法奠定了基础.  

不确定性人工智能

在主、客观世界普遍存在的不确定性中,随机性和模糊性是最重要的两种形式.研究了随机性和模糊性之间的关联性,统一用熵作为客观事物和主观认知中不确定状态的度量,用超熵来度量不确定状态的变化,并利用熵和超熵进一步研究了混沌、分形和复杂网络中的不确定性,以及由此带来的种种进化和变异,为实现不确定性人工智能找到了一种简单、有效的形式化方法,也为包括形象思维在内的不确定性思维的自动化打下了基础.不确定性人工智能是人工智能进入21世纪的新发展.这个由多学科交叉渗透构成的新学科,必将使得机器能够具备人脑一样的不确定性信息和知识的表示能力、处理能力和思维能力.  

决策树的优化算法

决策树的优化是决策树学习算法中十分重要的分支.以ID3为基础,提出了改进的优化算法.每当选择一个新的属性时,算法不是仅仅考虑该属性带来的信息增益,而是考虑到选择该属性后继续选择的属性带来的信息增益,即同时考虑树的两层结点.提出的改进算法的时间复杂性与ID3相同,对于逻辑表达式的归纳,改进算法明显优于ID3.  

基于划分的模糊聚类算法

在众多聚类算法中，基于划分的模糊聚类算法是模式识剐中最常用的算法类型之一．至今，献中仍不断有关于基于划分的模糊聚类算法的研究成果出现．为了能更为系统和深入地了解这些聚类算法及其性质，本从改变度量方式、改变约束条件、在目标函数中引入熵以及考虑对聚类中心进行约束等几个方面，对在C-均值算法的基础上得到的基于划分的模糊聚类算法作了综述和评价，对各典型算法的优缺点进行了实验比较分析．指出标准FCM算法被广泛应用的原因之一是它对数据的比例变化具有鲁棒性，而其他类似的算法对这种比例变化却很敏感．并以极大熵方法为例进行了比较实验．最后总结了基于划分的模糊聚类算法普遍存在的问题及其发展前景。  

基于信息熵的粗糙集连续属性离散化算法

该文提出了一种新的粗糙集连续属性离散化算法．首先对每一个候选断点定义了信息熵，以此作为对断点重要性的量度，在此基础上给出了断点选择的粗糙集连续属性离散化算法．最后采用多组数据对此算法的性能进行了检验，并与其它算法做了对比实验．实验结果表明此算法是有效的，而且当候选断点个数增多时仍有很高的计算效率．  

基于熵权系数与 TOPSIS集成评价决策方法的研究

对于信息系统方案评价这种复杂问题提出一种新的方法，以避免主观判断的不确定性和随意性。针对传统信息系统项目评标中单纯由主观判断确定指标权重方法的不足，提出了将主观判断与客观情况相结合、定性定量相结合的熵权法来确定指标的权重系数，进而将TOPSIS法与熵权系数综合集成进行合理方案的评价。将该方法应用于评标过程的实践，取得了较为满意的结果。  

数据挖掘中决策树算法的探讨

决策树算法是DM的一个活跃的研究领域，首先给出了DM中决策树算法的基本思想，然后讨论了决策树算法中的难点问题，提出了利用熵与加权和的思想来选择取值的算法。  

二维云模型及其在预测中的应用

本文一维正态云的基础上，进一步提出了二维正态的思想，给出了描述二维云的数字特征和二维云的数学模型，探讨了二维云发生器的构成方法和应用前景，尤其是在基于数据库的知识发现方面，在定性和定量相结合的基础上，为进行多种预测，融随机性与模糊性为一体，表达不确定性，提供更系统，更高层的工具。  

使用最大熵模型进行中文文本分类

随着WWW的迅猛发展，文本分类成为处理和组织大量文档数据的关键技术．由于最大熵模型可以综合观察到各种相关或不相关的概率知识，对许多问题的处理都可以达到较好的结果．但是，将最大熵模型应用在文本分类中的研究却非常少，而使用最大熵模型进行中文文本分类的研究尚未见到．使用最大熵模型进行了中文文本分类．通过实验比较和分析了不同的中文文本特征生成方法、不同的特征数目，以及在使用平滑技术的情况下，基于最大熵模型的分类器的分类性能．并且将其和Baves，KNN，SVM三种典型的文本分类器进行了比较，结果显示它的分类性能胜于Bayes方法，与KNN和SVM方法相当，表明这是一种非常有前途的文本分类方法．