学习特征权值对K-均值聚类算法的优化

K-均值(K—means)算法聚类的结果依赖于距离度量的选取．传统的K-均值算法选择的相似性度量通常是欧几里德距离的倒数，这种距离通常涉及所有的特征．在距离公式中引入一些特征权参数后，其聚类结果将依赖于这些权值，从而可以通过调整这些权值优化聚类效果．由于K-均值算法是迭代算法，很难直接确定其权值以优化聚类结果，因此提出了一种间接的学习权值算法以改进聚类结果．从数学意义上讲，这种权值学习相当于欧氏空间中对一组点进行了一个线性变换．数值实验证实了算法的有效性．  

决策树算法的研究及优化

决策树算法是数据挖掘中的一个比较活跃的研究领域,是对分类问题进行深入分析的一种方法,但构造最优决策树是一个NP困难问题。文中首先介绍了ID3算法的基本思想,然后讨论了决策树算法中的难点问题,针对ID3算法中所存在的不足,提出了一种利用优化法的思想来改进信息增益的算法,并且与ID3算法进行了实验对比。通过实验表明,这种方法从树的规模和分类精度都优于许多决策树算法,使决策效率明显提高。  

基于属性权重的Fuzzy C Mean算法

提出CF-WFCM算法,该算法分为属性权重学习算法和聚类算法两部分.属性权重学习算法,从数据自身的相似性出发,通过梯度递减算法极小化属性评价函数CFuzziness（ω）,为每个属性赋予一个权重.将属性权重应用于Fuzzy C Mean聚类算法,得到CF-WFCM算法的聚类算法.CF-WFCM算法强化重要属性在聚类过程中的作用,消减冗余属性的作用,从而改善聚类的效果.我们选取了部分UCI数据库进行实验,实验结果证明：CF-WFCM算法的聚类结果优于FCM算法的聚类结果.函数CFuzziness（ω）不仅可以评价属性的重要性,而且可以评价属性评价函数的优劣.实验说明了这一问题.最后我们对CF-WFCM算法进行了讨论.  

基于中文文本分类的分词方法研究

文本分类有助于用户有选择地阅读和处理海量文本，因此其预备工作分词系统的研究是很有意义的。该文主要提出了一种基于中文文本分类的分词方法，区别于常用的基于字符串匹配等方法，并利用数据库特有的查询技术设计和实现了该分词系统．旨在通过新的分词方法提供更加准确的分词率，同时提高系统实现效率。  

模糊决策树算法与清晰决策树算法的比较研究

ID3算法是一种典型的决策树归纳算法，这种算法在假定示例的属性值和分类值是确定的前提下，使用信息熵作为启发式建立一棵清晰的决策树。针对现实世界中存在的不确定性，人们提出了另一种决策树归纳算法，即模糊决策树算法，它是清晰决策树算法的一种推广。这两种算法在实际应用中各有自己的优劣之处，针对一个具体问题的知识获取过程，选取哪一种算法目前还没有一个较明确的依据。该文从5个方面对这两种算法进行了详细的比较，指出了属性为连续值时这两种算法的异同及优缺点，其目的是在为解决具体问题时怎样选择这两种算法提供一些有用的线索。  

一种具有混合编码的二进制差分演化算法

差分演化(DE)是Storn和Price于1997年提出的一种基于个体差异重组思想的演化算法,非常适用于求解连续域上的最优化问题.首先引入"差异算子"等概念,给出DE的一种简洁算法描述,并分析了它所具有的特性.然后,为了使DE能够求解离散域上的最优化问题,基于数学变换思想引入"辅助搜索空间"和"个体混合编码"等概念,通过定义一个特殊的满射变换,在辅助搜索空间的作用下将连续域上的高效差分演化搜索变换为离散域上的同步演化搜索,由此提出了第1个二进制差分演化算法:具有混合编码的二进制差分演化算法(HBDE).接着,给出了HBDE的依概率收敛和完全收敛的定义,并利用离散Markov随机理论证明了HBDE是完全收敛的. HBDE不仅完全具有DE的各种特性和所有优点,而且非常适用于求解离散域上的最优化问题,对随机生成的大规模3-SAT问题实例和典型0/1背包问题实例的数值计算表明:该算法具有很好的全局收敛性和稳定性,其性能远远超过二进制粒子群优化算法和遗传算法.  

基于层次分解的决策树

目前人们经常使用决策树推理技术进行知识挖掘。以Quinlanl986年提出的ID3为代表的传统的决策树能较好地解决分类问题，但当类的个数增多时，所产生的单一决策树就会变得复杂，同时概括能力降低。该文采用基于层次分解的方法通过产生多层决策树来处理多类问题。与传统的单一决策树比较，基于层次分解的决策树在处理多类问题时有许多的优势。  

差分演化的收敛性分析与算法改进

为了分析差分演化(differential evolution,简称DE)的收敛性并改善其算法性能,首先将差分算子(differential operator,简称DO)定义为解空间到解空间的笛卡尔积的一种随机映射,利用随机泛函理论中的随机压缩映射原理证明了DE的渐近收敛性;然后,在"拟物拟人算法"的启发下,通过对DE各进化模式的共性特征与性能差异的分析,提出了一种具有多进化模式协作的差分演化算法(differential evolution with multi-strategy cooperating evolution,简称MEDE),分析了它所具有的隐含特性,并在多模式差分算子(multi-strategy differential operator,简称MDO)定义的基础上证明了它的渐进收敛性.对5个经典测试函数的仿真计算结果表明,与原始的DE,DEfirDE和DEfirSPX等算法相比,MEDE算法在求解质量、适应性和鲁棒性方面均具有较明显的优势,非常适于求解复杂高维函数的数值最优化问题.  

基于Rough集理论的模糊值属性信息表简化方法

为了有效地在信息表中处理取值为模糊术语的属性，解决Rough集对模糊值属性处理能力较弱的问题，提出了模糊不可分辨关系的概念，用于处理属性值为模糊术语的信息表．将约简、核、相对约简与相对核以及规则的约简与核等Rou曲集理论中一系列知识约简的概念推广到模糊环境下，提出了一种有效的模糊值信息表简化的启发式算法．数值实验验证该方法在模糊值属性信息表简化方面比传统的Pawlak方法和其他一些学者的相关工作更为有效．  

区间值属性决策树学习算法*

该文提出了一种区间值属性决策树的学习算法.区间值属性的值域不同于离散情况下的无序集和连续情况下的全序集,而是一种半序集.作为ID3算法在区间值意义下的推广,算法通过一种分割信息熵的极小化来选取扩展属性.通过非平稳点分析,减少了分割信息熵的计算次数,使算法的效率得到了提高.