基于间隔聚类合并的支持向量机反问题求解算法

支持向量机(SVM)反问题研究的是如何把无类标签的数据集合分成两类才能得到最大的间隔.但是,求解反问题惊人的时间复杂度使得这种算法很难应用到具有一定规模的数据集上.先聚类后枚举所有划分的方法,聚类个数的确定会很大程度影响计算结果和运行效率.根据间隔和类间最近点的关系,提出了一种基于间隔聚类合并的反问题求解算法,通过不断合并类间距小于2倍间隔的子类,减少了子类个数和枚举次数.实验比较证明此算法比单纯的利用传统聚类解决此问题的算法有更好的性能.     

改进的基于排序熵的有序决策树算法

由于基于排序熵的有序决策树在扩展属性选取时,需计算每个条件属性的每个割点处的排序互信息,并通过对比这些排序互信息的大小来确定最大值(最大值对应的属性为扩展属性),计算复杂度较高.针对此问题,文中将割点分为平衡割点和非平衡割点两部分,建立一个数学模型,从理论上证明排序互信息最大值不会在平衡割点处达到,而只能在非平衡割点处达到.这说明在计算排序互信息时只需遍历非平衡割点,而无需再计算平衡割点处的值,从而使决策树构建的计算效率得到较大程度提高.数值实验验证此结果.