信息熵最小约简问题的若干随机优化算法

现有的启发式属性约简算法一般无法得到信息熵意义下的最小属性约简。为此,文中探讨应用随机优化算法计算信息熵意义下最小属性约简的问题。首先通过定义适当的适应值函数,将信息熵意义下的最小属性约简问题转化为不含约束的适应值优化问题,证明问题转化的等价性。研究基于遗传算法、粒子群优化算法、禁忌搜索以及蚁群算法等若干随机优化算法的求解效率和求解质量,并用一批UCI数据集来加以测试。实验结果表明,文中设计的带增强策略的基于全息粒子群的属性约简算法,具有较高的获得信息熵意义下最小属性约简的概率和较优的算法性能。关键词随机优化算法,粗糙集,信息熵,最小属性约简,全息粒子群中图法分类号TP181ResearchonComputingMinimumEntropyBasedAttributeReductionviaStochasticOptimizationAlgorithmsMASheng-Lan,YEDong-Yi(CollegeofMathematicsandComputerScience,FuzhouUniversity,Fuzhou350108)ABSTRACTExistingheuristicattributereductionalgorithmsgenerallyfailtogetaminimumentropy-basedattributereductionofadecisiontable。Somestochasticoptimizationalgorithmsarediscussedtosolvetheproblemofentropy-basedattributereduction。Firstly,aproperfitnessfunctionisdefinedtotransformtheminimumattributereductionproblemintoafitnessoptimizationproblemwithoutadditionalconstraintsandtheequivalenceoftransformationisproved。Then,thesolvingefficiencyandthesolutionqualityofsomestochasticoptimizationalgorithmsarestudiedsuchasGeneticAlgorithm,ParticleSwarmOptimization,TabusearchandAntColonyOptimization。SomeUCIdatasetsareappliedtotestthoseperformances。TheexperimentalresultsshowthatthefullyinformedPSObasedattributereductionalgorithmwithrefineschemehasahigherprobabilitytofindaminimumentropy-basedattributereductionandgoodperformance。     

一种带禁忌搜索的粒子并行子群最小约简算法

为了提高基于群体智能的粗糙集最小属性约简算法的求解质量和计算效率,提出一个结合长期记忆禁忌搜索方法的粒子群并行子群优化算法.并行的各子群不仅具有禁忌约束,而且包含多样性和增强性策略.由于并行的子群共同陷入局部最优的概率小于一个粒子群陷入局部最优的概率,该算法可提高获得全局最优的可能性,并减少受初始粒子群体的影响.多个UC I数据集的实验计算表明,提出的算法相对于其他的属性约简算法具有更高的概率搜索到最小粗糙集约简.因此所提出的算法用于求解最小属性约简问题是可行和较为有效的.     

基于量子粒子群优化的属性约简

量子粒子群优化(QPSO)算法改进了粒子进化策略,使粒子具有更大搜索空间,可更好地避免陷入局部最优。该文将普通QPSO算法转化为二进制QPSO算法,提出基于QPSO优化的属性约简算法。实验结果表明,二进制QPSO算法的约简结果优于Hu算法和粒子群优化约简算法。     

基于二进制粒子群优化的一个最小属性约简算法

研究基于二进制粒子群优化算法思想求解决策表最小属性约简问题的方法.定义适当的适应值函数,将决策表最小属性约简问题转化为一个适合二进制粒子群优化算法求解的0-1组合优化问题,证明问题解的等价性.在此基础上,引入种子粒子概念及其自适应保护策略,提出一个改进的二进制粒子群算法,取得良好的效果.实验结果说明该算法的有效性.     

最小约简问题的一个免疫离散粒子群算法

把求决策表最小属性约简问题归结为一个不含非线性约束的0-1组合优化问题,证明了两个问题之间最优解的等价性.针对问题的特性,对原有的二进制粒子群算法进行改进,引入基于决策表差别矩阵的疫苗接种机制以及k-精英保优策略,由此提出一个免疫二进制粒子群算法并用于求解转化后的组合优化问题.仿真计算结果表明该算法有效地提高了获得最小属性约简的可能性,同时还具有较快的收敛速度.与其它类型的最小属性约简算法相比较,该算法取得明显的改进效果.     

采用云量子PSO的属性约简方法

针对粒子群优化算法在处理信息系统中属性约简收敛速度慢、早熟的问题,提出了一种结合云模型的量子粒子群优化算法（CQPSO）的属性约简方法。改进量子粒子群优化算法,即利用量子粒子群算法的量子行为来加快收敛速度;引入云模型控制粒子种群在不同状态下进行寻优;根据属性依赖度等性质构造属性约简数学模型;采用CQPSO算法对其进行求解,得到约简结果。实验中采用标准测试函数对CQPSO算法进行仿真对比,验证了CQPSO算法性能优于量子PSO算法;采用UCI标准数据库的典型例子进行属性约简测试,结果表明提出的属性约简方法优于现有约简方法,其计算速度快、识别精度高。     

基于遗传粒子群和粗糙集的最小属性约简算法

阐述了粗糙集理论、遗传约简算法和粒子群约简算法。属性约简是知识发现的关键问题之一。传统的属性约简算法都是串行搜索的,算法效率低且收敛速度慢。将计算智能和粗糙集相结合,提出了一种基于遗传粒子群和粗糙集的最小属性约简算法。该算法利用属性依赖度计算属性核,并在种群初始化时引入属性核作为限制条件,动态调整适应度函数,以达到求得最小属性约简的目的。实验表明,对于数据量大、属性维度高的属性约简问题,该算法具有高效的处理能力。     

基于快速蚁群的银行客户信息属性约简算法

银行客户群体细分对于业务营销具有深远的意义, 客户信息具有数据量大、维度高、变化需求频繁的特点, 为此需要引入一种快速的属性约简算法, 以满足关键属性快速提取进而构建决策的要求. 本文通过改进传统的基于蚁群的属性约简算法, 优化每次迭代过程中的蚂蚁搜索的集合转移策略, 提出了一种基于快速蚁群算法的属性约简算法. 多个UCI数据集实验计算表明提出的新算法求解速度优于传统的基于蚁群算法的属性约简算法, 并且求解质量较优; 最后通过银行客户数据进行实践, 验证了该算法的可行性.     

基于集合枚举树的最小属性约简算法

为了寻找一种有效的最小属性约简方法,给出了条件属性集上的属性重要度序关系,基于此序关系构建了属性集上的集合枚举树,提出了一种快速的最小属性约简算法,该算法采用至上而下、层次优先策略搜索集合枚举树寻找属性最小约简。为了提高算法性能,该算法采用核和父集剪枝策略减少搜索空间,采用优化计算来确保同一集合的正域只计算一次。基于UCI数据的实验结果表明,该算法是有效的。     

粗糙集和支持向量机的表具识别算法研究

针对量子粒子群算法具有陷入局部值缺点,提出了一种基于改进量子粒子群算法优化的粗糙集和支持向量机相结合的表具识别算法,引入人工蜂群算法和免疫算法,来提高算法搜索空间、收敛速度。首先通过改进量子粒子群算法优化的粗糙集对得到的特征向量进行属性约简,然后经过改进量子粒子群算法优化支持向量机参数。最后通过实验仿真表明,改进的算法能有效地减少决策属性的个数,提高了粗糙集属性约简能力,优化了支持向量机的参数,算法收敛速度快,识别准确率高。     

求解最小属性约简的病毒协同进化微粒群算法

提出一种基于病毒协同进化微粒群的最小属性约简算法.在算法中,进化在宿主与病毒种群之间协同进行,通过满足约简分辨力不变条件的最优病毒种子复制操作产生病毒库,病毒通过感染操作在宿主种群完成横向局部搜索,以提高算法局部精确解搜索能力;同时通过删减操作完成自我更新,实现增加局部搜索范围的目的.最后对UCI数据集进行属性约简实验,结果表明该算法在搜索最小属性约简解方面优于其他进化算法,同时收敛速度及寻优效率也有较大提高.     

基于免疫量子粒子群优化的测试代价敏感属性约简算法

为了解决测试代价敏感属性约简的高效性和准确性问题,提出一种基于免疫量子粒子群优化的最小测试代价属性约简算法。依据条件信息熵和测试代价因素定义适当的适应值函数,将最小测试代价属性约简问题转化为0-1组合优化问题,提出最小属性的属性约简问题是一种具有特殊测试代价的最小测试代价属性约简问题。最后结合量子粒子群和人工免疫方法给出约简算法。实验对比已有的最小属性约简算法和测试代价敏感属性约简算法,实验结果表明本算法是有效的。     

基于粒子群优化算法的属性异常检测

提出一种新的基于粒子群优化算法的属性异常检测算法。该算法利用粒子群优化算法简单、寻优速度快的优点检测属性异常,在粒子群寻找最优值的过程中发现可能是属性异常的数据,并采用Omeasure适应度评估属性异常,算法的时间复杂度是多项式级的。与全搜索检测算法相比,大幅减少了搜索范围;同时,与完全随机算法相比,采用启发式搜索规则,提高了查全率及查准率。实验结果表明,粒子群检测算法不仅执行效率高,而且保持了较高的查全率与查准率。     

基于改进粒子群优化的粗糙集连续属性离散化

提出一种基于改进粒子群优化的连续属性离散化算法。在算法优化方面,采用改进粒子群优化算法。为了克服传统粒子群优化的不足,对种群初始化和自适应调整粒子的惯性权重,提高了粒子群优化算法的全局寻优能力。在粗糙集属性离散化方面,主要是通过将最小断点集作为优化目标,粗糙集属性依赖度作为约束条件。仿真结果表明,该方法能有效地解决决策表连续属性离散化问题,计算速度快,收敛性好。     

基于多种群量子粒子群优化的属性约简

现代工业发展要求迅速、可靠地实现故障诊断。针对粒子群约简算法易陷入局部最优等问题,提出了一种多种群量子粒子群优化算法（MIQPSO）。该算法对量子粒子群算法进行分群,并通过接种疫苗,指导粒子朝更优化方向进化,提高了量子粒子群的收敛速度和寻优能力。利用UCI相关数据集,通过对Hu算法、粒子群算法、量子粒子群算法、多种群量子粒子群算法的粗糙集属性约简验证,结果表明,基于多种群量子粒子群优化的约简算法具有良好的约简效果。     

多自适应策略粒子群优化算法及应用

为了平衡粒子群优化算法的全局和局部搜索能力,提出了一种多自适应策略粒子群优化算法。该算法在粒子进化过程中,采用了基于粒子进化度和局部开启混沌搜索相结合的速度自适应调节策略。将算法应用于模拟电路故障诊断的BP神经网络训练中,有效地解决了常规BP算法收敛速度慢、易陷入局部极小的问题。仿真结果表明算法具有较快的收敛速度和较高的诊断精度。     

基于蜂群优化的粗糙集属性约简

为了获得决策表中更好的属性约简,提出一种信息增益引导的蜂群优化算法;该算法以属性的信息熵为基础构造条件属性与决策属性间的互信息,用待选条件属性引起的信息增益作为引导蜜蜂搜索的启发信息,最终求得属性约简集;对UCI数据库多个数据集的测试结果表明,与其它基于群智能的属性约简算法相比,该算法获得最小属性约简的机率提高到90%以上,同时较对比算法的计算时间少耗费至少10%。