基于互信息变化率的属性约简算法

属性约简是粗糙集理论中的基本内容之一,但获得决策系统的最小相对约简是一个NP问题。文章从信息论的角度,结合微积分中的变化率思想,定义了一种基于互信息变化率的属性重要性度量方法,然后在此基础上提出了两种相对属性约简的启发式算法。最后,通过实验结果证明该方法能有效地对决策系统进行约简。     

基于互信息和Beam 搜索的粗糙集属性约简算法

从属性集互信息的角度分析了粗糙集理论的属性约筒问题．首先在互信息的基础上定义了一个新的属性子集的冗余性和协同能力度量——属性子集的冗余协同系数；然后将它作为属性约筒度量，提出了基于Beam搜索的粗糙集属性约筒算法．实验表明属性约简算法具有良好的运行效果．     

结合互信息的多目标属性约简*

为了获得决策系统中更好的相对属性约简,提出一种基于互信息的多目标属性约简算法。该算法首先根据互信息寻找核属性集;然后以最小属性子集和最大互信息为目标,定义新的适应度函数,在粒子运动方程、克隆及自适应变异的共同作用下进化;并通过非支配排序及精英保留策略寻找满足目标的Pareto最优解。通过UCI标准数据集上的对比测试结果表明,算法能够有效地对决策系统进行约简。     

互信息的序决策信息系统属性约简研究

优势关系粗糙集理论是粗糙集理论有意义的推广,决策信息系统知识约简是粗糙集理论的核心内容之一.通过在协调序决策信息系统中引入条件熵、互信息概念,给出了基于条件熵、互信息的协调序决策信息系统属性约简算法,并通过学生评价决策信息系统验证了该算法的有效性,使协调序决策信息系统的属性约简得到了扩展.在不协调序决策信息系统中引入限定条件熵、限定互信息概念,并给出基于限定互信息的不协调序决策信息系统属性约简算法,为不协调序决策信息系统的属性约简的应用提供了可行的解决方法.     

邻域互信息熵的混合型数据决策代价属性约简

决策粗糙集模型是当前粗糙集理论的研究热点.然而目前决策粗糙集中的属性约简大多基于决策代价视角而构建,为了同时兼顾约简结果的决策代价和分类精度,本文通过融合属性子集的分类性能,在混合型信息系统下提出一种邻域互信息熵的决策代价属性约简算法.文中首先在混合型信息系统下提出邻域信息熵、邻域联合熵和邻域条件熵,并进一步地推导出了...     

近似约简算法研究

信息系统属性的约简可以提高知识发现、机器学习等的精度和效率。本文提出了一种近似约简算法,该算法可使信息系统在基本保持原风格的情况下尽可能少地保留属性,为后期的系统处理节约了大量的处理时间。该算法的时间复杂度没有提高,约简后的属性大大减少。虽然原信息系统有一定的损失,但在一定的显著水平下是可以接受的。最后对一个有9个属性的信息系统进行了约简和近似约简的对比分析。     

粗糙集的近似约简及其算法

针对经典粗糙集中属性约简的不足,进一步拓展粗糙集属性约简的应用。提出了一种粗糙集属性近似约简的概念和一种新的粗糙集属性重要性的定义并给出和证明了属性近似约简的性质,理论证明了近似属性约简是传统属性约简的一种推广。在保持知识库分类能力基本不变的条件下,利用所给属性重要性作为启发信息给出了粗糙集属性近似约简的算法。通过一个具体的例子,说明了近似属性约简在信息系统中处理模糊和不确定性知识的可行性和有效性。     

基于属性重要性和互信息的MIBARK改进算法

MIBARK属性约简算法中根据决策表中增加某个属性所引起互信息的变化来度量属性重要性,新算法以属性依赖度作为衡量属性重要性的标准,采用先添后删的方法,在不影响分类质量的前提下将冗余属性删除,通过仿真实验表明该算法达到较好的属性约简效果。     

属性约简算法在海产品安全评估中的应用

针对海产品安全评估体系中大量的、冗余的评估指标问题,提出了一种新的混合信息粒度的属性不重要性算法。该算法首先从理论上分析了属性不重要性的可行性,提出了属性不重要性公式,然后为了减少算法的时间复杂度,任意求出算法的一个核属性,最后,通过比较其他属性的属性不重要性值,选择属性不重要性值小的属性,确定最佳的约简属性集。通过具体实例分析和实验结果,表明该属性约简算法可以应用到海产品安全评估体系中。     

基于近似精度递归计算的一个属性约简算法

首先分析粗糙集中不同正区域之间的关系，在此基础上推导出近似精度计算的一个简洁的递归公式。在Jelonek属性约简算法的基础上，应用上述递归公式和独立性条件判别策略设计了一个改进的属性约简算法，与原算法相比，不仅在算法速度提高方面取得了明显的效果，而且保证了约简算法的正确性。     

一种基于互信息变量选择的极端学习机算法

针对回归问题中存在的变量选择和网络结构设计问题, 提出一种基于互信息的极端学习机(ELM) 训练算法, 同时实现输入变量的选择和隐含层的结构优化. 该算法将互信息输入变量选择嵌入到ELM网络的学习过程之中, 以网络的学习性能作为衡量输入变量与输出变量相关与否的指标, 并以增量式的方法确定隐含层节点的规模.在Lorenz、Gas Furnace 和10 组标杆数据上的仿真结果表明了所提出算法的有效性. 该算法不仅可以简化网络结构, 还可以提高网络的泛化性能.

     

基于互信息的选择性集成核极端学习机

针对集成学习中的准确性和差异性平衡问题, 提出一种基于信息论的选择性集成核极端学习机. 采用具有结构简单、训练简便、泛化性能好的核极端学习作为基学习器. 引入相关性准则描述准确性, 冗余性准则描述差异性,将选择性集成问题转化为变量选择问题. 利用基于互信息的最大相关最小冗余准则对生成的核极端学习机进行选择, 从而实现准确性和差异性的平衡. 基于UCI 基准回归和分类数据的仿真结果验证了所提出算法的优越性.

     

基于差别信息树的rough set 属性约简算法

差别矩阵为粗糙集属性约简提供了很好的思路, 但差别矩阵中存在冗余的重复和父集元素. 为了消除这些冗余元素, 提出一棵有序树: 差别信息树, 该树能消除差别矩阵中的重复元素, 同时在大多数情况下也能完全消除父集元素, 实现对差别矩阵中非空元素的压缩存储. 为了验证差别信息树的有效性, 提出一种属性约简完备算法, 并使该算法的时间复杂度降为??(∣??∣∣??∣²).

     

基于粗糙集的网络信息系统安全评估模型研究

从分析网络信息系统安全评估标准指标出发．提出基于安全树的信息系统安全最佳节点基本属性模型，并对相关评估指标进行优化；在此基础上，提出一种基于粗糙集的混合启发式约筒算法．进行指标属性约筒和权重集构建，进而建立融合的信息系统安全评估数学模型．最后通过实例说明该安全评估模型建立方法的有效性及实用性．     

基于Fisher 判别分析的过程运行状态在线评价

为了实时掌握生产过程运行状态, 提出一种基于Fisher 判别分析(FDA) 的过程运行状态在线评价方法. 提出 离线数据分类与识别算法, 以识别不同稳定运行状态的建模数据及其对应的状态等级; 利用FDA提取各个稳定运行 状态的特征属性, 建立评价模型; 在线评价时, 通过“时间窗口”数据特征与各个状态等级的相似度, 实时评价过程运行状态. 将所提出的方法应用于某湿法冶金过程的仿真结果验证了该方法的有效性.

     

基于信息散度的多无源传感器数据关联

针对多无源传感器多维分配数据关联模型在构造关联代价时, 未充分考虑位置估计不确定性所引入的误差问题, 提出一种基于信息散度的数据关联算法. 将伪量测信息的概率密度函数与真实观测数据的最大后验概率密度函数之间的差异性信息作为关联代价, 并分别采用Kullback-Leibler 散度和对称Kullback-Leibler 散度来量化该差异.仿真分析结果表明, 该算法具有良好的关联性能, 其关联代价能更精准地反映数据关联的可能性程度.

     

基于信任机制的不完全信息大群体决策方法

针对不完全偏好信息大群体决策问题, 引入访问控制中的信任机制, 建立直接信任度与推荐信任度, 提出一种基于信任机制的补值方法; 分析了基于距离相似度存在的问题, 定义了一种新的距离相似度, 并与余弦相似度结合, 构建了决策偏好二元相似度的相聚模型; 利用聚类方法求解决策成员的权重, 并与补值后的完整偏好矩阵进行合成, 求得决策方案排序. 最后, 利用一个现有的文献案例验证了所提出方法的有效性和优越性.

     

基于小波变换的分布式信息一致滤波算法

研究一类基于小波变换的分布式信息一致滤波算法. 首先, 利用Haar 小波变换建立目标状态及其观测在不同粗尺度下的系统模型; 然后, 基于该模型, 在不同粗尺度上分别进行分布式信息一致滤波估计; 最后, 针对不同粗尺度估计, 通过Haar 小波逆变换重构最细尺度(初始尺度) 目标状态的估计. 仿真结果表明, 所提出的算法可以有效提高分布式信息一致滤波算法的计算效率.

     

基于和谐管理理论的免疫信息网络优化算法

受经济管理学中“和谐管理”理论的思想启发,提出一种全新的免疫进化信息网络模型,即和谐进化信息网络(HEIN).在该模型中,将优化问题的求解看作是信息网络能量最大化的过程,通过“和则”与“谐则”二个规则集的有机结合来有效控制和管理进化过程,实现了比单纯模拟生物免疫响应或自然进化更加完备和高效的和谐进化.实验结果表明,所提出算法可更好地保持种群多样性,收敛速度快,求解精度高.     

基于多层次信息交互的多目标粒子群优化算法

为提高多目标优化算法的收敛性和多样性,提出一种基于多层次信息交互的多目标粒子群优化算法.在该算法中,整个优化过程可分为标准粒子群优化层、粒子进化与学习层和档案信息交换层3个层次.粒子进化与学习层保证了每次迭代都能得到更好的粒子位置;档案信息交换层可以提供更好的全局最优.优化算法各个层次之间通过信息交互,共同提高算法的收敛性和多样性.与NSGA-Ⅱ和MOPSO算法的对比分析表明,所提出算法具有良好的性能,能够有效解决多目标优化问题.