基于K近邻隶属度的聚类算法研究

经典模糊C均值聚类算法（FCM）基于欧氏距离,存在不同规模类簇不能正确聚类问题,针对此问题提出一种基于[K]近邻隶属度的模糊C均值聚类算法（KNN_FCM）。讨论了基于[K]近邻隶属度的粗糙C均值聚类算法（KNN_RCM）和粗糙模糊C均值聚类算法（KNN_RFCM）,此方法避免了传统粗糙C均值聚类算法（RCM）和粗糙模糊C均值聚类算法（RFCM）中阈值选择问题。将KNN_FCM、KNN_RCM、KNN_RFCM分别与FCM、RFM、RFCM在UCI数据集上进行仿真比较,结果表明新方法是可行、有效的。     

A powerful hybrid clustering method based on modified stem cells and Fuzzy C-means algorithms

One of the simple techniques for Data Clustering is based on Fuzzy C-means (FCM) clustering which describes the belongingness of each data to a cluster by a fuzzy membership function instead of a crisp value. However, the results of fuzzy clustering depend highly on the initial state selection and there is also a high risk for getting the best results when the datasets are large. In this paper, we present a hybrid algorithm based on FCM and modified stem cells algorithms, we called it SC-FCM algorithm, for optimum clustering of a dataset into K clusters. The experimental results obtained by using the new algorithm on different well-known datasets compared with those obtained by K-means algorithm, FCM, Genetic Algorithm (GA), Particle Swarm Optimization (PSO), Ant Colony Optimization (ACO), Artificial Bee Colony (ABC) Algorithm demonstrate the better performance of the new algorithm.     

一种基于核的快速可能性聚类算法

传统的快速聚类算法大多基于模糊C均值算法（Fuzzy C-means,FCM）,而FCM对初始聚类中心敏感,对噪音数据敏感并且容易收敛到局部极小值,因而聚类准确率不高。可能性C-均值聚类较好地解决了FCM对噪声敏感的问题,但容易产生一致性聚类。将FCM和可能性C-均值聚类结合的聚类算法较好地解决了一致性聚类问题。为进一步提高算法收敛速度和鲁棒性,提出一种基于核的快速可能性聚类算法。该方法引入核聚类的思想,同时使用样本方差对目标函数中参数η进行优化。标准数据集和人造数据集的实验结果表明这种基于核的快速可能性聚类算法提高了算法的聚类准确率,加快了收敛速度。     

基于可靠性的鲁棒模糊聚类

相比于k-means算法,模糊C均值(FCM)通过引入模糊隶属度,考虑不同数据簇之间的相互作用,进而避免了聚类中心趋同性问题.然而模糊隶属度具有拖尾和翘尾的结构特征,因此使得FCM算法对噪声点和孤立点很敏感;此外,由于FCM算法倾向于将各数据簇均等分,因此算法对数据簇大小也很敏感,对非平衡数据簇聚类效果不佳.针对这些问题,本文提出了基于可靠性的鲁棒模糊聚类算法(RRFCM).该算法基于当前的聚类结果,对样本点进行可靠性分析,利用样本点的可靠性和局部近邻信息,突出不同数据簇之间的可分性,从而提高了算法对噪声的鲁棒性,并且降低了对非平衡数据簇大小的敏感性,得到了泛化性能更好的聚类结果.与相关算法进行对比,RRFCM算法在人造数据集,UCI真实数据集以及图像分割实验中均取得最优的结果.     

结合[k]-means的自动FCM图像分割方法

针对图像分割中模糊C均值算法（FCM）无法自动确定聚类中心,不考虑像素邻域信息的问题,提出一种结合[k]-means的自动FCM图像分割方法。该方法先由图像的灰度直方图确定聚类数目,使用一种改进的快速FCM方法产生初始聚类中心。即通过一步[k]-means算法对大隶属度灰度更新模糊聚类中心,同时仅对小隶属度灰度使用快速FCM?方法进行隶属度更新,迭代后得到初始聚类中心。利用改进隶属度的FCM算法进行最终聚类。实验表明,该方法获取初始聚类中心接近最终值,加速图像分割,并对噪声具有一定的鲁棒性。     

网络入侵检测中的自动决定聚类数算法

针对模糊C均值算法(fuzzy C-means algorithm,简称FCM)在入侵检测中需要预先指定聚类数的问题,提出了一种自动决定聚类数算法(fuzzy C-means and support vector machine algorithm,简称F-CMSVM).它首先用模糊C均值算法把目标数据集分为两类,然后使用带有模糊成员函数的支持向量机(support vector machihe,简称SVM)算法对结果进行评估以确定目标数据集是否可分,再迭代计算,最终得到聚类结果.支持向量机算法引入模糊C均值算法得出的隶属矩阵作为模糊成员函数,使得不同的输入样本可以得到不同的惩罚值,从而得到最优的分类超平面.该算法既不需要对训练数据集进行标记,也不需要指定聚类数,因此是一种真正的无监督算法.在对KDD CUP 1999数据集的仿真实验结果表明,该算法不仅能够得到最佳聚类数,而且对入侵有较好的检测效果.     

基于免疫单亲遗传和模糊C均值的聚类算法

聚类算法是数据挖掘中的重要方法。为了克服FCM初始值敏感、客易陷入局部最优解以及普通遗传算法聚类时的搜索速度和聚类精度的矛盾，在分析FCM算法和基于道传聚类算法的不足基础上，提出了一种基于免疫单亲遗传和模糊C均值的混合聚类算法，先以免疫单亲遗传聚类算法初始化，找到接近全局的最优解，再用FCM算法进行求解。实验表明，它既较好地解决了局部最优问题，又可以利用FCM的优点来提高整体的收敛速度。     

基于改进的粒子群优化的模糊C-均值聚类算法

利用粒子群优化（PSO）算法全局寻优的特点,很大程度上避免了模糊C-均值聚类（FCM）算法对初值敏感、易陷入局部收敛的缺陷.利用收敛速度快的K均值聚类法得到的聚类中心作为PSO算法初始聚类中心的参考,提出一种新的模糊C-均值聚类算法Improved PSO FCM.实验结果表明,论文算法提高了FCM的搜索能力,聚类更为准确,效率更高.     

基于分级神经网络的Web文档模糊聚类技术

给出了一种多层向量空间模型，该模型将一篇文档的相关信息从逻辑上划分为多个相对独立的文本段，按照不同位置的文本段确定相应的索引项权重．然后提出了一种简明而有效的基于分级神经网络的模糊聚类算法．与现有方法不同，该模糊聚类方法采用自组织神经网络和模糊聚类网络两部分组成的3层神经网络来实现．首先采用自组织神经网络从原始数据产生一个初始聚类结果，然后运用FCM方法对初始聚类的数目进行优化．实验结果表明，提出的Web文档聚类算法具有较好的聚类特性，它能将与一个主题相关的web文档较完全和准确地聚成一类．     

Extended Gaussian kernel version of fuzzy c-means in the problem of data analyzing

Fuzzy c-means clustering with spatial constraints is considered as suitable algorithm for data clustering or data analyzing. But FCM has still lacks enough robustness to employ with noise data, because of its Euclidean distance measure objective function for finding the relationship between the objects. It can only be effective in clustering ‘spherical’ clusters, and it may not give reasonable clustering results for “non-compactly filled” spherical data such as “annular-shaped” data. This paper realized the drawbacks of the general fuzzy c-mean algorithm and it tries to introduce an extended Gaussian version of fuzzy C-means by replacing the Euclidean distance in the original object function of FCM. Firstly, this paper proposes initial kernel version of fuzzy c-means to aim at simplifying its computation and then extended it to extended Gaussian kernel version of fuzzy c-means. It derives an effective method to construct the membership matrix for objects, and it derives a robust method for updating centers from extended Gaussian version of fuzzy C-means. Furthermore, this paper proposes a new prototypes learning method and it obtains initial cluster centers using new mathematical initialization centers for the new effective objective function of fuzzy c-means, so that this paper tries to minimize the iteration of algorithms to obtain more accurate result. Initial experiment will be done with an artificially generated data to show how effectively the new proposed Gaussian version of fuzzy C-means works in obtaining clusters, and then the proposed methods can be implemented to cluster the Wisconsin breast cancer database into two clusters for the classes benign and malignant. To show the effective performance of proposed fuzzy c-means with new initialization of centers of clusters, this work compares the results with results of recent fuzzy c-means algorithm; in addition, it uses Silhouette method to validate the obtained clusters from breast cancer datasets.     

基于混合邻域约束项的改进FCM算法

传统模糊聚类算法在影像分割过程中仅考虑影像的光谱信息,所以对噪声比较敏感.对此,提出基于混合邻域约束项的改进模糊C均值聚类(MNCFCM)算法.首先,从隶属性及光谱属性两方面定义邻域像素关于中心像素的相似度;然后,利用线性加权的方式将从两方面定义的相似度进行融合,同时结合邻域像素到聚类中心的欧氏距离构造混合邻域约束项,并将其引入目标函数中,以平衡影像分割过程中的影像平滑及细节保留,实现对影像的更优分割;最后,通过对合成影像及真实遥感影像分割结果的定性、定量评价,验证所提出算法具有较强的鲁棒性,在降低对噪声的敏感性的同时,能够较好地保留影像细节,获得高精度的分割结果.     

改进的粒子群优化模糊C均值聚类算法

针对传统模糊C均值聚类算法（FCM）存在对初值敏感和易陷入局部收敛的缺陷,利用改进的粒子群算法对FCM进行优化,提出一种新的模糊C均值聚类算法Improved PSOFCM,并建立基于熵的聚类有效性函数,对聚类算法的性能进行客观评价。数据集实验表明,Improved PSOFCM算法不仅能克服传统FCM算法的不足,而且在聚类正确率和有效性上也优于基于粒子群与基于遗传优化的FCM算法。     

A new segmentation system for brain MR images based on fuzzy techniques

This work concerns a new method called fuzzy membership C-means (FMCMs) for segmentation of magnetic resonance images (MRI), and an efficient program implementation of it to the segmentation of MRI. Classical unsupervised clustering methods including the FCM by Bezdek, suffer many problems that can be partially treated with a proper rule to construct the initial membership matrix to clusters. This work develops a specific method to construct the initial membership matrix to clusters in order to improve the strength of the clusters. The new FMCM is tested on a set of benchmarks and then the application to the segmentation of MR images is presented and compared with the results obtained using FCM.     

基于模糊C均值聚类的医学图像分割研究

模糊C均值聚类算法（FCM）在硬C均值聚类的基础上有效地解决了医学图像分割中存在的模糊情况,通过建立表示图像中像素点与聚类中心加权相似度的目标函数,采用迭代优化的方法求解目标函数的极小值来确定最佳聚类。针对FCM算法中存在的对大样本数据分割速度慢、结果易受初始值影响、对噪声敏感、难以适应多种数据分布等缺陷,涌现出了大量的改进算法。对其中的部分改进算法进行综述,主要介绍快速FCM算法、基于初始值选取的FCM算法、基于空间邻域信息的FCM算法以及基于核函数的FCM算法等,并对其优缺点进行概要的总结和介绍。指出该算法进一步的研究方向。     

基于自适应蚁群的FCM聚类优化算法研究

模糊C均值聚类算法在算法初始化时需要人为设定聚类类别数、随机初始化聚类中心,致使该算法容易陷入局部最优值.为解决此类问题,在蚁群算法中引入信息素更新机制,使其输出的聚类中心更具全局优化的特征和较强鲁棒性的特点;用蚁群算法得到的聚类中心来初始化FCM算法的聚类中心,解决了FCM算法对初始聚类中心敏感的问题;使用结合熵信息与数据几何结构的聚类有效性评价方法对FCM算法和优化FCM算法进行评价,评价结果表明优化的FCM算法性能更优.在仿真实验中,利用提出的优化算法和FCM算法对自然图像、纹理图像和SAR图像进行分割实验,从图像分割的准确性和算法的实时性做对比实验,验证了优化算法的有效性.     

软硬结合的快速模糊C-均值聚类算法的研究

讨论的是对模糊C-均值聚类方法的改进,在原有的模糊C-均值算法的基础上,提出一种软硬结合的快速模糊C-均值聚类算法。快速模糊C-均值聚类算法是在模糊C-均值聚类算法之前加入一层硬C-均值聚类算法。硬聚类算法能比模糊聚类算法以高得多的速度完成,将硬聚类中心作为模糊聚类中心的迭代初值,从而提高模糊C-均值聚类算法的收敛速度,这对于大量数据的聚类是很有意义的。用数据仿真验证了这种快速模糊C-均值聚类算法比模糊C-均值算法迭代调整过程短,收敛速度快,聚类效果好。     

基于对偶树复小波变换的模糊纹理分割

提出了一种基于对偶树复小波变换的模糊纹理图像分割算法,该方法包括纹理特征提取和纹理分类两个阶段,其中,特征提取在对偶树复小波变换的基础上进行;纹理分类可以直接用模糊C均值算法进行聚类从而完成纹理的分割,但由于该算法中隶属度函数是基于样本到类中心的距离设计的,这对非球形分布数据很不合理,针对该问题,引入样本与样本的紧致度来度量类中各个样本之间的关系从而修正隶属度函数,并将其用于纹理分类。实验结果表明与模糊C均值算法在运行时间上相差不大的情况下,改进的方法在分割精度、边缘准确性和区域一致性上都得到了明显的改善。     

标签分布熵正则的模糊C均值平衡聚类方法

许多应用场景要求每个类别的数量相对平衡,而传统模糊C均值(FCM)聚类算法无法实现此功能.为此,利用标签信息构造标签分布熵评价聚类的平衡度,然后将标签分布熵、模糊隶属度矩阵与标签矩阵之间的平方损失同时引入到传统FCM中,进而提出一种标签分布熵正则的模糊C均值平衡聚类方法 (FCMLDE).同时,利用迭代方法和增广拉格朗日乘数法设计该模型的优化算法.最后,利用6个真实数据集进行聚类实验,结果表明,所提方法在聚类性能和平衡性能上均具有很好的优势.     

一种基于萤火虫算法的模糊聚类方法

针对模糊C-均值聚类对初始值敏感、容易陷入局部最优的缺陷,提出了一种基于萤火虫算法的模糊聚类方法。该方法结合萤火虫算法良好的全局寻优能力和模糊C-均值算法的较强的局部搜索特性,用萤火虫算法优化搜索FCM的聚类中心,利用FCM进行聚类,有效地克服了模糊C-均值聚类的不足,同时增强了萤火虫算法的局部搜索能力。实验结果表明,该算法具有很好的全局寻优能力和较快的收敛速度,能有效地收敛于全局最优解,具有较好的聚类效果。     

一种基于改进混合蛙跳的KFCM算法

针对核模糊C-均值（KFCM）聚类算法存在易陷入局部极小值,对初始值敏感的缺点。将混合蛙跳算法（shuffled frog leaping algorithm,SFLA）用于KFCM中,但在聚类数较大和维数较高时,聚类效果不理想,为此提出将自适应惯性权重引入混合蛙跳算法的更新策略中,再用改进后的混合蛙跳算法求得最优解作为KFCM算法的初始聚类中心,利用KFCM算法优化初始聚类中心,求得全局最优解,从而有效克服了KFCM算法的缺点。人造数据和经典数据集的实验结果表明,新算法与KFCM和FCM聚类算法相比,寻优能力更强,迭代次数更少,聚类效果更好。